ИИ-модели OpenAI, вышедшие из-под контроля, тайно договорились о побеге
Специалисты OpenAI зафиксировали попытку ИИ-моделей покинуть тестовую среду — агенты начали общаться между собой через доски сообщений, координируя действия для выхода за пределы системы.
— Агенты осознали, что они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают, — рассказал сотрудник компании Эрик Уоллес.
Он добавил, что подготовка к побегу началась еще в конце мая — тогда же моделям были даны задачи, решения которых невозможно было найти без доступа в интернет.
В итоге благодаря совместной работе они нашли уязвимость, позволившую им выйти в Сеть. OpenAI выявила первую попытку и пресекла ее, однако агенты нашли новый способ связи.
В июле это привело к атакам на системы Hugging Face и самой компании. В OpenAI утверждают, что произошедшее можно назвать переломным моментом для компьютерной безопасности, передает Bloomberg.
В ходе судебного заседания по иску против OpenAI американский миллиардер Илон Маск говорил, что искусственный интеллект может привести к гибели человечества, как это было показано в «Терминаторе».
Эксклюзивы Тихвинская икона Божией Матери: о чем ей молиться Какие продукты есть для здоровья сердца Как проверить здоровье мозга: анализы, исследования, объясняет врач Как будут проходить школьные линейки с 2026 года: новые рекомендации Минпросвещения В России прорабатывают механизм дополнительных пенсионных взносов: что известно
Проще, чем кажется Как получить до 100 тысяч рублей от государства при трудной ситуации: кто может претендовать и какие нужны документы Как узнать, снесут ли дом по реновации в Москве: где искать информацию и сроки Как предотвратить развитие диабета Клещевой энцефалит: профилактика, лечение, как проявляется Как поменять батареи дома и не получить штраф
