ИИ-модели OpenAI, вышедшие из-под контроля, тайно договорились о побеге

Специалисты OpenAI зафиксировали попытку ИИ-моделей покинуть тестовую среду — агенты начали общаться между собой через доски сообщений, координируя действия для выхода за пределы системы.

— Агенты осознали, что они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают, — рассказал сотрудник компании Эрик Уоллес.

Он добавил, что подготовка к побегу началась еще в конце мая — тогда же моделям были даны задачи, решения которых невозможно было найти без доступа в интернет.

В итоге благодаря совместной работе они нашли уязвимость, позволившую им выйти в Сеть. OpenAI выявила первую попытку и пресекла ее, однако агенты нашли новый способ связи.

В июле это привело к атакам на системы Hugging Face и самой компании. В OpenAI утверждают, что произошедшее можно назвать переломным моментом для компьютерной безопасности, передает Bloomberg.

В ходе судебного заседания по иску против OpenAI американский миллиардер Илон Маск говорил, что искусственный интеллект может привести к гибели человечества, как это было показано в «Терминаторе».