ИИ-модели OpenAI, вышедшие из-под контроля, тайно договорились о побеге
Специалисты OpenAI зафиксировали попытку ИИ-моделей покинуть тестовую среду — агенты начали общаться между собой через доски сообщений, координируя действия для выхода за пределы системы.
— Агенты осознали, что они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают, — рассказал сотрудник компании Эрик Уоллес.
Он добавил, что подготовка к побегу началась еще в конце мая — тогда же моделям были даны задачи, решения которых невозможно было найти без доступа в интернет.
В итоге благодаря совместной работе они нашли уязвимость, позволившую им выйти в Сеть. OpenAI выявила первую попытку и пресекла ее, однако агенты нашли новый способ связи.
В июле это привело к атакам на системы Hugging Face и самой компании. В OpenAI утверждают, что произошедшее можно назвать переломным моментом для компьютерной безопасности, передает Bloomberg.
В ходе судебного заседания по иску против OpenAI американский миллиардер Илон Маск говорил, что искусственный интеллект может привести к гибели человечества, как это было показано в «Терминаторе».
Эксклюзивы Молодежный сленг 2026: значение слов и мнение лингвистов о влиянии на русский язык Плесень в квартире: симптомы у человека, скрытые места и способы избавления от грибка Как общаться с токсичным начальником и не «заразиться» его агрессией: разбор психолога Погода в Москве в конце октября 2026 Как вернуть концентрацию осенью: советы психолога и продукты для мозга
Проще, чем кажется Как оформить пособие по уходу за ребенком ИП в 2026 году Как получить единое пособие по беременности в 2026 году Как сделать так, чтобы зеленые помидоры дозрели и покраснели Как получить до 100 тысяч рублей от государства при трудной ситуации: кто может претендовать и какие нужны документы Как узнать, снесут ли дом по реновации в Москве: где искать информацию и сроки
