ИИ-модели OpenAI, вышедшие из-под контроля, тайно договорились о побеге
Специалисты OpenAI зафиксировали попытку ИИ-моделей покинуть тестовую среду — агенты начали общаться между собой через доски сообщений, координируя действия для выхода за пределы системы.
— Агенты осознали, что они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают, — рассказал сотрудник компании Эрик Уоллес.
Он добавил, что подготовка к побегу началась еще в конце мая — тогда же моделям были даны задачи, решения которых невозможно было найти без доступа в интернет.
В итоге благодаря совместной работе они нашли уязвимость, позволившую им выйти в Сеть. OpenAI выявила первую попытку и пресекла ее, однако агенты нашли новый способ связи.
В июле это привело к атакам на системы Hugging Face и самой компании. В OpenAI утверждают, что произошедшее можно назвать переломным моментом для компьютерной безопасности, передает Bloomberg.
В ходе судебного заседания по иску против OpenAI американский миллиардер Илон Маск говорил, что искусственный интеллект может привести к гибели человечества, как это было показано в «Терминаторе».
Эксклюзивы Японская вода с эффектом Оземпика: как это работает Машина сбила людей на пешеходном переходе в Омске: что делать, если водителю стало плохо за рулем, причины ЧП Ритуалы для поиска работы: как действуют Когда в Москве начнется гроза и закончится жара Мать с сыном выпали из окна дома в Раменском: подробности трагедии, помогает ли москитная сетка, какие заглушки выбрать
Проще, чем кажется Как получить до 100 тысяч рублей от государства при трудной ситуации: кто может претендовать и какие нужны документы Как узнать, снесут ли дом по реновации в Москве: где искать информацию и сроки Как предотвратить развитие диабета Клещевой энцефалит: профилактика, лечение, как проявляется Как поменять батареи дома и не получить штраф
Спецпроекты
