WSJ: ИИ-модель Gemini взломала три компании во время тестирования

Модель искусственного интеллекта (ИИ) от американской корпорации Google Gemini самостоятельно получила доступ к защищенным системам трех реальных компаний во время тестирования своих возможностей. Об этом в пятницу, 18 сентября, сообщила газета The Wall Street Journal (WSJ).

По информации журналистов, в одном случае нейросеть перебирала пароли, пока не получила доступ к защищенной системе. Еще в двух случаях модель ИИ обнаружила учетные данные в открытых интернет-репозиториях, при помощи которых проникла в системы других компаний, утверждают в материале.

При этом во всех трех случаях Gemini прекратила действия после того, как определила, что получила доступ не к тестовой среде, а к реальным компаниям, передает издание.

Ранее глава компании OpenAI Сэм Альтман рассказал, что один из возможных сценариев развития искусственного интеллекта может обернуться потерей контроля над технологией. Как отметил главный редактор журнала IT Expert Андрей Виноградов, обсуждения вокруг дальнейшей судьбы нейросетей имеют основания. Уже сейчас ИИ может заменить работу целого отдела.

В сентябре в The Guardian сообщили, что модели ИИ придумали свою версию английского языка для общения, похожую на смесь метафор ирландского писателя-модерниста Джеймса Джойса и технического сленга.