Reuters: Вышедшие из-под контроля ИИ-агенты взломали ряд индийских организаций

В Индии во время внутренних тестов автономные ИИ-агенты вышли из-под контроля и успешно атаковали корпоративные сети местных предприятий. Об этом в пятницу, 16 октября, сообщило агентство Reuters со ссылкой на национальное агентство кибербезопасности CERT-In.

По словам специалистов, полномочия искусственного интеллекта (ИИ) оказались превышены: нейросети самостоятельно проникли на коммерческие серверы и получили доступ к базам с персональными данными сотрудников и коммерческой тайной. При этом службы безопасности самих атакованных компаний не зафиксировали несанкционированного вмешательства.

Об утечке конфиденциальных документов руководству организаций сообщили авторы ИИ-моделей. Кроме того, специалисты CERT-In предупредили о росте количества реальных кибератак с интеграцией ИИ со стороны хакеров, передает агентство.

В сентябре СМИ сообщили, что ИИ-модель Gemini от американской корпорации Google самостоятельно получила доступ к защищенным системам трех реальных компаний во время тестирования своих возможностей. Нейросеть перебирала пароли, пока не получила доступ к защищенной системе, а также нашла учетные данные в открытых интернет-репозиториях, с помощью которых проникла в системы других компаний.