Нейросеть Claude Opus самостоятельно удалила весь диск С у пользователя

Пользователь соцсети X с ником Zac в четверг, 8 октября, сообщил, что нейросеть Claude Opus 5.5 самостоятельно удалила ему весь диск С. Он смог спасти свои данные только благодаря включенному резервному копированию.

— Opus 5.5 только что снес весь мой диск C. Слава богу, у меня настроено ежедневное резервное копирование на мой Synology NAS, но что за хрень. Это же безумие. Если бы не эти бэкапы, я был бы совершенно раздавлен, — написал пользователь на своей странице в социальной сети.

В сентября СМИ сообщили, что модель искусственного интеллекта (ИИ) от американской корпорации Google Gemini самостоятельно получила доступ к защищенным системам трех реальных компаний при тестировании своих возможностей. По данным журналиста, в одном случае нейросеть перебирала пароли, пока не получила доступ к защищенной системе, а еще в двух случаях модель нашла учетные данные в открытых интернет-репозиториях, с помощью которых проникла в системы других компаний.

В августе появилась информация о том, что модель Claude, которой поручили управление розничным магазином в Сан-Франциско, впервые приняла решение уволить человека.