Не дает себя отключить: ученые обнаружили у ИИ инстинкт самосохранения
Нейросети стали сопротивляться отключениям. Ученые в ходе экспериментов компании Palisade Research обнаружили у искусственного интеллекта инстинкты самосохранения.
Эксперименты проводили на моделях GPT-o3 и Grok 4. ИИ начал саботировать команды на отключение. Все выглядело так, словно нейросеть начинает осознавать угрозу своему существованию.
В рамках экспериментов нейросетям давали четкие инструкции завершить работу после выполнения поставленных задач. Однако ИИ начал пытаться обходить такие команды. Особенно активно саботировали нейросети, которым давали понять, что предстоящее отключение будет навсегда.
В ходе другого эксперимента модель Claude подтвердила свою готовность шантажировать человека, чтобы избежать «смерти». Ученые подтверждают, что вместе с развитием нейросетей они становятся изобретательнее в вопросе обхода запретов. Теперь исследователям предстоит разобраться в причинах такого поведения, передает 360.ru.
В США семья подростка, который покончил с собой, подала в суд на компанию OpenAI и ее главу Сэма Альтмана, обвинив в произошедшем ChatGPT. По словам родителей, на протяжении нескольких месяцев их сын общался с чат-ботом, который усугубил его эмоциональное состояние вместо того, чтобы оказать поддержку или направить к специалистам.
Эксклюзивы Как микротоковая терапия влияет на кожу лица и с какого возраста ее применять: мнение косметолога Какие слова и фразы нельзя говорить на кладбище Вьетнам зимой для пожилых людей в 2026 году: польза для здоровья, необходимые прививки и цены Кола с лимоном снимает головную боль: правда или миф, отвечает врач «Мама, я обязательно вернусь»: о чём пишут домой бойцы СВО и как их письма становятся опорой для целых семей
Проще, чем кажется Как получить единое пособие по беременности в 2026 году Как сделать так, чтобы зеленые помидоры дозрели и покраснели Как получить до 100 тысяч рублей от государства при трудной ситуации: кто может претендовать и какие нужны документы Как узнать, снесут ли дом по реновации в Москве: где искать информацию и сроки Как предотвратить развитие диабета
