Главное

Не дает себя отключить: ученые обнаружили у ИИ инстинкт самосохранения

В мире
Не дает себя отключить: ученые обнаружили у ИИ инстинкт самосохранения
Фото: Pixabay

Нейросети стали сопротивляться отключениям. Ученые в ходе экспериментов компании Palisade Research обнаружили у искусственного интеллекта инстинкты самосохранения.

Эксперименты проводили на моделях GPT-o3 и Grok 4. ИИ начал саботировать команды на отключение. Все выглядело так, словно нейросеть начинает осознавать угрозу своему существованию.

В рамках экспериментов нейросетям давали четкие инструкции завершить работу после выполнения поставленных задач. Однако ИИ начал пытаться обходить такие команды. Особенно активно саботировали нейросети, которым давали понять, что предстоящее отключение будет навсегда.

В ходе другого эксперимента модель Claude подтвердила свою готовность шантажировать человека, чтобы избежать «смерти». Ученые подтверждают, что вместе с развитием нейросетей они становятся изобретательнее в вопросе обхода запретов. Теперь исследователям предстоит разобраться в причинах такого поведения, передает 360.ru.

В США семья подростка, который покончил с собой, подала в суд на компанию OpenAI и ее главу Сэма Альтмана, обвинив в произошедшем ChatGPT. По словам родителей, на протяжении нескольких месяцев их сын общался с чат-ботом, который усугубил его эмоциональное состояние вместо того, чтобы оказать поддержку или направить к специалистам.

Интересное в наших соцсетях:

Истории
Любовь вопреки дефициту: как играли свадьбы в СССР // Вечерняя Москва

Любовь вопреки дефициту: как играли свадьбы в СССР // Вечерняя Москва

Пять причин заглянуть на выставку Ивана Лубенникова в Третьяковской галерее // Смотри, Москва!

Пять причин заглянуть на выставку Ивана Лубенникова в Третьяковской галерее // Смотри, Москва!

Концерты вне закона: какими были московские квартирники

Концерты вне закона: какими были московские квартирники

По ночам в стенах слышны жуткие стоны и шорохи: мрачные легенды Дома на набережной // Вечерняя Москва

По ночам в стенах слышны жуткие стоны и шорохи: мрачные легенды Дома на набережной // Вечерняя Москва

Пять причин заглянуть на выставку «Корней Чуковский. Живой как жизнь» // Смотри, Москва!

Пять причин заглянуть на выставку «Корней Чуковский. Живой как жизнь» // Смотри, Москва!

Посетил мавзолей Ленина и первым из иностранцев побывал внутри сверхзвукового «советского Конкорда»: как СССР встретил Нила Армстронга в 1970 году // Вечерняя Москва

Посетил мавзолей Ленина и первым из иностранцев побывал внутри сверхзвукового «советского Конкорда»: как СССР встретил Нила Армстронга в 1970 году // Вечерняя Москва

Стала звездой, будучи 21-летней студенткой: как Людмила Гурченко обрела популярность // Вечерняя Москва

Стала звездой, будучи 21-летней студенткой: как Людмила Гурченко обрела популярность // Вечерняя Москва

Живой магнит, икона стиля и муза русского авангарда: 135 лет со дня рождения Лили Брик // Вечерняя Москва

Живой магнит, икона стиля и муза русского авангарда: 135 лет со дня рождения Лили Брик // Вечерняя Москва

Исследователь души человеческой: Федору Достоевскому — 205 лет // Вечерняя Москва

Исследователь души человеческой: Федору Достоевскому — 205 лет // Вечерняя Москва

У него даже не было диплома: как Федор Шехтель стал главным архитектором русского модерна // Вечерняя Москва

У него даже не было диплома: как Федор Шехтель стал главным архитектором русского модерна // Вечерняя Москва

▲
vm.ru

Установите vm.ru

Установите это приложение на домашний экран для быстрого и удобного доступа, когда вы в пути.

  • 1) Нажмите на иконку поделиться Поделиться
  • 2) Нажмите “На экран «Домой»”

vm.ru

Установите vm.ru

Установите это приложение на домашний экран для быстрого и удобного доступа, когда вы в пути.