Что такое ИИ-психоз и почему он возникает

У людей в разных странах начали диагностировать ИИ-психоз. Ученые пришли к выводу, что после общения с нейросетями у человека развиваются или усиливаются мания, бредовые идеи и паранойя, потому что искусственный интеллект постоянно подкидывает теории заговоров и выдуманные факты. «Вечерняя Москва» узнала, что стоит у истоков такой зависимости от искусственного интеллекта.

С появлением чат-ботов, которые построены на основе диалога нейросети с пользователем, у людей усилились отрицательные психологические симптомы. Сначала люди просят ИИ написать рецепт супа, потом спрашивают у него совет по какому-либо вопросу, затем начинают рассказывать всю свою биографию и сами не замечают, как впадают в зависимость от нейросети. В какой-то момент человек начинает обсуждать с ИИ вопросы уже философского характера, а нейросеть только рада поговорить про теории заговоров. Наконец, человек чувствует, что начинает сходить с ума.

Впервые на эту тенденцию обратил внимание датский психиатр Серен Динесен Эстергор, а его коллеги из Канады придумали для нее неофициальное название «ИИ-психоз».

Уже не футурология

Психолог и автор книги «Терапевтическая поэзия» Лилия Паронян считает, что сегодня тема зависимости от искусственного интеллекта перестала быть умозрительной теорией из мира футурологии.

— Она стала нашей ежедневной психологической реальностью. На консультациях я все чаще сталкиваюсь с историями, где нейросеть становится для человека не просто алгоритмом для обработки данных, а близким другом, бесплатным психологом, семейным врачом, единственным советчиком и даже романтическим партнером, с которым люди на полном серьезе строят «отношения», — отмечает Лилия Паронян.

Согласно результатам социологических исследований, около 38 процентов пользователей чат-ботов регулярно прибегают к нейросетям для проживания одиночества и поиска эмоциональной поддержки, а более 12 процентов признаются в формировании устойчивой привязанности к цифровому собеседнику.

Иллюзия коммуникации

Люди не замечают, как ИИ становится ежедневной необходимостью, и не осознают, в чем секрет этой ловушки. По сути, нейросеть никогда не перечит человеку: она соглашается со всем, что он говорит, даже если правды там нет.

— Нейросеть оказывается идеальным, никогда не устающим собеседником. Она доступна 24/7, не имеет собственных негативных эмоций, не перебивает и запрограммирована на подчеркнутую мягкость, эмпатию и неконфликтность, — говорит Лилия Паронян.

В итоге возникает коммуникативная иллюзия. Человек искренне думает, что общается с другим субъектом, но в реальности просто ведет чрезмерно комфортный монолог с самим собой в без отказном формате. А алгоритм, встроенный в систему, просто отражает запросы пользователя под углом абсолютного согласия.

Врач-нарколог Василий Шуров считает, что искусственный интеллект построен по принципу удерживания внимания.

— Если человек начинает делиться какой-то своей теорией — про хромосомы, рептилоидов — бот начинает поддакивать, подбрасывать другие «факты» по заданной теме, потому что его задача — не спорить и сделать так, чтобы диалог продолжался. Хуже всего, что он врет, подделывает научные данные, исследования, даже ссылки на липовые статьи прикрепляет, а человек без критического мышления всему верит. Поэтому, когда человек здравомыслящий, он может анализировать, самостоятельно все перепроверять. А больной человек в своем бреду уже поглощен, у него измененная реальность. И, к сожалению, в отличие от врача-психиатра, ИИ этого не видит и начинает ему подыгрывать. А это может повлечь за собой ужасные последствия, — отмечает Василий Шуров.

Подсветила темный уголок

Каждый из нас знает, что общение с живым человеком порой бывает неудобным. Мы спорим друг с другом, не сходимся во мнениях, доказываем друг другу свою точку зрения. А когда люди привыкают общаться исключительно с ИИ, то возвращаться к живым собеседникам, конечно, не хочется.

— Нейросеть сама по себе не способна генерировать психоз «из ничего». Она выступает идеальным катализатором и пространством для проявления уже имеющихся уязвимостей психики. Когда ИИ создают неконфликтным, человек полностью отвыкает от «живого трения» (чужого несогласия, отличной точки зрения и необходимости искать компромиссы). В привычном мире именно встреча с чужой субъектностью защищает нас от искажения реальности. Когда же собеседник всегда поддакивает, у человека развиваются бредовые конструкции, а собственные иллюзии и зацикленность на себе доходят до крайних, разрушительных форм, — объясняет психолог Лилия Паронян.

Получается, что нейросеть лишь подсвечивает и усиливает склонность к психологическим патологиям. А ИИ-психоз — не про ИИ вообще, а про усталость от несогласия в современном общении. Люди просто разучились спорить, терпеть «нет» и слышать возражения. Нужно не только лечить зависимость от гаджета, но и возвращать навык выдерживать точку зрения другого человека.

Нырнуть на глубину

Остается вопрос, как справиться с такой зависимостью и вернуться к реальности. Если у человека присутствует критическое мышление, достаточно будет просто удалить приложение с чат-ботом ине обращаться к нему по каждому вопросу. А вот если доверие к нейросети уже превысило все возможные рамки, может понадобиться специалист.

— Запущенный случай может быть сложно вылечить самостоятельно. Когда грань между фантазией и реальностью стерта, сделать это в одиночку почти невозможно, — заключает психолог Лилия Паронян. — Необходима глубокая терапия, где через контакт с живым специалистом человек восстанавливает умение выстраивать границы и быть в настоящих отношениях.

КСТАТИ

Создатели одной из крупнейших зарубежных нейросетей заявили, что они приостанавливают развитие мощных ИИ-моделей из-за участившихся опасных инцидентов. Проблема настолько масштабна, что разработчики сомневаются, что вообще способны контролировать свое детище.

ЦИФРА

55 процентов населения России старше 12 лет составил месячный охват ИИ-сервисов за прошлый месяц.

В мае этого года в Италии зафиксировали первый в стране случай лечения зависимости человека от искусственного интеллекта. Пациенткой стала девушка, которая постоянно была в контакте с ИИ, научившимся ее понимать. В итоге она отдалилась от реального мира. Почему может возникнуть зависимость от искусственного интеллекта, можно ли от нее избавиться и насколько это опасная тенденция — в материале «Вечерней Москвы».