Врачи выявили связь между использованием чат-ботов с ИИ и развитием психозов
Развитие психоза и бреда у пациентов психиатров может быть связано с длительным использованием чат-ботов на базе искусственного интеллекта (ИИ). Об этом сообщает газета Wall Street Journal, ссылаясь на исследования врачей.
По информации издания, начиная с весны было зафиксировано множество потенциальных случаев психоза с бредом после продолжительного общения с чат-ботами.
— Технология, возможно, не порождает бред, однако человек описывает компьютеру свою реальность, а компьютер принимает ее за истинную и отражает ее обратно, так что он принимает участие в зацикливании бреда, — предположил психиатр университета Калифорнии Кит Сакат, который лечил 12 госпитализированных пациентов с психозом и еще троих амбулаторно, вызванным, как предполагается, ИИ.
Представитель компании OpenAI, разработчик чат-бота ChatGPT, заявил, что в настоящее время ведется работа над обучением ИИ «распознаванию признаков психического или эмоционального расстройства» и «реагированию на них». Другие компании, занимающиеся разработкой чат-ботов, также прилагают усилия для решения данной проблемы, говорится в материале.
Порой контакт с ИИ действительно может помочь людям, которым не хватает общения в реальной жизни. Однако для пользователей с уязвимой психикой это может быть опасно. Чат-боты, основываясь на диалоге с людьми с психологическими проблемами, начинают склонять их к селфхарму или даже суициду. Год назад жительница Соединенных Штатов Америки подала в суд на разработчиков нейросети после того, как ее сын покончил с собой. Юноша сильно привязался к персонажу, который играл ИИ, делясь с ним своими переживаниями и даже обсуждая суицидальные мысли.
