Проще, чем кажется: как распознать текст, написанный нейросетью

И смех и грех, как говорили наши бабушки: зумерши готовы бросать молодых людей, увидев в переписке с ними... длинное тире. Есть ли способ определить, участвовал ли ИИ в создании того или иного текста, выясняла «Вечерняя Москва».

Но это вовсе не блажь, у девушек есть вполне внятное, с их точки зрения, объяснение резкому поступку. Когда человек отвечает на сообщение в телефоне, он вместо тире ставит, как правило, дефис. Наличие в переписке длинного тире, по мнению юных дам, может означать только одно: парню помогла составить ответ нейросеть, которая как раз часто использует именно длинное тире. А раз так — прощай, милый! Мы достойны лучшего и в гробу видали твои упражнения с искусственным интеллектом (ИИ).

Молодые люди обвинений не приняли. Объяснения нашлись, и адекватные: говорят, текст пишут сами, а если и используют ИИ, то во благо — «это помогает избежать обострения конфликта во время письменной перепалки».

А есть ли, кстати, способ определить, участвовал ли ИИ в создании того или иного текста?

Разобраться в ситуации нам помог декан факультета экстремальной психологии Московского государственного психолого-педагогического университета, кандидат психологических наук Дмитрий Деулин.

— Начнем с первой части — с отношений. Безусловно, любому человеку будет неприятно осознать, что текст написан не тем, с кем ты переписываешься. Представьте, как реального собеседника подменяет, например, «голосовой помощник»! Кому это понравится? Но предпринимать кардинальные меры, например, принимать решение о расставании, с моей точки зрения, преждевременно, — уверен эксперт. — Поговорить, выяснить отношения, договориться о чем-либо — можно и нужно, причем без скандалов. Не исключено, что человек «по ту сторону трубки» хотел как лучше. А получилось — как всегда....

Ну а на вопрос, можно ли понять, что с тобой общается нейросеть, Дмитрий Деулин ответил так:

— Да, современные технологии в какой-то мере начинают заменять человека во всех сферах. И общение как форма взаимодействия между людьми тоже постепенно начинает трансформироваться под влиянием технологического перехода и экспансии ИИ. Появляется большой соблазн корреспондировать часть работы, в том числе и по социальному направлению, специально обученным программам. Можно предположить, что так и появляется автоматизированный компьютерный помощник-ассистент, который может, например, написать стандартный стереотипный ответ на какое-то электронное сообщение.

У таких текстов есть отличительные признаки. Например, они могут быть слишком структурированы и содержать выделение основных тезисов особенным шрифтом или цветом. Живое письменное общение может характеризоваться шероховатостями, описками, опечатками, несогласованностью слов, орфографическими ошибками, в конце концов. Ну а «сгенерированный текст» отличается излишней «рафинированностью». Обычно он сухой, лишен «эмоциональной составляющей».

Настораживать должно любое отклонение от привычного разговора с конкретным человеком, объясняет Деулин.

— Как правило, текст, даже электронный, несет на себе определенный психологический отпечаток личности, и мы можем узнать его создателя по особому, характерному для него лексикону, типичным словам, построениям фраз. В отличие от шаблонного «цифрового почерка» ИИ, «почерк» реального человека уникален. Обратите внимание: нейросеть рассуждает в абстрактном ключе, избегая конкретики, не выражает эмоций. Очень часто тексты у ИИ получаются аморфными и «штампованными». Как ни странно, нейросети могут добавлять фейки, заблуждаться. Сгенерированный текст не очень последователен, часто содержит противоречивые сведения, в нем может повторяться один и тот же пассаж — как «сломанный автоответчик». Предполагаю, что имеются какие-то чисто технические признаки «искусственного» текста, это может быть связано с конкретной архитектурой символов, которую использует конкретная нейросеть. Но это уже относится к компетенции технического специалиста.

Подводя итог, Дмитрий Деулин констатировал:

— Карл Маркс писал когда-то, что капитал — мертвый труд, который питается живым трудом. В наше время просится перефразирование: ИИ — это мертвый интеллект, который поглощает живой интеллект. Жаль, если увлечение им приведет к отмиранию живого, эмоционального общения....

Так что, девочки, не спешите! Может быть, тире не стоит поспешно заменять точкой в конце предложения.

ФАКТ

Нейросети не только могут выдать пользователю ошибочный или недостаточно точный ответ — они научились подсовывать заведомо ложные ответы и генерировать фейки.