Как распознать созданное ИИ изображение

Человеческие лица, созданные искусственным интеллектом, вызывают больше доверия, чем реальные фото, выяснили ученые. Кажется, «эффект зловещей долины» начал работать в обратную сторону...

Искусственный интеллект (ИИ) продолжает находить все более изощренные способы обманывать человеческий разум. Сначала он научился создавать нечто, похожее на лица людей, затем — на их голоса. Первое время человек успешно распознавал созданные ИИ фото или речь. Теперь же, после весьма успешно проделанной «работы над ошибками», у людей не мелькает и мысли о том, что они смотрят на контент, полностью сгенерированный нейросетью. К такому выводу пришли ученые из Ланкастерского, Стэнфордского и Калифорнийского университетов. Для того чтобы подтвердить выдвинутую гипотезу, они провели целый ряд исследований. В рамках первого было установлено: шанс отличить реальные лица от сгенерированных равен примерно 50 процентам. Лишь 58,4 процента участников справились с этой задачей. Второй эксперимент только подтвердил полученные результаты. По его итогам обнаружилось, что реальные лица пользуются меньшим доверием респондентов, нежели созданные нейросетями!

Неужели вероятность уличить нейросеть в обмане стремится к минимуму? На этот вопрос ответила один из авторов исследований Алексис Макгуайр. По ее мнению, сегодня людей действительно стало гораздо легче обмануть при помощи искусственного интеллекта, чем раньше. Но, как говорится, признание проблемы лишь половина успеха. Похоже, что пока каждый из нас нуждается в помощи в данном вопросе. За ней «Вечерка» обратилась к Максиму Абрамову, кандидату технических наук, руководителю лаборатории прикладного искусственного интеллекта Санкт-Петербургского Федерального исследовательского центра РАН. Он утверждает, что со знанием определенных факторов, на которые нейросеть обращает внимание при генерации изображений, вероятность распознать работу ИИ значительно выше.

— Современные модели обучают на огромных массивах реальных фотографий. Они буквально подстраивают результат под то, что человеческий глаз считает правдоподобным. Конечно, сначала встречались технические огрехи: лишние конечности, странные уши и многое другое. Но данные побочные эффекты были актуальны для простых и ранних архитектур. Новые устроены иначе, — поясняет Абрамов. — Они восстанавливают изображение более скрупулезно, буквально пошагово, выводя на экран не конкретного человека, а усредненный образ, собранный на основе тысяч примеров, увиденных ранее. В результате на выходе мы видим персонажа, не имеющего шрамов, асимметрии и, к примеру, индивидуальных особенностей мимики.

По словам Максима Абрамова, именно это и становится решающим при вынесении вердикта, ведь психология лица давно показывает, что как раз усредненные черты воспринимаются человеком как более приветливые и располагающие к доверию.

Пока универсального принципа распознавания ИИ-контента нет. Однако остается набор косвенных факторов, которые действительно могут помочь, рассказывает Абрамов. Так, помимо специализированных детекторов, неплохо справляющихся с данной задачей, можно попробовать обратить внимание на несколько деталей.

— Однозначно стоит посмотреть на уши. У нейросетей часто не очень хорошо получаются завитки ушных раковин и мочки. Полезно будет проверить симметрию. У реального лица она отсутствует, а сгенерированное чаще выглядит так, словно его отразили, поменяли правую и левую стороны. Кроме того, достаточно неестественно могут смотреться аксессуары: сережки или очки. Может даже показаться, что они парят в воздухе. В таких случаях точно не ошибетесь, — уверен эксперт.

С мнением согласна профайлер и HR-специалист Наталия Ларичкина.

— Искусственный интеллект стремится к идеализации. В реальной жизни добиться этого очень сложно, а порой и вовсе невозможно, ведь строение человека задумано природой, а его внешний вид зависит от множества факторов, на которые не всегда удается повлиять. Поэтому, помимо симметричности лица, обратить внимание можно на состояние кожи. Если на ней совсем нет никаких пор или следов макияжа, то велика вероятность, что изображение либо хорошо отретушировано, либо нереально. То же правило работает и с зоной шеи, — подсказывает Ларичкина.

Такую тягу к прекрасному и, в частности, желание людей верить в него Наталия Ларичкина объясняет канонами красоты, существовавшими раньше в моде и в кино.

— То, что мы выбираем лица, сгенерированные нейросетью, вместо реальных, совсем неудивительно, ведь красивое притягивает куда чаще. Более того, при виде чего-то идеального человеку хочется верить в то, что оно реально. Знаком нам этот сценарий уже давно. Нередко, насмотревшись на красивых актеров, транслирующих образ мужчины или женщины мечты, мы ищем их и в реальной жизни, разочаровываясь и отвергая тех, кто существует на самом деле, — дополняет Ларичкина.

Но не все так просто. Помимо идеальных черт, выдавать нейросеть могут и те детали, которые, напротив, слишком асимметричны. Например, линия роста волос, которая часто получается чересчур извилистой и нереалистичной.

Вполне вероятно, что большую роль играет скорее понимание самой технологии. Это доказывает другое исследование, проведенное российским финансовым маркетплейсом. Его результаты фиксируют, что доля людей старше 50 лет, которые научились распознавать ИИ, активно увеличивается. Да, она не превышает долю молодых людей и людей среднего возраста, но при этом демонстрирует самый быстрый годовой прирост среди остальных. Получается, что пока у человека есть все необходимое, чтобы одержать верх в этом противостоянии с искусственным интеллектом. Так почему же «эффект зловещей долины» уже играет с нами достаточно злую шутку? Ответ прост: нейросети, как и люди, начали учиться на своих ошибках и глубже изучать человека как снаружи, так и изнутри. А кто одержит победу в этой борьбе, решать только нам, ибо, скорее всего, индустрия только продолжит развитие.

СПРАВКА

Впервые об «эффекте зловещей долины» мир услышал из уст японского ученого-робототехника Масахиро Мори. В конце 20 века он выдвинул следующую идею: чем больше роботы станут походить на людей, тем больше отторжения они будут вызывать впоследствии. Особенно если будут выглядеть и двигаться почти, но не совсем как человек. Например, будут обладать неестественной мимикой или безжизненным взглядом. По его мнению, подобное отторжение должно происходить до тех пор, пока не удастся преодолеть гипотетический провал, обозначенный как «зловещая долина». Долгое время гипотезу не удавалось подтвердить или опровергнуть. Соглашаться с Мори стали только в 20-е годы нашего столетия. Пока перейти эту «долину» не смог ни один робот.

В ТЕМУ

В июле Госдума приняла рамочный Федеральный закон «О поддержке развития технологий искусственного интеллекта». Документ впервые закрепит не только сами понятия ИИ и большой фундаментальной модели, но и принципы их регулирования. Закон обяжет крупные онлайн-платформы давать пользователям техническую возможность маркировать контент, созданный с помощью ИИ. Ожидается, что в силу закон вступит в сентябре.