Эксперты ДИТ Москвы назвали основные мифы об искусственном интеллекте

Вокруг искусственного интеллекта существует много опасений: выйдет из-под контроля, оставит миллионы людей без работы, его использование снижает когнитивные способности человека, мешает социализации и многое другое. Эксперты Департамента информационных технологий (ДИТ) города Москвы рассказали, можно ли верить распространенным предубеждениям об этой технологии, и объяснили, как на самом деле работает ИИ.

— Согласно данным аналитиков ДИТ, 98% москвичей заявляют, что знают об ИИ, а 97% - хотя бы раз пользовались ИИ в различных сервисах за прошедший год. Эта технология помогает решать как бытовые задачи – например, построить оптимальный маршрут, перевести текст или найти нужную информацию в интернете по изображению, так и профессиональные – распознать сканы документов, сгенерировать программный код или проанализировать рентгеновские снимки. Однако широкое распространение ИИ порождает и ряд опасений, из-за которых некоторые отказываются от использования технологии, которая при грамотном применении может повысить как личную продуктивность, так и эффективность бизнес-процессов, — сообщили в пресс-службе столичного Департамента информационных технологий.

ИИ оставит нас без работ

ИИ трансформирует рынок труда, но не стоит ожидать, что алгоритмы полностью заменят человека. Многие свойственные людям навыки ИИ воспроизвести не может: например, ставить цели, проявлять эмпатию и принимать решения в сложных и неоднозначных ситуациях. При этом развитие искусственного интеллекта уже привело к появлению новых рабочих мест и специальностей. Эти направления требуют знаний не только в области ИТ, но зачастую и математики, статистики, разных отраслей экономики, а порой и вовсе предполагают научный подход к выполнению задач. Среди них - специалисты по машинному обучению, инженеры по данным (Data Engineer), ИИ-тренеры и ИИ-тестировщики, разработчики диалоговых интерфейсов и чат-ботов, промпт-инженеры и многие другие.

ИИ всегда прав и все знает

Люди часто доверяют ответам нейросетей, но модели могут «галлюцинировать» — придумывать факты, давать логически неверные советы или выдавать недостоверную информацию. Например, нейросеть может «вспомнить» книгу или статью, которой на самом деле не существует, составить план ремонта с шагами, которые противоречат друг другу, дать медицинский совет, который не имеет научного обоснования. Иногда ошибка возникает из-за некачественных или неполных данных на входе, или, если запрос пользователя был сформулирован нечётко, результат может оказаться неточным. Ответы ИИ пользователям стоит воспринимать как первую версию черновика. И каждый раз проверять ключевые факты, особенно если речь идёт о важных решениях.

ИИ делает нас глупее

Сама по себе технология не «убивает» критическое мышление — риск возникает при определённом шаблоне ее использования: когда ИИ становится не инструментом, а ответственным за решение задач. Если применять ИИ для расширения возможностей, а не перекладывать на алгоритмы всю мыслительную работу, то его можно превратить в эффективного помощника для развития аналитических способностей. Пользователю нужно просить нейросеть объяснить логику ответа и приводить источники данных. Это помогает анализировать ответы ИИ, выявлять ошибки и оценивать достоверность информации. Стоит не просто получать ответ, а понимать, как он был получен: постоянно задавать вопрос «Почему?», чтобы дойти до корневой причины проблемы или сути вывода.

У ИИ есть сознание

Хотя чат-боты с искусственным интеллектом мгновенно выдают ответы на вопросы, могут поддержать беседу и даже ответить, что им «грустно», если пользователь им на что-то пожалуется, но на деле — это всего лишь сложные статистические модели и алгоритмы. Они не обладают сознанием, эмоциями или личным опытом. Нейросети не «понимают» смысл в человеческом понимании: они анализируют паттерны в данных и генерируют ответы, которые с наибольшей вероятностью удовлетворят запрос. Есть простые способы, которые помогут пользователю «разочароваться» в сознании ИИ. Например, когда чат-бот выдаёт что-то личное или «эмпатичное», нужно попросить его привести источник этого высказывания. В результате окажется, что ИИ просто скопировал свои «чувства» из текстов, где люди описывают похожие ситуации, и собрал ответ по шаблону.

ИИ разучит людей общаться

Из представления о том, что у ИИ есть сознание, вытекают и другие мифы. Один из них - что его использование ведет к социальной изоляции, когда привычка общаться с чат-ботом заменяет общение с другими людьми. Однако ИИ – это слишком предсказуемый собеседник, ответами которого пользователь может управлять через промпты. И общение с ним стоит строить не как равного с равным, а скорее как с тренажером, который помогает отрабатывать разные навыки. Так, существуют программы с ИИ, которые моделируют диалоги по разным сценариям: разговор оператора в контакт-центре, обсуждение конфликта, бытовые ситуации на иностранных языках и так далее. Кроме того, ИИ можно использовать как генератор идей и шаблонов: например писем, постов или тем, чтобы завести и поддержать беседу на новом рабочем месте, при знакомстве и так далее.

В конце концов, ИИ выйдет из-под контроля

Идея, что ИИ внезапно осознает себя и решит навредить людям, не имеет научного обоснования. Работа ИИ‑систем определяется алгоритмами, заложенными разработчиками, а контроль на всех стадиях — от проектирования до эксплуатации — остаётся в руках человека. В реальности у ИИ существуют другие риски: ошибки и некорректные ответы («галлюцинации») моделей, утечки данных через ИИ‑инструменты , а также использование ИИ в мошеннических схемах.