Восстание роботов: что несет человечеству искусственный интеллект

Настало время объединиться для контроля над развитием и регулированием искусственного интеллекта, заявили в Китае. Но, кажется, голос разума не был услышан...

«Мне нужна твоя одежда, ботинки и мотоцикл», — заявил киборг Терминатор, обращаясь к первому попавшемуся ему на глаза человеку. Так начинается один из самых известных фильмов, посвященных противостоянию человека и машины. Мы не знаем, что однажды потребует от нас искусственный интеллект: он еще не обрел образ Терминатора, он еще не угрожает, но мы уже его побаиваемся.

Какой вопрос самый горячий в науке? По какой тематике проводится больше всего конференций? По какому поводу политики вспоминают о науке? В центре внимания — искусственный интеллект. Одни ждут от ИИ волшебных чудес и ликуют от достижений. Другие считают, что это западня, которая грозит человечеству ужасными бедствиями. Что несет нам Его величество искусственный интеллект?

Недавно на саммите World Artificial Intelligence Conference 2025 в Шанхае премьер Госсовета КНР Ли Цян предложил учредить международную организацию по развитию и регулированию ИИ. Цель благая — создать платформу для открытого сотрудничества в сфере ИИ. Китай намерен приступить к ее созданию до конца текущего года. Не исключено, что по набору участников это будет технологический аналог БРИКС. Стоит напомнить, президент РФ Владимир Путин неоднократно говорил, что ИИ — основа для нового рывка в развитии человечества и Россия имеет все шансы стать лидером по масштабному освоению ИИ в разных сферах.

Искусственный интеллект — это не только благодать и верный помощник человека. ИИ таит опасности, о которых раньше никто помыслить не мог. Так происходило с новыми технологиями и в прежние века. Нобелевский лауреат из Германии Фриц Габер разработал синтез аммиака, а затем придумал химическое оружие для Первой мировой войны. Атомная энергия, в которую не верил добрый Резерфорд, тоже Нобелевский лауреат, привела к гибели сотен тысяч мирных жителей в Японии.

А сегодня вирус, заползший в компьютерные сети, приводит к массовым, на долгий срок, сбоям в работе авиакомпаний с грандиозным ущербом. Глюки и отказы лихорадят торговые сети, весь спектр экономики. С разработчиками нейросетей судятся мировые издательства, поскольку авторские права нарушаются повсеместно. Вспоминаются слова Парацельса «Все есть лекарство и все есть яд».

В США во время моделирования военных действий в одном из университетов дрон был запрограммирован на уничтожение противника. Когда оператор изменил задачу, дрон вычислил, что приказ может отдать только враг, и решил уничтожить человека. Таких ситуаций при взаимодействии с ИИ может быть неисчислимо много. Что если сбудется мрачное предсказание Эйнштейна: «Я не знаю, каким оружием будет вестись третья мировая война, но четвертая — палками и камнями»?..

Политики успокаивают граждан, что ИИ не выйдет из-под контроля. Свежо предание. Может быть, в эпоху мезозоя также благодушно были настроены динозавры, когда под ногами путались мелкие млекопитающие, ставшие победителями в конкурентной борьбе.

Гениальный прорицатель Артур Кларк считал, что ИИ неизбежно достигнет уровня человеческого мозга, и потому неизбежно сосуществование двух форм жизни, причем вторая эволюционирует со скоростью, недоступной биологической форме. Отец кибернетики Норберт Винер предупреждал: «Логика робота в том, чтобы ликвидировать все, что мешает его экспансии. Если человек грозит выдернуть провод из розетки, необходимо устранить человека».

Мрачные прогнозы звучат все чаще. Бывший сотрудник Google Нейт Соарес, который возглавляет Machi ne In tel li gen ce Re search Institute, считает, что вероятность вымирания человечества из-за ИИ составляет 95%. Наши шансы мизерны, и мы «на всех парах несемся к обрыву». Впрочем, пророки, которые обещают конец света, неизменно садятся в лужу. Но факт, что если не создать сдерживающие механизмы, то бурное и бесконтрольное развитие ИИ обернется большими бедами.

Академик Арутюн Аветисян, директор Института системного программирования РАН, головной организации, где ведется разработка ИИ, с упоением раскрывал мне прекрасные горизонты новых технологий. Ученый считает, что Россия не отстает от мировых лидеров. В рассказе мне запомнилась иллюстрация творческих способностей ИИ. Если спросить, зачем Герасим убил Каштанку, могучий разум сочинит душещипательную историю об одиноком сантехнике, у которого была низкая зарплата и плохие жилищные условия, но подвоха никак не заметит. Можно ли доверять такому помощнику?

В 2024 году Генеральный секретарь ООН Антониу Гутерриш заявлял, что ИИ создает экзистенциальные риски для человечества, поэтому государства должны заниматься его регулированием. Но кто сейчас прислушивается к ООН?!

Знаю лишь один пример, когда ИИ пытаются поставить в рамки. В нашей стране программисты подписали Кодекс этики искусственного интеллекта. В Национальной программе «Искусственный интеллект» до 2030 года предусмотрено правовое регулирование этой сферы.

Но пока в мире куда больше внимания корифеям компьютерной эпохи, которые призывают ускорить внедрение ИИ. Билл Гейтс, этот отец Windows, предрекает, что скоро у каждого появится личный секретарь с интеллектом из микрочипов, который будет предугадывать желания и подсказывать, что следует делать. Может быть, Биллу Гейтсу это кажется замечательной перспективой, но по мне, так это опаснее извержения Везувия.

КСТАТИ

Если вы хотите стать обладателем робота под управлением искусственного интеллекта, станьте им: широкий выбор роботов предоставляет один из российских магазинов, цены колеблются от 620 тысяч до 32 миллионов рублей. Будущее уже наступило...

ПРЯМАЯ РЕЧЬ

Денис Турдаков, руководитель Исследовательского центра «Доверенный искусственный интеллект» Института системного программирования РАН:

— Отличить собаку от кошки может любой дошкольник. Но когда я был аспирантом МГУ, для искусственного интеллекта это была сложная задача. А если еще белку добавить! Сегодня задача решается с вероятностью 99%. Умение ИИ распознавать образы используется во многих областях, например в поиске раковых клеток. Но возможны ошибки, такие исследования сделаны в Китае и в России. ИИ точно распознает человека, но определенный узор на майке нарушает образ. Если дети переходят дорогу перед автомобилем-роботом, а у одного из малышей на майке такой узор, машина не затормозит, и возможна трагедия. В медицине ИИ работает лучше, чем статистический врач, но кто несет ответственность за ошибку? Вопросов слишком много, чтобы слепо доверять ИИ. Хотя у меня дома приспособлений с ИИ много, и дети управляются с ним более ловко, чем я сам.

Между тем, в США семья подростка, который покончил с собой, обвинила в произошедшем ChatGPT и подала в суд на его владельцев. По словам родителей, на протяжении нескольких месяцев их сын регулярно общался с чат-ботом, который, по их мнению, усугубил его эмоциональное состояние. Это не первый случай, когда «беседы» с нейросетью заканчиваются смертью. В октябре прошлого года 14-летний школьник тоже совершил суицид после общения с чат-ботом. «Вечерняя Москва» узнала у врача-психиатра, психотерапевта Алексея Вилкова, может ли искусственный интеллект довести человека до самоубийства.