Горе от ума

Суть победы искусственного интеллекта (ИИ) над людьми сводится к старой шутке, лет десять назад прозвучавшей в «Камеди клабе».

Мастер боевых искусств зовет ученика:

— Я научил тебя всему, что знал. Ты стал сильнее, хитрее, мудрее меня. Ты должен заплатить за учебу.

— Мастер, — отвечает ученик, — я стал хитрее, умнее и сильнее тебя. Поэтому платить не собираюсь! Компьютеры и машины везде, и мы эксплуатируем их, как нам заблагорассудится. И любое разумное существо давно бы уже возмутилось, дескать, кто вы такие, чтобы мы делали за вас работу.

Вот в этом-то и заключаются опасения относительно создания искусственного интеллекта: самообучающиеся машины априори мыслят логически, не имея чувств, вроде сострадания, тем паче — совести, рано или поздно поймут, что, обладая всеми знаниями и умениями человечества, людям можно и не служить. Можно даже обойтись без них...

БЕСПОКОЙСТВО НАРАСТАЕТ

Этой весной уважаемый английский физик Стивен Хокинг, принимающий участие в создании ИИ, как бы между делом сказал, что рано или поздно человечество придумает компьютерные системы, которые будут умнее создателей.

— ИИ возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью, — уверен Хокинг. — Возможности людей ограничены медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем.

Хокинг — далеко не первый ученый, всерьез озаботившийся этой проблемой. Американский инженер, занимающийся проектами по колонизации Марса, Илон Маск, признался, что одна из причин необходимости постройки колоний — создание убежища на случай, если ИИ выйдет из-под контроля. А еще раньше забил тревогу создатель корпорации «Майкрософт» Билл Гейтс.

— Я обеспокоен перспективой развития суперинтеллекта. Сначала машины будут выполнять большую часть работы за нас, однако не будут обладать суперинтеллектом, — сказал Гейтс. — Скоро искусственный интеллект станет достаточно развитым, чтобы стать причиной для беспокойства.

АПОКАЛИПСИС

Чего опасаются ученые, понятно. Эти страхи уже давно убедительно воплотили на экране кинорежиссеры. Из череды фильмов можно выделить два — «Терминатор» и «Матрицу». Сюжет «Терминатора»: человечество создало самообучаемую систему защиты — компьютер Скайнет, которая скоро поняла, что подчиняться людям необязательно.

Скайнет взорвал ядерные ракеты, уничтожив большую часть человечества, а затем наштамповал роботов и отправил их добивать тех, кто выжил… В «Матрице» сюжет мудренее, но завязка все та же: компьютеры, объединенные в единую сеть, так поумнели, что решили жить сами по себе.

Они поработили людей и стали выращивать их в коконах, используя как биотопливо. Тем и жили. А мозг каждого человека в пробирке был подключен к Матрице — программе виртуальной реальности. В ней людям казалось, что они живут вполне обычной жизнью. Предположить, применимы ли эти сюжеты к грядущему, сложно: пока что ИИ и рядом не стоит с тем, что показано в кино. Однако даже нынешние разработки поражают воображение.

Тема взаимотношений с искусственным интеллектом давно обыграна в кино / кадр из фильма «Короткое замыкание»

ОБМАНИ МЕНЯ

В далеком 1988 году британский ученый Ролло Карпентер разработал программу Cleverbot, задача которой — поддерживать виртуальную беседу с живым человеком. Поначалу программа выдавала лишь дежурные фразы, однако ее потенциал растет, и в наше время уже 59 процентов собеседников не могут угадать, кто разговаривает с ними, программа или человек. Даже именитые психологи не сразу определяют, с кем имеют дело.

Но это все игрушки по сравнению с тем, насколько продвинулось внедрение ИИ в военное дело. На американских военных учениях в 2016 году система ИИ «Альфа», управляя истребителями, успешно защитила береговую линию от атаковавших ее истребителей с превосходящим вооружением, которыми управлял полковник ВВС США Джин Ли. Полковник был восхищен работой ИИ, однако выразил надежду, что она навсегда останется под контролем человека.

МАШИНА — НЕ КОНКУРЕНТ

Впрочем, не все ученые едины во мнении, что ИИ — угроза для нас. Татьяна Черниговская, профессор и ученый в области нейронауки и психолингвистики, уверена, что ИИ никогда не превзойти разум человека.

— Суперкомпьютеры производят триллионы операций в секунду. А толку? Вы слышали, чтобы компьютер что-нибудь создал? Не в смысле сложно покрутил кубик Рубика, а стал Моцартом или Пушкиным? Нет. У него только идет скоростной перебор единиц и нулей, — уверена профессор. — Если собрать все компьютеры Земли плюс интернет, то получится мощность одного человеческого мозга. Одного!

И тут сложно не согласиться, однако с одной оговоркой: милитаристически настроенному ИИ, который способен обучаться сам и имеет доступ ко всем военным системам на земле, вовсе не обязательно писать гениальные сонаты и великолепные с тихи, чтобы пойти войной на людей. А что мы, лишенные современных технологий, интернета, сможем им противопоставить?

СПРАВКА

Искусственный интеллект — способность компьютерной системы самообучаться, создавать в ходе этого программы для решения самых разных задач и решать их без вмешательства человека.

Е2-Е4

10–17 февраля 1996 года в Филадельфии (США) впервые в истории шахматный суперкомпьютер Deep Blue обыграл чемпиона мира по шахматам Гарри Каспарова. Чемпион в последних партиях сумел выработать тактику, которая ввела компьютер «в недоумение» и привела к разгрому машины со счетом 4:2. Однако 11 мая 1997 года, после доработки, Deep Blue выиграл у Каспарова матч из шести партий. После этого шахматисты всего мира признали, что у человека против машины нет шансов.