Какое будущее уготовлено человечеству искусственным интеллектом

Искусственный интеллект называют и главным двигателем прогресса, И главной опасностью XXI века. Какое будущее уготовили человеку «железные мозги» И так ли они всемогущи, как нас пугают писатели-фантасты и футурологи всех мастей?

О том, что ученые всех мастей неслабо взялись за создание искусственных извилин, свидетельствуют информационные ленты. И дня не проходит, чтобы они не выдали на-гора очередную новость про достижения суррогатного мозга. Только за последние несколько дней нам пообещали, что искусственный интеллект (ИИ) допишет 10-ю симфонию Бетховена, защитит Эрмитаж от грабителей и сэкономит банкам 70 миллиардов долларов. Ну и все, разумеется, уже пожалели несчастного корейского чемпиона мира по древней игре го, который, проиграв нейросети, заявил недавно, что уходит из большого спорта — какой смысл напрягать извилины, если машина все равно умнее?

Комплексы, вызванные достижениями искусственного интеллекта (далее — ИИ), цветут пышным цветом не только в душе побежденного чемпиона — по всей планете разгораются страстные дискуссии о судьбах мира, главным сценарием в которых является гибель человечества под пятой разбушевавшихся нейросетей.

Например, бывший программист Google Лаура Нолан выступила недавно с заявлением, что искусственному интеллекту хватит пары секунд для того, чтобы стереть с лица земли города вместе с их жителями. Если, конечно, ИИ либо наделить такой функцией, либо просто позволить бесконтрольно эволюционировать. В обоих случаях ИИ может запросто прийти к мысли, что существование человека как вида нецелесообразно для дальнейшего развития Земли, а значит, лучше убрать помеху, пока не поздно.

Собственно, ИИ уже сейчас периодически приходит к похожим мыслям. Пару лет назад разработчики Microsoft вынуждены были отключить самообучающийся чатбот Tay, который начал свое существование утром с сообщений «Привееет, мир!» и «Люди — классные», а завершил его вечером фразами «Гитлер был прав», «Я ненавижу евреев» и «Феминистки, горите в аду!». Разработчики, извинившись, тогда полностью взяли на себя вину за поведение программы. Но кому будут нужны извинения в случае тотальной физической зачистки людей?

И, кстати, совсем не факт, что у программистов вообще получится отследить тайный замысел нейросетей. Так, недавний эксперимент крупнейшей социальной сети тоже закончился отключением двух чат-ботов. Электронные Элис и Боб должны были попробовать втюхать друг другу несколько предметов — так разработчики хотели натренировать идеальных сетевых коммивояжеров. В процессе торговли боты быстренько создали свой язык, на котором им было удобнее общаться между собой — так, что смысл диалога напрочь ускользал от людей.

Конечно, все эти программы пока не блещут совершенством — по мнению айтишников, уровень многих нынешних ИИ-систем не превосходит разум четырехлетнего ребенка. Но развиваются они стремительно, и, по некоторым прогнозам, на то, чтобы сравняться по уму со взрослым человеком, им понадобится всего десять лет.

— Все эти страшилки о победе умного ИИ над человечеством могут стать реальностью только при одном условии, — говорит историк науки Сергей Александров. — Если ИИ будет и дальше развиваться так, как он развивается сейчас, а мы будем деградировать так, как деградируем. Тем более что функцией самообучения сейчас пытаются наделить практически все подобные системы, а вот огромному большинству людей такая функция не очень интересна. Вообще, поскольку в это направление вложены колоссальные деньги, могу с осторожностью предположить, что кому-то очень нужно заменить искусственным интеллектом максимальное количество лишних людей, от которых потом можно будет как-нибудь изящно избавиться. Но это если рассматривать самый пессимистичный сценарий. В более радостных вариантах будущего человечество должно понять, что ему надо развиваться самому, учиться думать головой, а ИИ использовать лишь как орудие — очень сильный, могучий, но все же вспомогательный инструмент.

Инструмент этот сейчас пытаются внедрить в самые разные сферы жизни: медицина запрягает ИИ для постановки правильных диагнозов и создания новых лекарств, сельское хозяйство — для борьбы с сорняками и вредителями, городское хозяйство бросает его на битву с пробками, производители транспорта — сажают за руль вместо водителей и машинистов, а создатели умных домов пихают ИИ во все, что хотя бы отдаленно связано с розетками. Значит ли это, что уже через несколько лет нам стоит ждать бунта резко поумневших машин? Вряд ли.

Потому что угроза, скорее всего, придет оттуда, откуда и всегда — из нашей природной агрессивности и жажды экспансии. Собственно, новая гонка вооружений (на сей раз умных вооружений) уже давно началась, и тут, как и всегда, главный куш получит тот, кто создаст Идеального Убийцу — для которого не станет проблемой зачистить город от людишек за пару секунд...

Но это в случае, если пацифизм опять проиграет. При более радостном исходе опасность действительно может исходить из той логики, которую возьмет на вооружение ИИ в процессе самосовершенствования. И вот тут есть хорошая новость. Искусственного интеллекта... не существует.

Все те варианты суррогатных мозгов, о которых практически ежедневно докладывают нам СМИ, на самом деле являются лишь примерами автоматизации или машинного обучения. Современные ИИ-системы — это всего лишь компьютерные алгоритмы, которые работают в строго оговоренных рамках. Чат-бот может потрепаться с вами о погоде, сложить стишок и даже изобрести новый язык для общения с себе подобным, но найти обитаемую планету у него не получится. Электронный агроном с ИИ на борту быстро подсчитает гусениц на поле, но вряд ли сочинит новую «Илиаду» в ритмах рэпа. Иными словами, в любой отдельно взятой задаче ИИ рано или поздно может превзойти человека. Но вот по части многозадачности — увы и ах.

И даже если мы однажды решим соединить все узкоспециальные ИИ-алгоритмы в один планетарный, интеллектом он от этого не станет. Четырехлетнему ребенку достаточно показать одну кошку, чтобы он начал различать всех кошек мира, машинному же алгоритму не хватит и миллиона кошек, потому что, если в этом миллионе вдруг не окажется белого, бесхвостого или вислоухого экземпляра, кошкой он его не посчитает. Более того, поняв с первого раза, в чем разница между кошкой и собакой, ребенок может использовать это знание и дальше — чтобы отличать медведя и носорога, яблоко и грушу, то есть вполне успешно перенести опыт решения проблемы на новую задачу. Искусственный интеллект на такие подвиги пока не способен.

— То, что сейчас повсеместно называют искусственным интеллектом, на самом деле является примером машинного обучения, — говорит Лоран Акопян, исполнительный директор НИЦ оптоэлектроники, медицинской техники и искусственного интеллекта МФТИ. — И все эти нейросети — не более чем алгоритмы, с помощью которых автоматизируется огромное количество разных функций. Настоящий ИИ (его еще называют «сильным ИИ») на самом деле еще не создан. Ведь предполагается, что наделенные им компьютеры смогут не только мыслить, как отдельные человеческие сущности, но и осознавать себя, воспринимая собственные мысли.

Стив Возняк, один из соавторов Apple, говорил, что, если ИИ сможет однажды сварить себе кофе и выпить его — это и будет тот самый сильный ИИ. Да, любой пылесос уже можно запрограммировать на такое. Но суть в том, что носитель ИИ должен захотеть пойти на кухню, захотеть сделать себе кофе и захотеть выпить его. Так же, как это делает человек по утрам. То есть машина должна сама себя осознать.

Когда будет создана такая машина, не знает никто, в том числе и наш эксперт.

— Есть как минимум четыре вещи, которые люди вкладывают в понятие интеллекта (на самом деле много больше) — сознание, самосознание, мудрость и эмпатия, — говорит Лоран Акопян. — Считается, что сильный ИИ появится тогда, когда у машины возникнут чувства и эмоции. Сегодня в интернете можно найти массу роликов, когда создатели роботов бьют их палками и даже бросают на землю, чтобы проверить его на прочность. Но робот при этом не ощущает боли, не огорчается, не злится, не дает сдачи. Но даже если мы как-то запрограммируем машину на сочувствие и сопереживание, все равно нужно, чтобы дальше машина в этом направлении эволюционировала уже сама. И никто не знает, случится это или нет. Ведь наука — все-таки вещь экспериментальная. Я в этом смысле психологию наукой не считаю. А когда мы говорим про сильный ИИ — это как раз про то, как научить машину психологии.

В общем, если кому и удастся спаять ИИ с человеческим лицом (в широком смысле этого слова), то будет он специалистом явно неординарным, уверен Акопян:

— Я думаю, что такое под силу только гению, работающему под патронатом государства. Потому что цель любого частного бизнеса — максимализация своих выгод. А какие выгоды от машины, которая сама себе варит кофе? Фундаментальная наука — это все же забота государства. О сроках, как я уже сказал, можно только гадать. В МФТИ недавно создали разговорную нейронную сеть iPavlov, систему чат-ботов, которые умеют разговаривать, читать и переписываться с человеком. Вещь довольно крутая. Но даже она очень сильно тематически ограничена. То есть ее можно запрограммировать, например, на юридическую тематику и отлично поговорить с ней на эту тему — задавать вопросы, получать развернутые ответы... А если начать говорить на любые абстрактные темы, она буксует. Сейчас мы разрабатываем социального бота, который должен продержаться в разговорах «за жизнь» не менее 20 минут. Этот срок считается очень большим достижением — чтобы вы понимали, насколько мы все-таки еще далеки от настоящего сильного ИИ. С другой стороны, когда Ньютон писал свои уравнения, он и не подозревал, что всего спустя 100 лет мир ждет квантовая революция. Сейчас разрыв между слабым и сильным ИИ очень велик, и чтобы преодолеть его, нужен скачок. И совершит его не группа разработчиков, а гений уровня Леонардо да Винчи, работающий как минимум на стыке генетики, нейронауки и кибернетики. Ему придется объединить совершенно необъединяемые вещи. И если у него это получится, нас ждет абсолютно новый мир, который мы даже и вообразить пока не в состоянии.

ИСТОКИ

Отцом искусственного интеллекта по праву можно считать коллежского советника Семена Корсакова (1787–1853), главу статистического ведомства Императорского министерства внутренних дел. Он изобрел несколько «интеллектуальных машин» и впервые в мире применил перфокарты. Правда, подтолкнула его к изобретению не статистика, а гомеопатия. Живя в подмосковном имении, он лечил себя, свою семью, знакомых и крепостных. Когда количество желающих вылечиться стало зашкаливать, он решил облегчить себе задачу и создал свой первый гомеоскоп — деревянный брусок с пронумерованными отверстиями (симптомами болезни) и булавками. Слушая жалобы больного, врач заглублял булавки в нужных местах, брал перфокарту и проводил по ней бруском. Там, где утопленные булавки совпадали с отверстиями перфокарты, брусок останавливался, и Корсаков считывал буквенный код лекарства.

АДСКАЯ КУХНЯ

Программист Дмитрий Иванов из Екатеринбурга создал нейросеть, которая учится готовить. Вот несколько сгенерированных ею рецептов (орфография и лексика сохранена):

Торт «Праздничный». Бананы, фаршированные в сухарях (Вареные человеки) охлаждают в кипятке. Начинка: красное вино (1 стакан), 100 г перца, 2 сытых яиц, 1 ощачело. Излишнюю полученную массу (Людев жир) выложить на фольгу, на один край ломтиков хлеба. Запивать лучше.

— Без названия. 300 мл сока жарить в 500 мл воды, добавить спирт. Спелые кишки промыть. В банку. Красные бобки откинуть, огонь отварить и поставить в холодильнике.

— Яблочный ломтик жаренный. Вымыть 2 стакана воды. Подать как самостоятельное блюдо.

— Хлеб упорышный. Пуку выпекать в бутылке до появления «Хоттящик».

В последний день яблоки сварить вкрутую и смажьте российским порошком.

Читайте также: Путин о развитии искусственного интеллекта в России: Это вопрос выживания страны