Нужно ли ограничить возможности искусственного интеллекта

На повестке дня искусственный интеллект (ИИ), от которого ждут всевозможных чудес и волшебного преображения нашей жизни. Однако в последнее время в мечтательный хор вплетаются осторожные голоса, которые требуют ограничения возможностей Его величества искусственного интеллекта.

Надо смотреть, даже если неприятно, правде в глаза. С того момента, как технический прогресс набрал ход, все крупные достижения первым делом находили применение в военной отрасли. Производство автомобилей, к примеру, за годы Первой мировой войны возросло в сотню раз. Нобелевский лауреат Фриц Габер разработал синтез аммиака, а затем придумал химическое оружие. Атомная энергия, в применение которой не верил Резерфорд, показала себя в виде атомной бомбы. От Хиросимы до мирных АЭС и медицинской техники путь был долгий.

На борьбу с коронавирусом были брошены лучшие силы. Создано несколько хороших вакцин — и это прекрасно. Куда повернет прогресс в вирусологии? Создатель российской вакцины Спутник V академик Денис Логунов уверен, что бактериологическое оружие из всех средств массового поражения сегодня является наиболее опасным, а сдержать его развитие трудно. Чему доказательством обширная сеть американских биологических лабораторий, разбросанных по всему миру, в том числе по периметру России. Сегодня добрые, но недальновидные компьютерщики кладут таланты на развитие ИИ.

Фото: Артур Новосильцев / АГН Москва

Горизонты сказочные — от кинематографа и здравоохранения до личного секретаря. И уже поднялись разговоры о суперискусственном интеллекте, это интерфейс человека и компьютера. Названа дата — 2045 год. Что если благие пожела- ния пойдут прахом, достижения перехватят злонамеренные политики и появится неуязвимый «Робокоп»? Сбудется мрачное предсказание Эйнштейна: «Я не знаю, каким оружием будет вестись третья мировая война, но четвертая — палками и камнями». Лучший прорицатель в истории Артур Кларк считал, что ИИ неизбежно достигнет уровня человеческого мозга, и предвидел сосуществование двух форм жизни, причем вторая эволюционирует со скоростью, недоступной биологической форме.

Отец кибернетики Норберт Винер предупреждал: «Логика робота в том, чтобы ликвидировать все, что мешает его экспансии. Если человек грозит выдернуть провод из розетки, необходимо устранить человека».

Уже сегодня ИИ сворачивает на кривую дорожку. 90% решений о блокировке в социальных сетях принимает робот, следуя слепым алгоритмам и не замечая абсурда. К примеру, закрывались сайты граждан, имеющих несчастье носить фамилию Хохлов, а информация о запрещенных во многих странах талибах подлежала блокировке даже тогда, когда они вошли в Кабул. К слову, решение о запрете российского канала RT в Германии тоже принимала машина.

Вопросов много, а ответов мало. Но хорошо, что Россия находится в числе лидеров по разработке ИИ. Врасплох нас новый мир не застанет. На недавней конференции вице-премьер Дмитрий Чернышенко сказал, что к 2030 году вклад технологий ИИ в ВВП России составит не менее 6 процентов. В России 15 университетов работают в области компьютерных наук.

Рейтинг в этой области возглавляют Высшая школа экономики, МФТИ и ИТМО. По словам вице-премьера, в ближайшее время президент РФ подпишет указ о новой версии Национальной стратегии развития ИИ. В числе конкретных предложений — создание суперкомпьютеров, введение магистратуры и аспирантуры, новые правила финансирования.

Когда-то академик Колмогоров использовал шутку Раневской — «если больной очень хочет жить, врачи бессильны» — в качестве иллюстрации недоступной роботу логики. Если робот начнет понимать шутки, то человеку, может статься, будет не до шуток. Нужно готовиться.

Мнение колумнистов может не совпадать с точкой зрения редакции