Важный проект XXI века заострил этические проблемы: как прошла Мировая атомная неделя
На ВДНХ прошла Мировая атомная неделя. Мероприятие важное, недаром его посетил президент России Владимир Путин. В ходе просветительского марафона «Знание. Первые» прозвучали заявления, вызвавшие резонанс.
Прежде всего это касается самой актуальной и обсуждаемой научной темы — быстрого развития искусственного интеллекта.
Министр науки и высшего образования Валерий Фальков сделал прогноз: искусственный интеллект в XXI веке может стать грандиозным проектом, сравнимым с атомным и космическим проектами XX века. И потому искусственный интеллект — это колоссальный вызов для системы образования. Стоит напомнить, что в годы атомного и космического проектов были созданы флагманы высшего образования — МФТИ и МИФИ.
Уже сейчас массовым стало привлечение компьютерных ботов для написания рефератов и курсовых. Министр признал, что развитие ИИ поставило задачу разработать «новый подход к проверке знаний». Иначе произойдет девальвация обучения.
...Недавно я решил испытать новую технологию и попросил знакомого компьютерщика поручить боту рецензию на «Грозу» Островского. Через минуту я получил заказанный текст. Поморщился и сделал замечание — суховато вышло. Еще через минуту получил рецензию, которой позавидовал бы Белинский.
Ныне ведомство Фалькова приступило к разработке этики ИИ. Это перекликается с замечанием спикера Госдумы Вячеслава Володина о том, что искусственный интеллект никогда не сможет заменить депутата по той причине, что лишен совести. Прогноз можно принять в качестве шутки, но планы привить компьютеру моральную сыворотку звучат со всех сторон.
Аргументы «против»
Какие угрозы исходят от искусственного интеллекта, кроме подкопа под систему образования? Манипуляции с информацией, имитация реального человека, судебный произвол, компьютерные атаки, действия самообучающегося ИИ в своих интересах вплоть до ликвидации того, кто может отключить электрический рубильник. Доводы о том, что ИИ всего лишь инструмент в руках человека, наивны. Описано множество сценариев, начиная с Франкенштейна, а еще точнее — с ветхозаветных Адама и Евы, когда творение выходит изпод контроля создателя. Эволюция ИИ может привести к тому, что он станет взирать на человека, как мы сегодня смотрим на муравейник, который мешает проложить скоростной автобан. Когда ИИ начнет управлять экономикой, он оценит человека как неэффективную помеху, которую надо устранить.
У человека есть десять заповедей, система строгих этических запретов. Но какой моральный кодекс можно придумать для бездушной машины? Фантаст Айзек Азимов сформулировал законы робототехники. Суть в том, что робот не может причинить вред человеку, должен повиноваться всем его приказам, кроме тех случаев, когда они противоречат первому закону.
Деонтология, наука о проблемах морали, опровергает миражи робототехники. Философ Филиппа Фут придумала мысленный эксперимент «проблема вагонетки». На рельсах лежат пять человек, но можно перевести стрелку на другой путь, где лежит один человек. Робот перегорит от этого выбора. Эту задачу можно усложнять бесконечно, но точного ответа, который отвечает ветхозаветным заповедям, не существует. Но как в таком случае преподавать мораль ИИ? Несколько лет назад Еврокомиссия выпустила Хартию об этических принципах применения ИИ в судебной системе. Раньше считалось, что судьи — носители высших добродетелей. Теперь в Европе выяснили, что беспристрастный робот лучше судит человека, чем это делает самый честный человек. Еврокомиссия считает, что ИИ будет лучше соблюдать права человека. В Великобритании уже сейчас ИИ решает, выпускать ли подозреваемого под залог, а в США решает вопрос об условнодосрочном освобождении. Одобрила бы богиня Фемида такую практику — вопрос спорный.
Аргументы «за»
На всех форумах звучит ужас перед вторжением роботов на рынок труда, когда лишними окажутся многие профессии, наподобие того, как раньше исчезли трубочисты, машинистки, телефонистки и сборщики пиявок. Кстати, журналисты тоже под ударом. История помнит движение луддитов в XIX веке, которые ломали ткацкие станки. В Англии волнения были подавлены армией, главари сосланы в Австралию. Вряд ли сегодня дойдет до эксцессов, осталось только Антарктиду журналистами заселить. Кстати, быстро выяснилось, что промышленная революция расширяет возможности человека и приводит к развитию его интеллекта. Может быть, мы сегодня еще не подозреваем, что ИИ не погубит, а, напротив, приведет к новому витку нашего совершенства?
У оптимистов есть возражения против алармистских прогнозов. У человека, как у компьютера, программное обеспечение, то есть сознание, по сложности намного превосходит железную оболочку. Наш разум, наш нейронный software (программное обеспечение) задал доминирующее положение на планете и невиданные для млекопитающих нашего размера темпы размножения. По законам животного мира на территории России должно проживать одинаковое количество людей и медведей — по 100 тысяч особей. Но наш разум, как дополнительный половой орган, обеспечил невиданные темпы размножения и доминирующее положение в биосфере.
Цифровая революция, как и промышленная, — ступени эволюции. Человек — информационное животное. Сознание, язык и общение, умение перерабатывать информацию — главное свойство человека, которое отличает его от животного и роднит с компьютером. Вторая сигнальная система — главный козырь в борьбе видов. Самым ценным органом, вспомним Жванецкого, является не бицепс, а разум. Пусть Большая английская энциклопедия утверждает, что сознание — наиболее очевидное и наименее понятное свойство человеческого разума, но человек тысячи лет справлялся со всеми вызовами.
Технологии искусственного интеллекта несутся вперед, как вагонетка. Да, человек на их пути, но он не связан, и не надо, как купец Дикой в «Грозе», восклицать возмущенно: «Какое еще там елестричество?» Лучше взять за алгоритм совет инженера Кулигина: «Пора вам, сударь, своим умом жить».
ЦИТАТА
Валерий Фальков, министр науки и высшего образования РФ:
— Надо принципиально по-другому подходить к технологиям обучения. Старые технологии, которые мы сегодня используем, неактуальны. С их помощью нельзя проверить знания. Это требует полной перестройки учебного процесса в школе, в колледже, в университете. То, что мы использовали несколько десятилетий, сегодня легко обойти, имея на то желание.
Вильфрид Бергманн, почетный доктор Российской академии наук, заместитель председателя правления германо-российского форума:
— Внедрение искусственного интеллекта во все сферы ускоряется. Но проблема в том, что мы не знаем, куда именно летит этот экспресс. Мы понимаем, что многие процессы будут идти быстрее, и это перевернет нашу жизнь. Но мы не знаем о них ничего, кроме скорости. Неизвестность страшит общество, и мы обязаны найти ответ.
