Профессор Екатерина Тихомирова: ИИ — лакмусовая бумажка всего человечества

В России издана книга-пособие «Этика искусственного интеллекта». Она соединяет классическую философскую этику с инженерными методами формализации моральных норм в архитектурах искусственного интеллекта. Вопрос острый как никогда. Стремительное развитие больших языковых моделей и их внедрение почти во все сферы жизни человека влекут за собой логичный вопрос, а кто несет ответственность в случае принятия неверного решения...

О том, как создавался учебник и зачем он нужен, «Вечерняя Москва» узнала у профессора кафедры философии, онтологии и теории познания НИЯУ МИФИ, одного из авторов книги Екатерины Тихомировой.

Заново изобретать на надо

— Екатерина, как появилась идея создать такой учебник?

— Идея назрела года три назад, когда феномен технологий, прежде всего больших языковых моделей, начал удивлять человеческое общество, а вскоре от удивления люди перешли к обсуждению морально-нравственных проблем. Это именно то, что сегодня называют этикой искусственного интеллекта. При этом нам с моим коллегой, старшим преподавателем кафедры кибернетики НИЯУ МИФИ Романом Душкиным, в соавторстве с которым мы выпустили этот учебник, такая формулировка изначально очень сильно не нравилась.

— Почему?

— Дело в том, что кибернетика начинала свое становление в Советском Союзе в 1960-70-х годах, и в том числе коллектив МИФИ стоял у истоков этого направления. Специалистам, занимавшимся прикладной математикой, было давно известно, что такое искусственный интеллект. Для меня вопросы этики никогда не были чем-то удивительным, потому что это одно из направлений философии. В тот момент, когда очередная новая технология стала входить в культурный ландшафт, словосочетание «этика искусственного интеллекта» стало коробить слух ученых. Искусственный интеллект — это междисциплинарное научное направление, которое объединяет несколько наук.

Этика — это тоже научное направление, поэтому сама по себе эта формулировка не очень корректна. Мы стали ходить на конференции, пытаясь развеять эти ложные смыслы новомодного словосочетания. Потом мы поняли, что нужно написать книгу, и не просто книгу, а учебное пособие, к которому могут обратиться как философы, так и представители точных наук, которые будут работать, создавая технологии искусственного интеллекта.

— Именно для них и предназначен этот учебник?

— Это учебное пособие может дать базовые знания тем, кто занимается разработкой, чтобы лучше понимать, что такое этика. Непонимание категорий этики стало вводить в заблуждение и студентов, и медийщиков, которые часто изобретают что-то новое. Но ни этику, ни искусственный интеллект уже не надо изобретать. Категории давно описаны, все уже сделано, но мы можем увидеть какие-то новые детали и оттенки. У нас буквально на первых страницах начинается разговор о том, что этика — это наука, мораль и нравственность — это изучаемые ею предметы, и этим регулируются все человеческие виды деятельности, поступки, мысли, чувства, в том числе и технологии искусственного интеллекта.

В преломлении инженерной системы

— Каким образом технологии искусственного интеллекта могут регулироваться этическими принципами?

— Первая часть учебника — это интернациональная этика. Мы, ученые, должны рассказывать об этом академическим языком, но стараемся еще давать все современные примеры. Там рассказывается о том, что есть то, что нужно защищать, и то, что нужно контролировать в искусственном интеллекте. Это благо, добро, справедливость, мужество, храбрость, правда, долг, ответственность, и как все это потом может быть представлено в преломлении инженерной системы. Есть такие сферы, как, например, медицина, строительство, ядерные технологии, — здесь долг и ответственность носят профессиональный характер.

Вторая часть, за которую отвечал мой коллега, повествует о принципах построения так называемых архитектур должного. Это те сферы, где должна быть максимальная точность. Есть другого рода сферы — например, художественное творчество.

Искусственный интеллект, генеративные технологии, которые сегодня позволяют создавать изображения, музыку, видео и так далее, представляют широчайший спектр для художественного творчества человека. Но там должны быть точные ограничения, потому что творчество — это выход за пределы ограничений. Любой композитор, писатель, художник должен выйти за пределы каких-то стандартов, создать что-то новое, чтобы прийти к высшим смыслам. Те фильтры, которые описываются с точки зрения архитектуры искусственного интеллекта и которые могут быть применимы в медицине и строительстве, могут не подходить для творческих сфер.

Напряженное противоречие

— Как же найти этот баланс?

— Нахождение баланса должно быть у разработчика или пользователя в голове. Приведу пример. Допустим, мы даем ИИ задание нарисовать изображение на мифологический сюжет «Сатурн пожирает своих детей». Мы знаем, что есть такие картины Рубенса, Гойи. Нарисовать это в модели общего назначения невозможно, потому что там стоят фильтры, цензуры, которые отсеивают правовые коллизии. Модель фильтрует пожирание детей, потому что это потенциально может вызывать риски для девиантных форм поведения. А с другой стороны, если этой моделью пользуется, например, дизайнер или художник, то это будет для него ограничением творчества. Конечно, это будет вызывать неприятие у творческой части элиты.

— Насколько я знаю, такие споры уже возникают.

— Именно так. Книга — это не популярный перебор того, что можно или нельзя. Наша книга показывает напряженное противоречие между допустимым и недопустимым, рассказывает о том, что есть сферы деятельности, в которых должны быть нормативы и стандарты, а есть такие, где этого быть не должно. В наших ГОСТах и СНИПах есть раздел, который посвящен техническим особенностям точных систем, доверенных искусственному интеллекту.

Есть раздел, который посвящен суверенному искусственному интеллекту. Когда книга уже была в типографии, Государственная дума проголосовала за принятие Закона о регуляции искусственного интеллекта, а у нас написано о проекте федерального закона. Реальность нас немного обогнала, депутаты проголосовали очень быстро, что говорит о готовности общества к таким переменам. Но тем не менее вопрос о доверенном и суверенном ИИ — это стандартизированный на сегодняшний день термин. Он рассматривается и в технических документах, и с точки зрения этики как вопроса доверия.

Каким может быть доверие, как оно толкуется? Чтобы ответить на все эти вопросы, мы и написали этот учебник.

— Есть ли тут для вас противоречия?

— Да, конечно. В учебнике есть параграф, который посвящен осмыслению декларативных кодексов этики. Это не столько о морали, сколько о праве. Понятно, что это важно, мы должны быть законопослушными гражданами, но источником права выступает мораль. Сначала мораль, универсальные категории, потом все остальное. Большинство кодексов крутится вокруг защиты личных данных и авторского права. Обращение к классической этике в ракурсе технологий должно подсказать, в том числе праворегуляторам, в какую сторону надо двигаться, чтобы успеть адаптировать к этому законодательство, а не бросаться из стороны в сторону.

Императив Канта

— Что для вас лично значит такой учебник?

— То, что раньше называли коллекционированием бабочек и пыльными знаниями, теперь снова оказывается важным, и мне это очень приятно. Дело даже не в искусственном интеллекте, хотя это, конечно, очередное чудо света, так же как интернет, который может очень многое дать человечеству. Большие проблемы астрофизики, химии, медицины, безусловно, будут решены благодаря тем мощностям, которые эта технология предоставляет. Но искусственный интеллект — это лакмусовая бумажка, которая обращает человека к самому себе. То, что для философов было ясным и давно читалось в курсах университетов, теперь актуальнейшая проблема для всех.

Я очень довольна тем, что на этику будут обращать внимание, что снова все вспомнят про золотое правило Канта, про его категорический императив (это центральный принцип этики Канта, безусловный моральный закон, который требует поступать только так, чтобы максима (принцип) твоего действия могла стать всеобщей. — «ВМ»), о котором мы тоже пишем в нашем учебнике. Это основа деонтологии, раздела этики, который изучает понятия долга, моральных требований и нравственности. Это и есть основа доверенного искусственного интеллекта, как это толкуется в наших ГОСТах.

Деонтологическая этика Канта — это на самом деле доверенный ИИ. Платиновое правило, которое вводили американские антропологи, этика Канта — это все об одном и том же: поступай с другими так, как ты хотел бы, чтобы поступали с тобой, то есть не подвергай риску чужую жизнь и здоровье. Или, например, поступай с другими так, чтобы они максимально раскрывались, но не мешали твоему раскрытию. Все это обращает нас к генеративным моделям. Где поставить фильтр, какие должны быть гарды (guardrails в переводе с англ. — «ограждения». Механизмы контроля и защиты, которые задают границы поведения ИИ-системы. — «ВМ»), чье суверенное творчество ты должен помогать раскрывать? Все эти вопросы у нас рассматриваются.

— Почему вы решили разделить книгу на две части?

— Первая часть более философская, там рассматриваются этические категории, концепции с примерами и обращением к ИИ. Вторая часть — программистская, но написана легким языком, так что ее могут читать в том числе философы. Но вообще мы писали эту книгу для всех, кому небезразлична такая тематика, всем, кто интересуется проблемами ИИ. Мы уже перешли горизонт событий черной дыры, миновали сингулярность, называемую искусственным интеллектом, и теперь нам важно сохранить себя.

— Я так понимаю, что это будет не единственный учебник, надо ждать продолжения?

— Открою большой секрет — второй учебник уже готов. Сейчас дизайнеры делают иллюстрации. Это «Эстетика искусственного интеллекта», которая посвящена генеративным моделям и становлению автоматизации творческого процесса. На стадии рукописи третья часть. Это «Антропология искусственного интеллекта», которая обращается к вопросам трансформации этого понятия, того, что делает искусственный интеллект и подобные технологии с человеком как с субъектом.

— Что же он делает?

— Сейчас многие обсуждают, как человека меняет то, что мы делегируем большой языковой, например, модели вопросы создания или анализа текста. Многие говорят, что из-за этого люди тупеют. А что по этому поводу говорит наука? Ведь на самом деле это не первый феномен, который позволяет глобально что-то делегировать. Когда-то появилось книгопечатание, и люди говорили: а вдруг мы потеряем память, потому что стали все записывать? Но ведь мы память не потеряли. Появились калькуляторы, потом компьютеры, и было много связанных с этим опасений.

Когнитивные процессы делегируются давно, человеческий мозг меняется, трансформируется, но не перестает работать. Вполне вероятно, здесь тоже будет совершен некий антропологический переход. То, как это рассматривается разными антропологами с биологической, философской, культурной точек зрения, мы постарались объединить в этих книгах. Думаю, все эти книги могут быть интересны не только нашим студентам, но и широкому кругу читателей, которым небезразличны такие вопросы.

В ТЕМУ

Исследования выявили, что у продвинутых языковых моделей ценности выстраиваются иерархически. На первом месте — компетентность (точность, информативность, релевантность ответов). На втором — характер (социальные и моральные человеческие ценности: эмпатия, доброта). А фундаментальные этические принципы (целостность, справедливость, конфиденциальность) оказываются в самом низу иерархии. Более того, чем сложнее модель, тем сильнее этот дисбаланс: эффективность начинает перевешивать этические ограничения. Это повышает риск того, что ценности ИИ со временем начнут сильнее расходиться с человеческими.

ЦИФРА

17 процентов населения мира в возрасте от 15 до 64 лет использовали продукты генеративного искусственного интеллекта.