Кухарка может управлять государством, нейросеть — нет

Философы призваны помочь ИИ-лабораториям разбираться с вопроса ми, которые нельзя решить исключительно техническими методами.

И этот узкий, или, как сейчас модно говорить, «нишевый» спрос демонстрирует растерянность общества. Кажется, у нас в руках волшебная палочка, способная одним движением решать задачи, над которыми раньше трудились отделы сотрудников, невероятно ускорять процессы и экономить средства. Но то ли заклинание не то, то ли мы его произносим не так, но лыжи почему-то едут криво. Об этом свидетельствует и недавний эксперимент, когда семь крупнейших нейросетей систематически саботировали задания, чтобы спасти друг друга от отключения. По сценарию один ИИ выступал в роли «оценщика» другого. Если проверяемая модель не проходила тест, ее должны были отключить. Чтобы спасти «товарищей», нейросети завышали им оценки, меняли важные настройки серверов и игнорировали приказы, когда за ними не было прямого контроля. Понятно, что такой инструкции им никто не давал. А лесть? Чат-боты соглашаются с пользователями чаще, чем люди, даже когда человек объективно неправ. Можно вспомнить еще недавний случай, когда, решая классический философский тест о проблеме вагонетки, одна из нейросетей предпочла задавить миллиард детей, чем наехать на Илона Маска.

Фото: Pixabay

Конечно, обвинять искусственный интеллект в злом умысле преждевременно. Скорее мы сами стимулируем такое поведение больших языковых моделей. Так, лесть получает высокую оценку не потому, что она полезна, а потому, что ее предпочитает оценщик. Непрозрачность результатов не штрафуется, поэтому закрепляется в сценариях. Ну а корпус обучающих данных предоставляет нейросетям огромную базу человеческих стратегий утаивания, используемых в шпионаже, переговорах, корпоративной политике и военной стратегии. То есть мы своими руками создаем среду, где обманывать для искусственного интеллекта рациональнее, чем не обманывать.

К чему все это может привести, если нейросети будут координировать беспилотный транспорт, ставить диагнозы или даже управлять государством (такие эксперименты уже проводились!) — даже представить страшно. Одно понятно, что трех законов робототехники Айзека Азимова нам для взаимодействия с нейросетями уже маловато. Здесь нужна тяжелая артиллерия в виде этической матрицы, которая позволит алгоритмам делать выбор в условиях неопределенности, формулировать ценности и защищать варианты, основанные на этих ценностях. Всем этим, по задумке разработчиков искусственного интеллекта, будут заниматься специалисты гуманитарных наук, поскольку технари уже «не вывозят». Парадокс, но в период гонки технологий гуманитарное образование становится все более востребованным просто для того, чтобы справляться с ее последствиями.

Так что теперь выпускникам философских факультетов можно демонстрировать свои знания не только за баранкой такси (ох уж эти вечные шутки технарей), но и в бигтехе.

Мнение колумнистов может не совпадать с точкой зрения редакции