Этика для железяки

С заявлением о законопроекте выступил глава Комитета Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству Сергей Жигарев. По его словам, депутатам предстоит прописать в документе этические нормы взаимоотношений человека и робота, возможности их взаимодействия, а также предусмотреть формирование фондов. Они смогут компенсировать вред, который, если что, нанесут механические братья мягкотелому человечеству.

— К 2019 году общемировой объем поставок роботов составит более 400 тысяч единиц, — объяснил «ВМ» мотивы своего заявления депутат Жигарев. — Робототехника развивается стремительно, причем именно в сторону совершенствования интеллектуальных способностей.

Уже в обозримом будущем человечество придет к созданию «робота разумного», мозгом которого станет квантовый компьютер. Такой робот будет способен к познавательной деятельности и сможет самостоятельно принимать решения.

Иными словами, монополия человека на мышление будет нарушена. Что за этим последует? Как минимум — новые вызовы, причем не только технологические, но и культурные, образовательные, морально-этические, на которые уже сейчас надо давать ответ. Скажем, кто будет нести ответственность за действия (бездействия) роботов в случае, если те создадут угрозу физической безопасности человека, а то и интересам человечества в целом — активируют, скажем, ботов, которые развяжут информационную войну? Нет ответа.

Так что законодательное регулирование робототехники явно назрело.

По словам депутата, не одни наши законотворцы обеспокоены тем, что человеку придется потесниться в своей эволюционной нише.

Над схожими документами сейчас работают Япония и страны Евросоюза, а в Южной Корее так и вовсе приняли первый в мире «Этический устав роботов», который, например, закрепляет за ними право на «жизнь», гарантируя защиту от уничтожения, нанесения повреждений и оскорблений — редкий кореец, наверное, огрызнется теперь на ползающий по квартире робот-пылесос...

Они как личности

— Для начала нашим депутатам было бы неплохо определиться хотя бы с тем, что они вкладывают в понятие «робот», — рассказал «ВМ» завкафедрой робототехники и мехатроники МГТУ «СТАНКИН» Юрий Подураев. — Потому что когда некоторые наши банки говорят, что заменяют труд людей трудом роботов (то есть некими машинами, которые автоматически формируют некие тексты договоров), то это не роботы в классическом научном понимании. И когда тачанка на радиоуправлении с привинченным к ней манекеном стреляет на маневрах по танкам — это тоже не робот. Наличие искусственного интеллекта тоже не признак робота. Вот есть, скажем, автоматические переводчики с одного языка на другой с функцией самообучения.

Нужно ли законодательство по использованию таких программ? Наверное, нет.

И речь не о терминологии, а о понимании объекта, потому что в каком-то смысле и лифт робот, когда вы нажимаете кнопку, но можно ли считать лифт электронной личностью? Определение Международной федерации робототехники («машина, которая имеет несколько степеней подвижности, свойства автономности и интеллектуального управления») тоже уже устарело. А главное, любой промышленный стандарт вроде ГОСТа или ТУ — это тоже в некотором смысле законодательство, ведь там к машине предъявляются обязательные требования. И с незапамятных времен во всех этих «законах» (особенно это касалось промышленной робототехники) всегда прописывался вопрос безопасности труда, то есть взаимоотношения машины и человека.

Так что стандартизация и регламентация этой деятельности есть, что бы там ни думали некоторые депутаты.

Согласился с коллегой и доцент кафедры «Робототехнические системы» МГТУ имени Н. Э. Баумана Сергей Воротников: — У нас, как водится, телегу пустили впереди лошади.

Закон — штука хорошая, но он должен опираться на какую-то материальную основу. Такого рода законы обсуждаются в разных странах, так как уже есть случаи гибели людей в процессе взаимодействия с роботами-такси и роботамихирургами, и непонятно, с кого требовать компенсацию. Но у нас в стране с «материальной основой» еще не все радужно — нет той самой армии роботов, которые как-то не так себя ведут, и людей, которые им мешают.

Да и в мире чисто автоматических роботов мало. В промышленности все цеха, работающие в таком режиме, закрыты для человека, а если он туда попадает, система тут же останавливается. Есть (в том числе и у нас) коллаборативные роботы, которые работают непосредственно с человеком, но в силу малой мощности и многоступенчатой системы защиты навредить ему они не могут.

Далеко человечеству, считает Воротников, и до роботов системы «Электроник»: — Нет никакого смысла делать полностью гуманоидных роботов. Проектов много, есть и такие, что издалека и не отличишь, но это исключительно научно-рекламные игрушки. С интеллектом тоже все не просто.

По некоторым параметрам (например, распознаванию лиц) нейронные сети делают это уже практически как мы, но вот в вопросах принятия адекватных решений пока буксуют. Так что ни при нашей жизни, ни при жизни наших детей и внуков роботы человечество точно не поработят.

Они пойдут в обход

Не поработят, но когданибудь запросто могут это сделать, утверждают пессимисты.

Некоторые футурологи считают, что азимовское первое правило робототехники — запрет на вред человеку — можно обойти вполне элементарно. Для этого роботу надо лишь поделить акт агрессии на два безобидных действия.

Например, наделать печенек с мышьяком (с благой целью потравить, скажем, в округе крыс), а потом скормить печеньки человеку (робот ведь вправе помогать ему в утолении голода).

И таких обходных маневров существует масса. И это мы еще не брали в расчет способность к самообучению, которая уже сейчас — практически обыденность. Снимет, скажем, какой-нибудь железный вундеркинд печеньками запрет на убийство, а потом увидит на заборе «Спартак — чемпион».

Полезет в сеть выяснить, о чем речь, прочтет о бунте рабов, проведет параллели со своей незавидной участью и пошло-поехало… И будьте уверены: ни один искусственный нейрон не дрогнет в совершенных мозгах, когда будет мочить супостата, анатомию и логику поведения которого он прекрасно изучил.

Вполне возможно, что существенный вклад в войну миров внесем и мы — своим прекраснодушием. Например, в США уже 18 лет действует Общество за предотвращение жестокости по отношению к роботам.

«Мы должны быть готовы рассматривать их как живых существ и уважать их желания и потребности», — призывает оно. А американский философ Михаил Эпштейн даже предрекает появление нового научного направления — гуманологии.

По аналогии с антропологией, исследующей человека, эта дисциплина будет изучать специфические признаки роботов и организмов, созданных на их основе.

Они оставят нас без работы

Впрочем, некоторые наблюдатели считают, что главная угроза от наших железных братьев будет не в том, что они замахнутся на нас дубиной интеллектуальной войны, а в том, что они просто отнимут у нас работу. И никакие законы, принятые в нашу защиту, не помогут. Ведь ни один капиталист не устоит перед перспективой получить дешевых, покладистых, не требующих страховок, отпусков, восьмичасового рабочего дня и прочих социальных благ своих подчиненных.

А прибыль, что по Карлу Марксу, что по Генри Форду — превыше всего.

Тем не менее большинство футурологов все-таки склоняются к мысли, что создавать свод этических норм и правил для некоего, пока еще достаточно абстрактного роботизированного будущего, преждевременно. Ведь оно, это будущее, может оказаться гораздо сложнее и интереснее, чем нам сейчас кажется. А следовательно, прежде чем говорить об этике в эпоху искусственного интеллекта, надо до этой самой эпохи хотя бы дожить.

ОСНОВЫ  

ТРИ ЗАКОНА РОБОТОТЕХНИКИ

■ Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

■ Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

■ Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

*Сформулированы Айзеком Азимовым в 1942 году в рассказе «Хоровод»

БУДУЩЕЕ РЯДОМ

2020 ГОД. Дороги наводняют самоуправляемые автомобили.

2022 ГОД. В США и Европе принимают законы, регулирующие отношения людей и роботов.

2027 ГОД. Персональные роботы, способные на сложные автономные действия, становятся привычной вещью.

2038 ГОД. Появление роботизированных людей.

В их арсенале — «запасной» интеллект (например, ориентированный на одну узкую сферу деятельности) и дополнительные опции вроде лишних рук или жабр.

2040 ГОД. Небиологический интеллект стал в миллиард раз более способным, чем человеческий.

2043 ГОД. Тело среднестатистического человека может принимать любую форму, а внутренние органы заменяются кибернетическими устройствами гораздо лучшего качества.

2045 ГОД. Мы умножаем собственный мозг в миллиарды раз, связывая кору наших полушарий беспроводным путем с искусственным интеллектом в облаке.

*По версии техдиректора Google Рэя Курцвейла, известного массой сбывшихся прогнозов в области ИИ  

СНЯТО!

Пять фильмов про негуманных роботов.

ОТРОКИ ВО ВСЕЛЕННОЙ

Однажды роботы решили, что эмоции и духовность препятствуют счастью планетарной цивилизации, и лишили людей ненужного «девайса».

ТАЙНА ТРЕТЬЕЙ ПЛАНЕТЫ

На планете Шелезяка живут лишь роботы: строят заводы, на которых делают других роботов, которые строят такие же заводы… В итоге на некогда зеленой планете не осталось ничего живого.

СТЕПФОРДСКИЕ ЖЕНЫ

Мужчины сотворили идеальный мир с идеально послушными женами-роботами.

Я, РОБОТ

Один железный парень попробовал нарушить закон о роботах, и ему это явно понравилось.

ИЗ МАШИНЫ

Робот Ева умело имитирует чувства, по ходу дела кроша в мелкий винегрет недругов-людей. В общем, все (кроме нее) умерли.

ЧИТАЙТЕ ТАКЖЕ 

Сможет ли человек конкурировать с роботами

С развитием современных технологий человечество получает, казалось бы, безграничные возможности. Но у процесса есть и обратная сторона. Об этом в эфире сетевого телевещания «Вечерки» говорили эксперты — участники круглого стола. (далее...)

Подписывайтесь на канал "Вечерней Москвы" в Telegram!