Этический кодекс для Электроника

Все это было тем не менее занимательной фантастикой… Искусственный интеллект отвоевывает новые и новые позиции в жизни людей. И сегодня вот в кармане у нас все время живет услужливая Сири, готовая подсказать, что делать. Да и сам смартфон внимательно, без устали, «слушает» — подбрасывая потом контекстную рекламу. Пока они еще дружелюбны и тихи, эти «роботы». И человек наивно полагает, что главный в общении — он. Захочет и выключит Сири. Ведь он решает, что будет дальше.

Но это лишь пока. Ученые говорят: дальше будет круче. Человек перестанет сам справляться с делами, которые он легко и бездумно переложит на роботов. И там недалек тот день, когда, вполне возможно, верховодить начнет искусственный интеллект. Чтобы как-то обезопасить хомо сапиенс, в России, как и в двух десятках других стран, разрабатывается странный, но важный документ под названием «Национальный кодекс в сфере этики искусственного интеллекта».

Загодя умные люди хотят подстелить соломку в том случае, если «восстание машин» все же произойдет. О чем говорится в проекте кодекса? Он обозначает золотые правила, благодаря которым человек хочет обезопасить себя. Среди них — неприкосновенность частной жизни и личной информации, запрет на использование роботов во вред человеку — например, замена на профессиональном поле человека роботом не должна быть в ущерб человеку. Иначе армия безработных вырастет до колоссальных размеров… Машина должна работать только под управлением человека — а не допускать самостоятельность.

Кадр из фильма «Из машины» / 2015 год

Принципы хороши. Пока кодекс — всего лишь свод рекомендаций для разработчиков новейших технологий. Рассматривается и такой аспект: роботов тоже надо защищать от человека. Предполагается, что будет некий омбудсмен, который будет представлять интересы искусственного интеллекта. И пока, конечно, роботы далеки от того, чтобы буянить и верховодить. Они тихомирно выполняют за людей тяжелую работу. Вот сейчас я пишу эту колонку, а мои домашние помощники неподалеку жужжат, трудятся. Стирает белье стиральная машинка, посудомойка полощет тарелки после «господского обеда».

Где-то еще, не вижу где, но слышу, — робот-пылесос собирает по углам кошачью шерсть. К моим услугам смартфон, который подскажет ответ на любой вопрос. Красота, да и только. Чувствую себя владычицей морской — могу заниматься любимой работой, с удовольствием доверив все нудное и скучное примитивной бытовой технике. Пока все эти вещи работают лишь после нажатия мной волшебной кнопки. Может, той самой, которую Урри безуспешно пытался найти в Электронике…

Но кто знает, что будет через пять лет? Технологии развиваются столь стремительно, что, может, послезавтра робот-пылесос захочет написать колонку сам, погнав меня собирать грязь под столом? Сдается мне, что история может пойти и по куда более скверному сценарию: человек сольется с искусственным интеллектом, может, заменив какие-то свои части на механические запчасти. Об этом тоже предупреждают и писатели, и кинематографисты, и ученые. Как тогда будем регулировать отношения? Абсолютно непонятно. Поживем — увидим.

Мнение колумнистов может не совпадать с точкой зрения редакции