Железная логика: преступление и наказание теперь контролирует искусственный интеллект
Преступление и наказание: теперь контролирует искусственный интеллект. Начав со скромного напоминания особо забывчивым свежих текстов законов, нынче он вовсю вписывает штрафы и выносит приговоры. Так не пора ли записывать профессию юриста в разряд умирающих.
В Китае судей обязали консультироваться с искусственным интеллектом (ИИ) при вынесении решений по абсолютно каждому делу. Как заявил Верховный суд Пекина юристам, не согласен — пиши письменное объяснение с изложением причин по каждому конкретному случаю. Как и следовало ожидать, дураков, жаждущих разводить дополнительную бумажную канитель, нашлось немного, так что большинство стало слушаться ИИ, даже если тот подсовывает не самый свежий документ или подходящий закон.
Ажитация по поводу умений цифрового мозга дошла у властей Поднебесной до таких восторженных высот, что теперь он у них там еще и судебные решения приводит в исполнение.
Например, автоматически выставляет имущество преступников на продажу или блокирует их онлайн-платежи. А кое-где уже и обвинительные заключения пишет — как говорят, с точностью в 97 процентов. Ну и как не впасть в ажитацию, если всего за три года (2019– 2020) китайский ИИ сократил на треть нагрузку на судей, сэкономил 1,7 миллиарда рабочих часов и сохранил казне 45 миллиардов долларов, что эквивалентно примерно половине гонораров всех китайских адвокатов за год?
Экономией человеко-часов озаботились и в Штатах, где ИИ научили предсказывать преступления аж за неделю и с точностью до 300 метров. И речь не о каких-нибудь стычках футбольных фанатов, которые предсказать — раз плюнуть. Речь об убийствах, нападениях, побоях, кражах, угонах автомобилей и т.д. Говорят, точность уже — около 90 процентов: протестировано на семи городах США.
В Великобритании ИИ отслеживает состояние потенциальных насильников и убийц, используя для этого 1,4 тысячи характеристик. Найдя своего «клиента» и определив, что тот в принципе не прочь пройтись кривой преступной дорожкой, ИИ дает оценку вероятности такого похода. Прямо как в фильме «Особое мнение» с Томом Крузом, разве что там предсказаниями занимались специальные полицейские-провидцы, а здесь — железные мозги компьютера. Понятно, что, найдя потенциального преступника, заочно никого не арестовывают, просто пристальнее приглядывают да посильнее нажимают на профилактику — психологическую помощь, поддержку медиков, соцработников и тому подобные вещи.
Китай, кстати, и по части профилактики сейчас в авангарде. Да таком, что Оруэлл обзавидуется. Подключив ИИ к системам видеонаблюдения, там анализируют поведение не только преступных элементов, но и нацменьшинств, мигрантов и просто больных на голову людей. Ну и делают выводы, естественно.
Парочка с судимостью заселилась в один отель? Наверняка что-то замышляют. Несколько недовольных властью граждан берут билет до Пекина на одну и ту же дату? А не митинг ли они там будут мутить? Молодая чета живет по разным квартирам и не съезжается даже на Новый год? А брак-то фиктивный…
Но одним лишь вангованием дело не ограничивается, конечно. Полицейские сплошь и рядом заставляют ИИ искать иголку в гигантском цифровом стоге. Оно и понятно: на что раньше уходили месяцы, состоящие из архивных бдений, командировок, запросов, созвонов, мозговых штурмов и прочих напряжений извилин, сейчас уходят считаные часы.
Например, в рамках антикоррупционного расследования против Rolls-Royce Holdings Plc команде Скотленд-Ярда из семи человек надо было изучить 30 миллионов документов. Сколько бы это заняло времени в режиме реального человечьего времени, можно только гадать. ИИ справился с задачей за пять дней. В ходе другого расследования, уже об изнасиловании, полицейским нужно было прочитать около 70 тысяч сообщений в мессендежере. Учитывая, что параллельно каждый из них ведет и другие дела, процесс занял бы несколько месяцев. ИИ нашел нужные за пару часов.
Наши, кстати, тоже стараются. Не так давно были сообщения, что МВД заказало разработку ИИ, который по собранному на месте преступления генетическому материалу будет быстро определять пол, возраст и внешность злоумышленника.
Изучают в министерстве и возможности ИИ для выявления признаков серийности уголовных и административных правонарушений, а также разрабатывают ПО, которое в автоматическом режиме будет искать пробелы и противоречия в законах.
В общем, процесс приобщения ИИ к миру криминала и юриспруденции идет семимильными шагами. По прогнозам, рынок программного обеспечения в этой сфере к следующему году перевалит за 18 миллиардов долларов и дальше будет только расти. Однако гладким этот процесс тоже назвать нельзя.
Например, несколько лет назад полицейские США и Великобритании получили на вооружение программное обеспечение, которое расставляло их по городу таким образом, чтобы покрыть патрулями зоны с наибольшим криминальным риском. Алгоритмом пользовались в десятках департаментов, однако многие в итоге от него отказались, так как на поверку оказалось, что ИИ, по сути, сам формировал реальность.
Посчитав, что в каком-то районе есть повышенный риск преступлений, он направлял туда усиленные наряды полиции. Те в силу своей многочисленности находили больше преступников. И ИИ таким образом получал подтверждение имеющейся картине мира.
Или другой пример. По статистике, за одни и те же преступления чернокожих и латиносов в США арестовывали, осуждали и давали более строгие приговоры чаще, чем белым. ИИ, обученный на основе этих и подобных им данных, тоже рекомендовал заключать под стражу эту категорию преступников гораздо чаще (50 процентов против 30 процентов белых). Их же рекомендовалось и реже отпускать под залог. То есть изначальная людская предвзятость передалась в итоге и ИИ. И как освободить процесс обучения от этой субъективности, пока не понятно.
Не совсем понятно, и как быть с потенциальными преступниками, которых в таковые определил ИИ, но которые еще пока ничего не совершили. Заранее изолировать их от общества? Но тогда в тартарары катится презумпция невиновности, да и вообще вся система правосудия. И подобных этических вопросов масса. Не говоря уж о технических.
Например, сейчас в США начали отказываться от систем распознавания лиц. Особенно после того, как загрузили в такую полицейскую программу 25 тысяч лиц арестованных и фотографии членов законодательного собрания, а ИИ обнаружил 26 совпадений…
— К сожалению, полностью переложить сейчас все функции на плечи ИИ невозможно, — говорит доцент кафедры уголовного права и криминологии ВГУ юстиции Владимир Дроздов. — Он пока хорош в обработке баз данных — при борьбе с терроризмом, распространением наркотиков, оборотом оружия, блокировке экстремистских сайтов и т.д., а также в узких процессах, где есть полное их понимание. Ну, скажем, в системе дорожных штрафов, где все просто: превысил, зафиксировали, взыскали. Автоматика обрабатывает дорожную картинку, составляет протоколы, выписывает штраф. Но даже здесь пока без человека не обойтись, так как есть всякие нюансы в виде сбоев техники, наложения теней и так далее. В итоге выводы ИИ все равно просматривает инспектор, и его подпись является решающей.
Проблемой, по мнению нашего эксперта, является и натаскивание ИИ:
— Чтобы нейросеть объективно, бескоррупционно могла анализировать ситуацию, ее надо обучить. Оценочные критерии разрабатывает человек, то есть в нашем случае юрист. Но юристы редко бывают еще и программистами. Ну вот взять хотя бы сферу уголовных дел. Здесь ИИ должен не только оценивать признаки состава преступления, но и целый комплекс обстоятельств, смягчающих преступность деяния, постпреступное поведение, назначение принудительных работ вместо тюрьмы и т.д. Как в машину вложить все эти алгоритмы? Я как исполнитель-программист не пойму вас как заказчика, пока вы мне в квадратиках, в ромбиках не нарисуете полного алгоритма.
Много найдется юристов, способных на это? Конечно, электронное правосудие — это наше будущее. Но говорить, что профессия юриста уйдет в небытие? Расследовать, осматривать место происшествия все равно будет следователь. И защищать людей в судах будут адвокаты, а не роботы. Но если мы собираемся переходить на ИИ, то нужно кое-что получше существующей системы. Дай бог, чтобы получилось.
ВКАЛЫВАЮТ РОБОТЫ
Студент Стэнфордского университета Джошуа Браудер изготовил автоматизированного робота-юриста, который отстаивает права автовладельцев, не согласных с полученными штрафами за парковку. Программа генерирует вопросы, чтобы сформулировать текст для апелляции.
В спорных случаях система отправляет заявителю электронный адрес студента, чтобы тот лично и занялся последующим рассмотрением проблемы. Делает она это совершенно бесплатно. Сумма выигранных роботом дел уже составляет 3 миллиона долларов.
ТОЛСТОЙ ОТДЫХАЕТ
Институт проблем правоприменения при Европейском университете в Санкт-Петербурге с помощью ИИ проанализировал 4,4 миллиона сообщений о происшествиях, с которыми люди обращаются в полицию.
Общий объем данных оказался равным 450 экземплярам «Войны и мира» (и даже чуточку больше). Если бы человека заставили круглые сутки без отдыха анализировать подобный массив сведений, весь процесс занял бы у него целый год.