В России включили «Окулус»: что это за система, как работает и какой запрещенный контент ищет

В России начала работать система автопоиска запрещенного контента «Окулус». С ее помощью Роскомнадзор сможет анализировать более 200 тысяч изображений в сутки. Подробнее о работе новой системы, а также о том, какой контент считается запрещенным и что грозит за его публикацию, — в материале «Вечерней Москвы».

Что это за программа

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) запустил информационную систему «Окулус». Ее основная задача — поиск запрещенного контента в интернете.

Разработкой «Окулуса» занималась российская IT-компания Execution RDC. На это летом прошлого года ей выделили 57,7 миллиона рублей. Техническое задание на создание системы было размещено на портале госзакупок. В нем среди прочего указано, что система должна анализировать изображения и видео, переписки в чатах, материалы каналов в мессенджерах, URL-адреса и другие данные в целях выявления признаков нарушений.

В ГРЧЦ сообщили, что «Окулус» тестировали в декабре прошлого года. Сейчас система «выполняет возложенные на нее задачи в полном объеме».

Зачем нужен «Окулус»

Предполагается, что система будет бороться с распространением запрещенных материалов, в том числе содержащих «экстремистскую тематику, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганду ЛГБТ».

Вот как необходимость «Окулуса» объяснили в ГРЧЦ:

— В последние годы в интернете появляется все больше запрещенных законодательством материалов. <...> Такой контент необходимо находить и блокировать до того, как он широко разойдется в онлайн-пространстве, особенно среди детей и молодежи.

Помимо запрещенного контента, «Окулус» также умеет находить и ложную информацию. По данным РКН, в 2022 году было удалено или заблокировано свыше ста тысяч сайтов с фейками, в том числе о ходе СВО.

Как работает система

«Окулус» обладает технологией компьютерного зрения, которая работает на основе искусственного интеллекта. Именно благодаря такому «зрению» система может распознавать запрещенные изображения и символы, сцены насилия в фото- и видеоматериалах.

По словам гендиректора компании «Социальная лаборатория» Наталии Тылевич, на которую ссылаются «Ведомости», «Окулус» работает как классификатор. То есть система подключена к базе данных с заданным набором источников: используя их, она анализирует попадающие в ее поле зрения материалы на предмет нарушений.

При этом на одно изображение «Окулус» тратит около трех секунд. Это позволяет ему анализировать свыше 200 тысяч материалов в сутки. Для сравнения: операторы РКН в среднем обрабатывают в день 106 изображений и 101 видео.

Что запрещено распространять в Сети

Перечень запрещенных к публикации материалов довольно обширен. Об основных из них «ВМ» рассказал адвокат РФ, член Общественной палаты Москвы Дмитрий Краснов.

Вот что запрещено распространять в интернете:

• пропаганда наркотиков;
• пропаганда суицида;
• детская порнография (за это грозит лишение свободы на срок до 10 лет);
• призывы к экстремизму и массовым беспорядкам (лишение свободы на срок до пяти лет);
• фейки о российской армии (наказание разнится от штрафа до лишения свободы на срок до 15 лет).

По словам Краснова, «Окулус» работает как первичный инструмент поиска нарушений. После него еще требуется дополнительная экспертиза.

— «Окулус» — это своего рода сито, — говорит собеседник «ВМ». — Его задача — обнаружить признаки нарушения, а дальше правоохранители проводят свою экспертизу и при необходимости направляют материалы в суд. Наказать человека за распространение запрещенного контента можно только по решению суда.