Объективные новости через призму совести

Автоматическая система поиска запрещенного контента: как она работает?

24 февраля 2023
Автоматическая система поиска запрещенного контента: как она работает?

Автор: Виктория Лисунова

Во вселенной Интернета можно найти огромное количество разного рода контента – он может быть обучающим и познавательным, информационным и развлекательным. Некоторые публикации становятся вирусными и моментально распространяются в сети. Однако далеко не всегда содержимое Интернет-ресурсов несет какую-либо пользу и соответствует нормам – существует также большое число и запрещенных материалов, с которыми обязательно требуется бороться. Для противодействия распространению противоправного контента в сети специально была создана система автоматического поиска.

С каждым годом в Интернете в разы растет количество деструктивной информации, из-за чего только вручную справляться с этим стало практически невозможно. Появилась потребность в помощи искусственного интеллекта, который бы анализировал материалы и при необходимости своевременно выявлял нарушения, чтобы незаконная информация не получала широкое распространение. Ведь пользователями всемирной паутины являются не только взрослые, но в том числе и дети. Автоматическая система поиска запрещенного контента получила название «Окулус» – на ее разработку в прошлом году структурой Роскомнадзора было выделено 57,7 миллионов рублей.

Главная задача системы «Окулус» состоит в том, чтобы выявлять нарушения российского законодательства в изображениях и видеороликах. Программа прошла тестирование в декабре предыдущего года и уже сейчас выполняет возложенную на нее работу. «Окулус» настроен на обнаружение правонарушений, касающихся призывов к массовым беспорядкам, экстремизму, суициду. Кроме этого система должна бороться с распространением недостоверной общественно значимой информации – с фейками, которых с начала специальной военной операции (СВО) на территории Украины в Интернете стало очень много. Контент в сети не должен создавать угрозу массового нарушения общественного порядка, а также причинять вред жизни или здоровью граждан.

«Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. «Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и др.», – пояснил представитель подведомственного Роскомнадзору Главного радиочастотного центра (ФГУП ГРЧЦ).

Система «Окулус» в день может анализировать более 200 тысяч изображений, в то время как человек способен был обработать всего около двухсот единиц контента. Значительная разница, согласитесь? Определенно точно, что благодаря такой помощи Интернет-пространство будет значительно быстрее «очищаться» от запрещенной информации, ведь он работает как классификатор – анализирует контент заданных источников на соблюдение или несоблюдение требований закона.

«Динамика выявленного количества нарушений демонстрирует лавинообразный рост вбросов по всем видам запрещенной информации. Все это показывает важность детального анализа информационных атак в графическом контенте и возможностей противодействия им. Создание системы – это наш ответ на провокации и антироссийские действия со стороны иностранных ресурсов», – сообщили в пресс-службе ГРЧЦ.

Однако, все-таки, по какому именно принципу «Окулус» находит противоправный контент и будет ли действительно его работа эффективна – пока не до конца понятно. В свою очередь, аналитик Mobile Research Group Эльдар Муртазин предположил, что данная система представляет собой поисковый бот. «К сожалению технических спецификаций этой системы мне не встречалось, есть только размытое описание, поэтому оценить ее эффективность невозможно. Я думаю, что это некий поисковый бот, который ищет в интернете по ключевым словам, изображениям, видео».

Про использование искусственного интеллекта мы уже говорили ни раз, при этом неоднократно поднимали тему компетентности его применения в той или иной сфере. Гендиректор Лиги безопасного интернета Екатерина Мизулина подчеркнула же, что задействование системы искусственного интеллекта для аналитики запрещенной информации очень нужны.


Читать все материалы