Автор: Виктория Лисунова
Изображение сгенерировано GigaChat
Стремительное развитие технологий искусственного интеллекта (ИИ) открывает перед человечеством захватывающие перспективы. Однако вместе с новыми возможностями приходят и серьезные вызовы, особенно в области медиа и распространения информации. Видеоконтент, сгенерированный ИИ, становится все более убедительным, что заставляет задуматься о необходимости введения обязательной маркировки.
Видеоролики, созданные ИИ, сегодня выглядят настолько реалистично, что зачастую, не проводя глубокого анализа, и не сразу поймешь, что это дипфейк. Нейросети научились имитировать внешность, голос и манеры как реальных людей, так и даже генерировать вымышленных персонажей. Опасность этого инструмента с каждым днем только растет, ведь в условиях, когда пользователь не может отличить подлинное видео от сгенерированного, под угрозой оказывается само понятие объективной реальности. Новости, свидетельства очевидцев, исторические записи – всё это может быть скомпрометировано.
«Маркировка — это не ограничение свободы, а защита пользователей от обмана. Сегодня искусственный интеллект способен создавать визуальные образы, неотличимые от реальности. Без маркировки это превращается в инструмент манипуляции и подмены фактов. Мы предлагаем ввести простое и понятное правило — любая генерация с помощью ИИ должна быть обозначена. Это вопрос доверия, безопасности и ответственности перед обществом», — подчеркнул автор инициативы депутат от партии «Справедливая Россия» Дмитрий Гусев.
Двухуровневая система прозрачности
Вопрос о регулировании синтетического контента активно обсуждается на законодательном уровне последние несколько лет. Представленный законопроект предлагает комплексный подход к маркировке, состоящий из двух ключевых элементов, обеспечивающих как визуальное, так и техническое подтверждение происхождения контента.
Видимое обозначение. Первый элемент направлен на информирование пользователей. Предполагается, что это должно быть наглядное обозначение, которое будет отображаться при просмотре видеоматериала. Главная цель — оповещать зрителя о том, что перед ним синтетический или модифицированный контент. Такое обозначение критически важно для ситуаций, когда видео просматривается в социальных сетях или новостных лентах, где нет времени на глубокий анализ.
Машиночитаемая метка. Второй, не менее важный элемент, представляет собой машиночитаемую метку, встроенную в метаданные файла. Эта метка невидима для пользователя, но является ключом для автоматизированных систем проверки, поисковых систем и платформ.
Какие проблемы способна решить маркировка?
Борьба с дезинформацией. Если молодые люди порой сталкиваются со сложностью определения реального или сгенерированного контента, то что можно сказать о представителях старшего поколения? Хоть многие из них и являются активными пользователями Интернета, им сложно объяснить, что такое в целом искусственный интеллект и на что он способен, а разбираться в происхождении того или иного ролика — уже и вовсе задача со звездочкой. Маркировка как раз и нужна для того, чтобы пользователи не воспринимали информацию в таких роликах за чистую правду.
Защита частной жизни и репутации. Дипфейки часто используются для создания компрометирующего или ложного контента о публичных лицах. Прозрачная отметка о синтетическом происхождении видео — это первый шаг к защите от недобросовестного использования образа человека.
Ответственность за нарушение требований
Второй законопроект предлагает дополнить Кодекс об административных правонарушениях новой статьей, четко устанавливающей санкции за несоблюдение требований по маркировке синтетических видеоматериалов.
- Граждане: Штраф от 10 000 до 50 000 рублей.
- Должностные лица: Штраф от 100 000 до 200 000 рублей.
- Юридические лица: Штраф от 200 000 до 500 000 рублей.
Сложности внедрения регулирования
Создатели ИИ-инструментов постоянно совершенствуют алгоритмы, стремясь сделать генерируемый контент максимально неотличимым, в том числе и от систем обнаружения меток. Регуляторам придется быть готовыми к постоянному обновлению стандартов маркировки, чтобы они оставались актуальными на фоне быстрого технологического прогресса.
Кроме этого важно, чтобы обязательная маркировка не отразилась негативно на применении ИИ в сфере творчества, где использование синтезированных образов или реконструкций является частью художественного замысла. Четкое определение того, какой именно контент требует маркировки становится ключевым моментом.