В Европейском союзе вступают в силу правила, обязывающие маркировать контент, созданный искусственным интеллектом и выглядящий реалистично. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Начиная с воскресенья, 2 августа, правила, разработанные в рамках знакового Закона ЕС об ИИ, требуют, чтобы изображения, аудио и текст, созданные искусственным интеллектом и предназначенные для того, чтобы выглядеть подлинными, были маркированы. Правила применяются к новым системам ИИ на рынке ЕС с 2 августа, а существующие системы получают дополнительные четыре месяца на соблюдение требований.

Защита демократии

По словам депутата Европарламента от партии зеленых Сергея Лагодинского, который помогал вести переговоры по Закону об ИИ, это вопрос не только защиты потребителей, но и защиты демократии. «Сделать эту информацию прозрачной — это то, что нам нужно для сохранения нашей демократии и подлинности фактов в интернете», — сказал он The Guardian.

Согласно правилам, синтетические тексты, изображения, видео и аудио, предназначенные для того, чтобы выглядеть правдивыми, должны быть заметно помечены как созданные ИИ и содержать цифровой водяной знак, указывающий на искусственное происхождение контента. Тексты, касающиеся вопросов, представляющих общественный интерес, также должны быть помечены как созданные ИИ, если нет человеческого редакционного контроля.

Компаниям рекомендуется маркировать контент, созданный ИИ до вступления правил в силу, хотя это не обязательно. Правила не распространяются на личный контент пользователей, а также предусмотрено исключение для «явно художественных», сатирических и вымышленных произведений.

Штрафы и маркировка

Несоблюдение требований может привести к штрафам в размере до 15 миллионов евро или 3% мирового оборота компании. Еврокомиссия создала черно-белые маркировки, которые может использовать любой желающий, хотя компании могут разработать свои собственные.

Примеры дипфейков

Примеры дипфейков включают поддельное аудио, якобы раскрывающее сговор лидера словацкой оппозиции Михала Шимечки с журналистом с целью фальсификации выборов, смонтированные видео с французским президентом Эммануэлем Макроном, танцующим в ночном клубе 1980-х годов, и поддельные кадры, на которых тогдашний лидер британских лейбористов Кейр Стармер оскорбляет сотрудников партии.

Опасения технологической индустрии

Технологическая индустрия заявляет, что поддерживает стремление сделать дипфейки видимыми, но опасается, что правила будут трактоваться слишком широко и перегрузят интернет-пользователей баннерами и маркировками. Ассоциация компьютерной и коммуникационной промышленности (CCIA) утверждает, что опубликованные в июле руководящие принципы ЕС расширили определение дипфейка далеко за пределы Закона об ИИ 2024 года.

По словам руководителя отдела политики в области ИИ CCIA Europe Бонифация де Шампри, «Маркировка должна была указывать на вводящий в заблуждение контент. Это различие было устранено, теперь маркируется почти все — пейзаж в рекламе так же, как и манипулятивная политическая речь. Как и баннеры с файлами cookie, когда маркировки есть везде, пользователи перестают их замечать. Это никого не защищает, а лишь создает нагрузку на коммерческую деятельность».

Он считает, что наиболее заметным изменением для общественности будет не в социальных сетях, которые «уже маркируют большинство ИИ-контента», а «в областях, где ИИ уже широко используется, но люди об этом не знают — в рекламе, кино, издательском деле». «Ожидайте больше маркировок в секторах, обычно не связанных с ИИ, и бремя ляжет тяжелее всего на тех, кто меньше всего знаком с регулированием ИИ», — сказал де Шампри.

Действия крупных технологических компаний

Некоторые из крупнейших технологических компаний мира уже имеют политику информирования пользователей о контенте, созданном ИИ. Например, TikTok требует от авторов маркировать реалистичные изображения, аудио и видео, созданные ИИ, и заявляет, что помог маркировать более 3 миллиардов единиц контента.

Google запустил инструмент SynthID в 2023 году, который позволяет пользователям проверить, создано ли изображение ИИ. Компания заявляет, что нанесла невидимый цифровой водяной знак, позволяющий идентифицировать контент, на более чем 100 миллиардов изображений и 60 000 лет аудио.

Google и Meta, владеющая Facebook и Instagram, подписали добровольный кодекс практики, призванный помочь компаниям соблюдать правила прозрачности ИИ в ЕС. Европейская комиссия сообщила, что кодекс подписали более 180 организаций. Подписание кодекса рассматривается регуляторами как признак доброй воли, в то время как неподписавшие должны показать, что они соблюдают правила другими способами.

Meta запустила политики в 2024 году, чтобы помочь людям идентифицировать фотореалистичные изображения, созданные ИИ. Компания заявляет, что разрабатывает отраслевые технические стандарты для идентификации аудио и видео, созданных ИИ.

Объявляя о намерении Meta подписать кодекс практики ЕС ранее на этой неделе [28 июля], вице-президент по публичной политике в Европе Маркус Райниш сказал: «Мы должны избежать ситуации, когда онлайн-контент подвергается растущему числу различных маркировок и раскрытий, которые в конечном итоге перегружают людей, добавляя при этом дополнительную регуляторную сложность для провайдеров».

Лагодинский, законодатель ЕС, сказал, что верит, что индустрия сможет найти решение: «Я глубоко уважаю индустрию, но слишком часто они жалуются, а затем... после внедрения это не выглядит для них таким обременительным. И всегда есть решение».

Правила прозрачности являются частью более широкого применения Закона об ИИ.