ЕС с 2 августа вводит обязательную маркировку реалистичного ИИ-контента

Новые правила распространяются на изображения, аудиозаписи и текст, созданные искусственным интеллектом с целью имитации реального контента.

Контент будет сопровождаться цифровыми водяными знаками

В соответствии с новыми требованиями реалистичный ИИ-контент должен содержать цифровую маркировку (водяной знак), позволяющую определить его происхождение.

Требование распространяется только на материалы, предназначенные для создания впечатления подлинности.

При этом правила не затрагивают личный контент, например публикации или изображения, используемые в закрытых групповых чатах.

Исключение также предусмотрено для произведений, которые очевидно являются сатирой, художественным вымыслом или иными творческими работами.

Новые системы должны соответствовать требованиям с 2 августа

С 2 августа требования начинают действовать для новых ИИ-систем, выводимых на рынок Европейского союза.

Разработчикам уже существующих систем предоставлен дополнительный срок — четыре месяца — для приведения своих продуктов в соответствие с новыми нормами.

За нарушение предусмотрены крупные штрафы

Компании, которые не выполнят требования законодательства, могут столкнуться с серьезными финансовыми санкциями.

Максимальный размер штрафа может достигать 3% от общего валового дохода компании.

Для упрощения внедрения требований Европейский союз разработал собственные черно-белые обозначения, которые организации могут использовать при маркировке. При этом компаниям разрешено применять и собственные варианты маркировки, если они соответствуют установленным требованиям.

В ЕС считают новые правила важными для защиты демократии

Депутат Европейского парламента Сергей Лагодинский, участвовавший в разработке AI Act, подчеркнул, что новые требования направлены не только на защиту потребителей.

По его словам:

«Речь идет не только о защите потребителей, но и о защите демократии. Нам необходимо сохранять достоверность информации и подлинность фактов в интернете».

Пользователи могут чаще сталкиваться с подобной маркировкой

Руководитель направления политики в сфере искусственного интеллекта Ассоциации компьютерной и коммуникационной индустрии Бонифас де Шамприс отметил, что многие пользователи могут удивиться тому, насколько широко используются технологии генеративного ИИ.

По его мнению, если в социальных сетях маркировка уже стала привычной, то теперь пользователи начнут замечать подобные обозначения и в других сферах, включая рекламу, киноиндустрию и издательское дело, где искусственный интеллект уже активно применяется.

Крупные технологические компании уже используют подобные технологии

Многие технологические компании уже внедрили собственные механизмы маркировки ИИ-контента.

Например, TikTok требует от авторов отмечать публикации, созданные с помощью искусственного интеллекта, хотя такие материалы не всегда удается выявить автоматически.

Google использует технологию SynthID, которая, по данным компании, уже применялась для маркировки более 100 млрд изображений и объема аудиоконтента, эквивалентного 60 тысячам лет непрерывного звучания.

В свою очередь Meta также внедрила систему обозначения фотореалистичных изображений, созданных с использованием искусственного интеллекта, чтобы пользователям было проще отличать их от настоящих фотографий.