В 2025 году системам маркировки с использованием искусственного интеллекта предстоит пройти критическое испытание

Индустрия искусственного интеллекта находится на переломном этапе, поскольку системы маркировки AI готовятся к своему самому значительному расширению. Две революционные технологии — SynthID и C2PA Content Credentials — призваны изменить то, как люди идентифицируют контент, созданный искусственным интеллектом, в Интернете, что потенциально может переломить ситуацию с лавиной обманных дипфейков и синтетических медиа, которые бесконтрольно распространяются по платформам социальных сетей и новостным лентам по всему миру.

Актуальность этого момента невозможно переоценить. Поскольку искусственный интеллект становится все более изощренным, общественность сталкивается с беспрецедентной проблемой: отличить подлинный контент от тщательно созданных подделок. Вирусные изображения Папы Франциска в дорогой уличной одежде, созданные с помощью инструментов искусственного интеллекта, таких как Midjourney, служат ярким напоминанием о том, как легко синтетический контент может обмануть миллионы пользователей и распространиться по цифровым сетям, прежде чем вмешаются какие-либо механизмы проверки фактов. Без надежных систем идентификации общество рискует столкнуться с кризисом достоверности информации.

Заявление Google, сделанное на ежегодной конференции I/O, стало переломным моментом в усилиях по проверке цифрового контента. Технический гигант сообщил, что вскоре пользователи смогут проверять, содержат ли изображения маркеры SynthID — невидимую систему водяных знаков, встроенную непосредственно в контент, создаваемый моделями искусственного интеллекта Google. Это достижение представляет собой фундаментальный сдвиг в подходе компаний, занимающихся искусственным интеллектом, к подотчетности и прозрачности в своих генеративных инструментах.

SynthID работает с помощью гениального механизма, который добавляет незаметные цифровые сигналы к изображениям, видео и аудиофайлам, созданным искусственным интеллектом, в момент создания. В отличие от традиционных водяных знаков, которые видны на контенте, маркеры SynthID остаются невидимыми для человеческого глаза, но при этом остаются обнаруживаемыми системами проверки. Такой подход решает важную проблему: обычные зрители не могут легко обнаружить дипфейки и синтетические медиа, однако невидимые маркеры могут быть мгновенно идентифицированы любым, имеющим доступ к инструментам проверки.

Система C2PA Content Credentials работает взаимодополняюще, создавая комплексную цифровую запись, документирующую происхождение, историю редактирования и метод создания любого медиафайла. Эта технология по сути обеспечивает прозрачную цепочку хранения цифрового контента, позволяя зрителям точно отслеживать, откуда возникло изображение, видео или аудиофайл и как оно менялось с течением времени. Вместе эти две системы создают многоуровневый подход к аутентификации контента, который решает множество аспектов проблемы дипфейков.

Время этого расширения вряд ли может быть более важным. Исследования зафиксировали резкий всплеск создания синтетического контента, при этом, по оценкам, фальшивые видео и манипулированные изображения множатся быстрее, чем Интернет может создать механизмы обнаружения. В ходе избирательного цикла 2024 года наблюдались тревожные примеры использования дипфейковых технологий в качестве оружия в политических целях, а вводящие в заблуждение изображения, созданные ИИ, нанесли реальный вред, распространяя ложную информацию о стихийных бедствиях, общественных деятелях и текущих событиях.

Тем не менее, прежде чем эти технологии смогут получить широкое распространение и эффективность, еще предстоит решить серьезные проблемы. Инфраструктура маркировки контента с помощью искусственного интеллекта требует участия всех основных технологических платформ, создателей контента и социальных сетей. В настоящее время внедрение в цифровой экосистеме остается неоднородным и неравномерным. Многим пользователям до сих пор не хватает инструментов или знаний для проверки контента с помощью этих систем, что создает постоянный разрыв между возможностями технологии и ее реальным применением.

Кроме того, не весь синтетический контент создается с основных платформ, оснащенных SynthID или аналогичными системами. Злоумышленники, использующие модели искусственного интеллекта с открытым исходным кодом или специально созданные генеративные инструменты, могут создавать убедительные дипфейки без каких-либо встроенных маркеров проверки. Это создает сценарий, в котором усилия по обнаружению дипфейков остаются незавершенными: некоторые фейки выявляются, в то время как бесчисленное множество других ускользает без идентификации. Взаимодействие между создателями контента и системами проверки продолжает усиливаться.

Отраслевые обозреватели отмечают, что успех во многом зависит от того, насколько основные средства массовой информации, социальные платформы и интернет-пользователи используют эти технологии проверки. Если основные платформы, такие как Facebook, Instagram, TikTok и X, интегрируют проверку SynthID непосредственно в свои интерфейсы, упрощая обычным пользователям проверку подлинности изображения, внедрение может значительно ускориться. Однако, если эти инструменты останутся скрытыми в технических настройках, доступных только опытным пользователям, их влияние останется ограниченным.

Расширение Google SynthID представляет собой признание того, что компания осознает свою ответственность в сфере синтетических медиа. Применяя невидимые водяные знаки к контенту, созданному Bard и другими системами искусственного интеллекта Google, компания устанавливает четкую цепочку подотчетности. Если изображение, созданное Google, появляется в Интернете и причиняет вред, системы проверки могут отследить его источник. Такой подход стимулирует ответственное использование и препятствует преднамеренному распространению вводящего в заблуждение синтетического контента по идентифицируемым каналам.

Более широкие последствия выходят за рамки простого поимки нечестных субъектов. Поскольку медиа, созданные с помощью искусственного интеллекта, становятся все более неотличимыми от подлинного контента, способность точно идентифицировать синтетический материал приобретает первостепенное значение. Новостные организации, специалисты по проверке фактов и исследователи — все они зависят от надежных систем аутентификации, позволяющих отделить законную журналистику от манипулируемого контента. Образовательным учреждениям, возможно, придется научить учащихся использовать инструменты проверки в рамках учебной программы по цифровой грамотности.

В будущем успех этих инициатив по маркировке, скорее всего, определит, станет ли искусственный интеллект надежным инструментом, способствующим развитию творческих способностей и общения людей, или же он превратится в инструмент обмана, подрывающий общественное доверие к средствам массовой информации и источникам информации. Предстоящие месяцы станут решающим полигоном для проверки того, сможет ли технология проверки контента эффективно масштабироваться и решать проблемы, возникающие в связи с быстро развивающимися инструментами создания синтетических медиа.

Что остается несомненным, так это то, что этот момент представляет собой переломный момент для всей экосистемы искусственного интеллекта и цифровой аутентичности. Если Google, Meta, OpenAI и другие крупные игроки смогут координировать свои действия по всеобщему принятию стандартов маркировки, внедрить удобные интерфейсы проверки и убедить платформы отдавать приоритет аутентифицированному контенту, реальный прогресс в борьбе с дипфейками станет достижимым. И наоборот, если распространение останется фрагментарным и непоследовательным, синтетические средства массовой информации будут продолжать процветать в среде, где обычный человек не может надежно отличить вымысел от факта в Интернете.