Была ли взломана передовая система водяных знаков Google с искусственным интеллектом?

Новейшая технология наложения водяных знаков от Google, известная как SynthID, стала предметом пристального интереса и пристального внимания в техническом сообществе. Теперь разработчик программного обеспечения под ником Aloshdenny утверждает, что перепроектировал эту систему, что потенциально позволяет удалять или вставлять вручную водяные знаки изображений, созданные искусственным интеллектом.

В подробном публикации на среднем языке и проекте GitHub с открытым исходным кодом, Aloshdenny описывает их процесс, который, по их утверждению, потребовал всего 200 изображений, созданных Gemini, обработки сигналов и «слишком много свободного времени». По словам разработчика, немного травки тоже помогло.

«Никаких нейронных сетей. Никакого проприетарного доступа», — заявил Алошденни на Medium. «Оказывается, если вы безработный и у вас достаточно «чисто черных» изображений, созданных искусственным интеллектом, вы можете перепроектировать систему водяных знаков, такую ​​как SynthID».

Однако компания Google оспорила это утверждение, заявив, что работа разработчика на самом деле не представляет собой настоящую замену системы SynthID. Технический гигант утверждает, что его технология создания водяных знаков на базе искусственного интеллекта остается безопасной и эффективной для защиты происхождения контента, созданного с помощью искусственного интеллекта.

Дебаты вокруг обратного проектирования SynthID подчеркивают продолжающуюся гонку вооружений между создателями ИИ и теми, кто пытается обойти или подорвать их защиту. Поскольку использование контента, созданного искусственным интеллектом становится все более распространенным, потребность в надежных и безопасных решениях для разметки водяных знаков будет только расти.

Хотя заявления Aloshdenny, возможно, привлекли внимание, утверждение Google о том, что система SynthID остается безопасной, будет внимательно отслеживаться сообществами ИИ и кибербезопасности. Если этот потенциальный прорыв окажется правдой, последствия этого потенциального прорыва могут иметь далеко идущие последствия для будущего контента, создаваемого искусственным интеллектом, и его надежности.

Поскольку дебаты продолжаются, как разработчикам ИИ, так и общественности будет важно оставаться в курсе и быть бдительными в отношении быстро развивающейся ситуации в области водяных знаков ИИ и продолжающихся усилий по защите целостности контента, созданного ИИ.