Чи була зламана передова система водяних знаків AI від Google?
Розробник програмного забезпечення стверджує, що перепроектував систему водяних знаків SynthID AI від Google DeepMind, потенційно дозволяючи видаляти або вручну вставляти створені ШІ водяні знаки зображень.
Google, відома як SynthID, була предметом великого інтересу та ретельного вивчення технічної спільноти. Тепер розробник програмного забезпечення під іменем користувача Aloshdenny стверджує, що переробив цю систему, потенційно дозволяючи видаляти або вставляти вручну створені штучним інтелектом водяні знаки.
У детальному дописі Medium і проекті GitHub з відкритим кодом Алошденні описує їхні процес, який, як вони стверджують, вимагав лише 200 зображень, створених Gemini, обробки сигналів і «занадто багато вільного часу». За словами розробника, невелика кількість трави також, здається, допомогла.
"Жодних нейронних мереж. Жодного закритого доступу", - заявив Алошденний на Medium. «Виявляється, якщо ви безробітний і маєте достатньо «чисто чорних» зображень, згенерованих штучним інтелектом, ви можете сконструювати систему водяних знаків, наприклад SynthID».
Однак Google оскаржила цю заяву, заявивши, що робота розробника насправді не є справжньою зміною системи SynthID. Технологічний гігант стверджує, що його технологія водяних знаків AI залишається безпечною та ефективною для захисту походження контенту, створеного AI.
Дебати навколо зворотного проектування SynthID висвітлюють постійну гонку озброєнь між творцями ШІ та тими, хто прагне обійти або підірвати їхній захист. Оскільки використання контенту, створеного штучним інтелектом, стає все більш поширеним, потреба в надійних і безпечних рішеннях для водяних знаків лише зростатиме.
Хоча заяви Aloshdenny могли привернути увагу, твердження Google про те, що система SynthID залишається безпечною, уважно спостерігатимуть спільноти ШІ та кібербезпеки. Наслідки цього потенційного прориву, якщо це правда, можуть мати далекосяжні наслідки для майбутнього створеного ШІ контенту та його надійності.
Оскільки дебати тривають, розробникам ШІ та громадськості буде важливо бути в курсі та бути пильними щодо швидкого розвитку водяних знаків ШІ та постійних зусиль із захисту цілісності контенту, створеного ШІ.
Джерело: The Verge
