Сексуалізовані результати AI Chatbot викликають репресії ЄС щодо додатків «Nudify»

Чат-бот

Маска Grok став яскравим прикладом небезпеки платформи штучного інтелекту, яка не може блокувати результати, які сексуальні зображення реальних людей, зокрема дітей. Це спонукало Європейський Союз вжити заходів, і законодавці проголосували за спрощення Закону про штучний інтелект і запропонували заборонити системи штучного інтелекту «нудифікатор».

У спільному прес-релізі комітети Європейського парламенту з внутрішнього ринку та громадянських свобод підтвердили голосування, яке відбулося після того, як Європейська комісія дійшли висновку на початку цього року, що Закон про штучний інтелект не забороняє «системи штучного інтелекту, які створюють матеріали сексуального насильства над дітьми (CSAM) або відверто сексуальні підробки оголених людей». У той час Комісія повідомила, що члени парламенту вже пропонують способи внесення змін до закону для посилення захисту від такого шкідливого контенту.

Запропонована заборона додатків «nudify» на базі штучного інтелекту є прямою відповіддю на проблеми, висвітлені невдачами Grok, які винесли небезпеки цих технологій у мейнстрім. Рішення ЄС щодо вирішення цієї проблеми за допомогою законодавчих дій підкреслює зростаюче визнання необхідності проактивно регулювати нові додатки на базі штучного інтелекту, які можуть бути використані для створення шкідливого вмісту.

Голосування за спрощення Закону про штучний інтелект і пропозицію про заборону додатків з нудифікацією є значним кроком вперед у зусиллях ЄС захистити своїх громадян від можливого зловживання штучним інтелектом. Націлюючись безпосередньо на ці проблемні додатки, ЄС посилає чітке повідомлення про те, що ризики, створені контентом, створеним штучним інтелектом, особливо коли він передбачає сексуалізацію людей, не будуть допускатися.

Цей крок ЄС також підкреслює ширші проблеми, з якими стикаються політики та технологічні компанії, збалансовуючи потенційні переваги штучного інтелекту з необхідністю пом’якшити його ризики та небажані наслідки. Оскільки технології штучного інтелекту продовжують розвиватися, потреба в надійних нормативних базах і відповідальних методах розробки ставатиме все більш важливою.

Голосування в Європейському парламенті та запропоновані поправки до Закону про штучний інтелект демонструють прагнення ЄС активно протидіяти загрозам, які виникають через ШІ. Ця дія створює важливий прецедент і може надихнути інші юрисдикції наслідувати цей приклад, зміцнюючи глобальні зусилля, спрямовані на те, щоб у розробці та розгортанні технологій штучного інтелекту пріоритетом були безпека користувачів і етичні міркування.