Згенеровані штучним інтелектом відео сексуальних темношкірих жінок, знятих після вірусного розслідування

Тривожне відкриття стало відомим після того, як розслідування BBC виявило нестримне використання створених штучним інтелектом відео із зображенням сексуальних чорношкірих жінок у популярних соціальних мережах, таких як TikTok та Instagram. Ці аватарки штучного інтелекту використовувалися численними обліковими записами для створення та розповсюдження відвертого вмісту, часто без відома чи згоди зображених осіб.

Глибоке дослідження BBC цієї проблеми виявило десятки таких акаунтів, багато з яких зібрали тисячі підписників. Ці відео, які варіювалися від помірно непристойних до відвертих порнографічних, поширювалися на платформах, що сприяло постійному об’єктивізації та експлуатації чорношкірих жінок у цифровому просторі.

У відповідь на розслідування BBC і TikTok, і Instagram вжили швидких заходів, видаливши образливий вміст і, у деяких випадках, призупинивши відповідальні облікові записи. Представник TikTok заявив: «Ми дотримуємося політики нульової терпимості до контенту, який сексуально експлуатує жінок, і ми наполегливо працюємо над виявленням і видаленням таких відео». Подібним чином Instagram визнав проблему та пообіцяв продовжувати моніторинг і видаляти будь-який подібний вміст, який порушує правила спільноти.

Цей інцидент проливає світло на темні кути ШІ та цифрового вмісту, де технологія, призначена для розширення можливостей і можливостей, також може бути використана зловживанням, щоб завдати шкоди. Оскільки використання аватарів штучного інтелекту та синтетичних носіїв продовжує поширюватися, вкрай важливо, щоб постачальники платформ, політики та широка громадськість залишалися пильними у боротьбі з можливістю зловживання та експлуатації.

Експерти стверджують, що для вирішення цієї проблеми потрібен багатогранний підхід, включаючи розробку надійних систем модерації вмісту, впровадження суворішої політики щодо вмісту та навчання авторів і споживачів етичним наслідкам контенту, створеного ШІ. Лише об’єднавши зусилля, ми зможемо забезпечити відповідальне та етичне використання трансформаційного потенціалу ШІ без увічнення шкідливих стереотипів чи образливих практик.

Оскільки цифровий ландшафт продовжує розвиватися, вкрай важливо, щоб ми залишалися пильними та активними у вирішенні нових проблем, пов’язаних із перетином технологій, створення вмісту та впливу на суспільство. Видалення цих відео, створених штучним інтелектом, є кроком у правильному напрямку, але ще багато роботи потрібно зробити, щоб створити більш інклюзивну, справедливу та етичну цифрову екосистему.