Созданные искусственным интеллектом видео сексуализированных чернокожих женщин были сняты после вирусного расследования

Тревожное открытие стало известно после того, как расследование BBC выявило безудержное использование созданных искусственным интеллектом видеороликов с изображением сексуализированных чернокожих женщин в популярных социальных сетях, таких как TikTok и Instagram. Эти аватары с искусственным интеллектом использовались многочисленными учетными записями для создания и распространения откровенного контента, зачастую без ведома и согласия изображенных лиц.

Углубленное изучение этой проблемы BBC выявило десятки таких аккаунтов, многие из которых собрали тысячи подписчиков. Эти видеоролики, от слегка непристойных до откровенно порнографических, распространялись по платформам, способствуя продолжающейся объективации и эксплуатации чернокожих женщин в цифровом пространстве.

В ответ на расследование BBC и TikTok, и Instagram приняли оперативные меры, удалив оскорбительный контент и, в некоторых случаях, заблокировав ответственные аккаунты. Представитель TikTok заявил: «У нас есть политика абсолютной нетерпимости к контенту, который сексуально эксплуатирует женщин, и мы прилагаем все усилия, чтобы обнаружить и удалить такие видео». Аналогичным образом, Instagram признал наличие проблемы и пообещал продолжать отслеживать и удалять любой контент, нарушающий правила сообщества.

Этот инцидент проливает свет на темные уголки мира ИИ и цифрового контента, где технология, предназначенная для расширения возможностей и возможностей, также может быть использована не по назначению и причинить вред. Поскольку использование аватаров с искусственным интеллектом и синтетических медиа продолжает распространяться, крайне важно, чтобы поставщики платформ, политики и общественность в целом сохраняли бдительность в устранении потенциальных злоупотреблений и эксплуатации.

Эксперты утверждают, что для решения этой проблемы необходим многогранный подход, включая разработку надежных систем модерации контента, внедрение более строгих политик в отношении контента, а также обучение как создателей, так и потребителей этическим последствиям контента, созданного с помощью искусственного интеллекта. Только совместными усилиями мы можем гарантировать, что преобразовательный потенциал ИИ будет использоваться ответственно и этично, без увековечивания вредных стереотипов или злоупотреблений.

Поскольку цифровая среда продолжает развиваться, крайне важно, чтобы мы сохраняли бдительность и инициативность в решении возникающих проблем, возникающих на пересечении технологий, создания контента и социального влияния. Удаление этих видео, созданных искусственным интеллектом, – это шаг в правильном направлении, однако предстоит еще многое сделать для создания более инклюзивной, справедливой и этичной цифровой экосистемы.