Эксперты требуют от Meta более строгого AI-надзора за видео

Meta, материнская компания Facebook, сталкивается с растущим давлением со стороны собственного консультативного совета с требованием улучшить методы контроля за видео, созданным искусственным интеллектом, на своих платформах. Правление предупредило, что нынешний подход Меты неадекватен, особенно во времена кризиса или повышенной активности.

Проблема дипфейков и других средств массовой информации, которыми манипулируют с помощью искусственного интеллекта, вызывает растущую обеспокоенность на протяжении многих лет, поскольку технологии становятся все более сложными и доступными. Эти сфабрикованные видеоролики могут использоваться для распространения дезинформации, выдачи себя за общественных деятелей и посеяния социальной розни, что представляет собой серьезную проблему для таких платформ, как Facebook, Instagram и WhatsApp.

В своем последнем отчете Наблюдательный совет компании Meta подчеркнул необходимость усиления политики и механизмов обеспечения соблюдения требований, когда речь идет о контенте, созданном с помощью искусственного интеллекта. Правление отметило, что нынешние системы Meta часто с трудом обнаруживают и удаляют эти манипулированные видео, особенно во время громких событий или кризисных моментов.

Одной из ключевых проблем, выявленных Наблюдательным советом, является зависимость Meta от отчетов пользователей для выявления проблемного контента, созданного искусственным интеллектом. Этот подход может быть медленным и неэффективным, особенно когда злоумышленники быстро создают и распространяют фейковые видеоролики. Совет рекомендовал Meta инвестировать в более активные и сложные инструменты обнаружения для выявления дипфейков и других средств массовой информации, манипулируемых ИИ, прежде чем они смогут широко распространиться.

Кроме того, Наблюдательный совет призвал Meta разработать более четкую и последовательную политику в отношении маркировки и обработки контента, созданного искусственным интеллектом. В настоящее время подход компании может быть непоследовательным, что приводит к путанице и потенциальному ускользанию вредной дезинформации.

Растущая угроза дезинформации с помощью искусственного интеллекта привлекла внимание законодателей и регулирующих органов по всему миру. Несколько стран приняли или рассматривают законопроекты для решения этой проблемы, и звучат призывы к глобальной координации для установления общих стандартов и передового опыта.

Meta признала наличие проблемы и заявила, что работает над улучшением возможностей обнаружения искусственного интеллекта и модерации контента. Однако в отчете Наблюдательного совета говорится, что компании необходимо делать больше, чтобы не отставать от быстро развивающейся угрозы манипулирования СМИ.

Поскольку использование технологий искусственного интеллекта продолжает развиваться, борьба с дипфейками и другими формами синтетических медиа, вероятно, станет все более важным приоритетом для платформ социальных сетей и более широкой цифровой экосистемы. Рекомендации Наблюдательного совета подчеркивают необходимость того, чтобы Meta и другие технологические гиганты применяли более активный и комплексный подход к решению этой проблемы.