Experten fordern von Meta eine stärkere KI-Videoüberwachung

Meta, die Muttergesellschaft von Facebook, sieht sich einem zunehmenden Druck ihres eigenen Beirats ausgesetzt, ihre Methoden zur Überwachung von KI-generierten Videos auf ihren Plattformen zu verbessern. Der Vorstand hat gewarnt, dass der aktuelle Ansatz von Meta insbesondere in Krisenzeiten oder Zeiten erhöhter Aktivität unzureichend ist.

Das Problem von Deepfakes und anderen manipulierten KI-gestützten Medien ist seit Jahren ein wachsendes Problem, da die Technologie immer ausgefeilter und zugänglicher wird. Diese gefälschten Videos können dazu verwendet werden, Fehlinformationen zu verbreiten, sich als Persönlichkeiten des öffentlichen Lebens auszugeben und soziale Zwietracht zu säen, was eine große Herausforderung für Plattformen wie Facebook, Instagram und WhatsApp darstellt.

In seinem neuesten Bericht betonte das Aufsichtsgremium von Meta, dass das Unternehmen seine Richtlinien und Durchsetzungsmechanismen in Bezug auf KI-generierte Inhalte stärken muss. Der Vorstand stellte fest, dass die aktuellen Systeme von Meta oft Schwierigkeiten haben, diese manipulierten Videos zu erkennen und zu entfernen, insbesondere bei hochkarätigen Ereignissen oder Krisenmomenten.

Eines der Hauptprobleme, das das Oversight Board identifiziert hat, ist Metas Abhängigkeit von Benutzerberichten, um problematische KI-generierte Inhalte zu identifizieren. Dieser Ansatz kann langsam und ineffektiv sein, insbesondere wenn böswillige Akteure schnell gefälschte Videos erstellen und verbreiten. Der Vorstand empfahl Meta, in proaktivere und ausgefeiltere Erkennungstools zu investieren, um Deepfakes und andere KI-manipulierte Medien zu identifizieren, bevor sie sich weit verbreiten können.

Darüber hinaus forderte das Oversight Board Meta dazu auf, klarere und einheitlichere Richtlinien rund um die Kennzeichnung und Behandlung von KI-generierten Inhalten zu entwickeln. Derzeit kann der Ansatz des Unternehmens inkonsistent sein, was zu Verwirrung und der Gefahr führt, dass schädliche Fehlinformationen durchsickern.

Die wachsende Bedrohung durch KI-gestützte Desinformation hat die Aufmerksamkeit von Gesetzgebern und Regulierungsbehörden auf der ganzen Welt auf sich gezogen. Mehrere Länder haben Gesetze zur Lösung dieses Problems eingeführt oder erwägen diese, und es gibt Forderungen nach einer globalen Koordinierung, um gemeinsame Standards und bewährte Verfahren festzulegen.

Meta hat die Herausforderung erkannt und erklärt, dass es daran arbeitet, seine Fähigkeiten zur KI-Erkennung und Inhaltsmoderation zu verbessern. Der Bericht des Aufsichtsgremiums legt jedoch nahe, dass das Unternehmen mehr tun muss, um mit der sich schnell entwickelnden Bedrohung durch manipulierte Medien Schritt zu halten.

Da der Einsatz von KI-Technologien immer weiter voranschreitet, wird der Kampf gegen Deepfakes und andere Formen synthetischer Medien für Social-Media-Plattformen und das breitere digitale Ökosystem wahrscheinlich immer wichtiger. Die Empfehlungen des Oversight Board unterstreichen die Notwendigkeit für Meta und andere Technologiegiganten, diese Herausforderung proaktiver und umfassender anzugehen.