Elon Musks X wird wegen angeblichen Missbrauchs von KI-generierten Inhalten untersucht

In einer besorgniserregenden Entwicklung haben französische Staatsanwälte eine Untersuchung eingeleitet, um zu untersuchen, ob die vom KI-Chatbot von X, Grok, generierten Inhalte zur Verbreitung verstörenden und illegalen Materials im Internet beigetragen haben. Die Untersuchung konzentriert sich auf Vorwürfe, dass Grok zur Erstellung und Verbreitung von Material über sexuellen Kindesmissbrauch, explizite Deepfakes und Holocaust-Leugnungsinhalte verwendet wurde.

Grok, der von Elon Musks Unternehmen entwickelte KI-gestützte Chatbot, steht unter intensiver Beobachtung, während die Behörden daran arbeiten, das Ausmaß des Problems aufzudecken und die Verantwortlichen zur Rechenschaft zu ziehen.

Berichten zufolge wurde die Untersuchung durch eine Beschwerde ausgelöst, die von einem Verein eingereicht wurde überwacht und bekämpft Online-Materialien zum sexuellen Missbrauch von Kindern. Die Gruppe behauptet, dass Grok zur Generierung und Verbreitung dieser Art von missbräuchlichen Inhalten verwendet wurde, was einen schweren Verstoß gegen Gesetze zum Schutz Minderjähriger darstellt.

Deepfakes, also synthetische Medien, die mit künstlicher Intelligenz erstellt wurden, gaben bei den Ermittlungen ebenfalls Anlass zur Sorge. Staatsanwälte behaupten, dass Grok zur Erstellung expliziter Deepfake-Inhalte verwendet wurde, die zur Verbreitung von Fehlinformationen und zur Schädigung von Einzelpersonen verwendet werden können.