OpenAI schließt KI-Video-App Sora aufgrund von Deepfake-Bedenken

OpenAI, das Forschungsunternehmen für künstliche Intelligenz hinter dem beliebten ChatGPT-Chatbot, hat beschlossen, seine Video-App Sora einzustellen, die es Benutzern ermöglichte, KI-generierte Videos zu erstellen. Der Schritt erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der Möglichkeit, dass die Technologie der App für die Erstellung von Deepfakes missbraucht werden könnte.

In einer Erklärung erklärte OpenAI, man verabschiede sich von der Sora-App und versprach, bald weitere Informationen darüber zu veröffentlichen, wie Benutzer die von ihnen auf der Plattform erstellten Inhalte bewahren können. Die App, die im März 2023 als Betaversion gestartet wurde, verbreitete sich schnell viral, da sie in der Lage war, auf der Grundlage von nur wenigen Sekunden Eingabematerial äußerst realistische Videos von sprechenden und sich bewegenden Menschen zu erstellen.

Während die Technologie hinter Sora weithin als beeindruckend angesehen wurde, löste sie bei politischen Entscheidungsträgern, Forschern und der breiten Öffentlichkeit auch Alarmglocken hinsichtlich der Möglichkeit eines Missbrauchs aus. Deepfake-Videos, bei denen KI verwendet wird, um das Gesicht oder die Stimme einer Person in eine andere Person einzublenden, werden zunehmend für böswillige Zwecke wie politische Desinformation und nicht einvernehmliche Pornografie verwendet.

OpenAI hat sich als führend in der verantwortungsvollen Entwicklung von KI positioniert, und die Entscheidung, Sora zu schließen, deutet darauf hin, dass das Unternehmen diese Bedenken ernst nimmt. In seiner Erklärung sagte das Unternehmen, es werde weiterhin nach Möglichkeiten suchen, die KI-Videotechnologie „auf eine durchdachte und maßvolle Weise“ zu entwickeln.

Die Schließung von Sora ist das jüngste Beispiel für die Herausforderungen und Kompromisse, die mit der schnellen Weiterentwicklung der KI-Technologie einhergehen. Während diese Tools ein enormes Potenzial zur Steigerung von Kreativität, Produktivität und Verständnis bergen, bergen sie auch erhebliche Risiken, die sorgfältig gemanagt werden müssen. Während sich die KI-Branche weiterentwickelt, werden Unternehmen wie OpenAI genau beobachtet, um zu sehen, wie sie Innovation mit verantwortungsvoller Entwicklung und Bereitstellung in Einklang bringen.