KI-Experte warnt vor AGI-Wettrüsten beim OpenAI-Prozess

Stuart Russell, eine der weltweit angesehensten Stimmen in der Forschung zu künstlicher Intelligenz, hat sich als entscheidende Figur im laufenden Gerichtsverfahren gegen OpenAI herausgestellt. Der renommierte Informatiker, der jahrzehntelang die Auswirkungen fortschrittlicher Systeme der künstlichen Intelligenz untersucht hat, trat als Sachverständiger mit einer ernüchternden Botschaft auf: Der globale Wettbewerb um die Entwicklung immer leistungsfähigerer KI-Technologien könnte ein gefährliches und destabilisierendes Wettrüsten auslösen, das die menschlichen Interessen bedroht.

Russells Teilnahme an dem Prozess stellt einen bedeutenden Moment in der laufenden Debatte darüber dar, wie Gesellschaften Grenzlabore für künstliche Intelligenz und ihren Wettlauf um leistungsfähigere Systeme regulieren sollten. Seine Aussage basiert auf jahrzehntelanger Forschung zu KI-Sicherheit, Ethik und Governance und macht ihn zu einer einzigartig qualifizierten Stimme zu den existenziellen Risiken, die eine unkontrollierte KI-Entwicklung mit sich bringt. Der Informatiker hat stets argumentiert, dass das Streben nach künstlicher allgemeiner Intelligenz (AGI) ohne ordnungsgemäße Aufsicht und internationale Zusammenarbeit zu einer Wettbewerbsdynamik führen könnte, in der sich jeder große Akteur – ob Regierung oder privates Unternehmen – gezwungen sieht, Abstriche bei Sicherheitsmaßnahmen zu machen.

Während seiner gesamten Karriere hat Russell immer wieder darauf hingewiesen, dass Regierungen eine aktivere Rolle bei der Kontrolle und Steuerung der Entwicklung bahnbrechender KI-Technologien spielen müssen. Seine wissenschaftliche Arbeit und seine öffentlichen Äußerungen haben betont, dass bei der AGI-Entwicklung viel zu viel auf dem Spiel steht, als dass man sich ausschließlich auf freiwillige Verpflichtungen der Industrie oder marktgesteuerte Anreize verlassen könnte. Stattdessen plädiert Russell für eine staatliche Regulierung der KI-Entwicklung, ähnlich wie die Nukleartechnologie und andere potenziell gefährliche Innovationen in der Vergangenheit reguliert wurden.

Das Konzept eines AGI-Wettrüstens, vor dem Russell warnt, stellt für Befürworter der KI-Sicherheit ein besonderes Albtraumszenario dar. In diesem Szenario konzentrieren sich Länder und Unternehmen so sehr darauf, zunächst die AGI-Fähigkeit zu erreichen, dass sie Sicherheitsforschung und Aufsichtsmechanismen weniger priorisieren. Jeder Wettbewerber befürchtet, dass er hinter weniger vorsichtige Konkurrenten zurückfällt, wenn er langsamer wird, um strenge Sicherheitsmaßnahmen umzusetzen. Dadurch entsteht ein Klassiker