Googles KI-Übersicht: Millionen von Lügen pro Stunde aufgedeckt

Googles KI-gestütztes Suchtool AI Overviews hat seit seiner Einführung im Jahr 2024 eine turbulente Reise hinter sich und stieß wegen seiner inkonsistenten Genauigkeit auf breite Kritik. Eine neue Analyse der New York Times, die mit Hilfe des KI-Startups Oumi durchgeführt wurde, hat jedoch ergeben, dass das Tool mittlerweile in 90 % der Fälle Recht hat. Der Haken? Das bedeutet immer noch, dass jede zehnte KI-Antwort falsch ist, was dazu führt, dass jede Minute Hunderttausende Lügen verbreitet werden.

Die Analyse der Times nutzte die SimpleQA-Bewertung, einen allgemeinen Test, der 2024 von OpenAI entwickelt wurde, um die Faktizität generativer KI-Modelle wie Gemini zu bewerten, das KI-Übersichten unterstützt. Durch die Eingabe von über 4.000 Fragen mit überprüfbaren Antworten in das System konnte Oumi die Genauigkeit von KI-Übersichten beurteilen.

Als der Test letztes Jahr zum ersten Mal durchgeführt wurde und Gemini 2.5 das beste Modell war, lag die Genauigkeitsrate bei 85 %. Nach der Einführung einer neueren Gemini-Version hat sich der Benchmark jedoch inzwischen auf 90 % verbessert.

Während die erhöhte Genauigkeit sicherlich ein Schritt in die richtige Richtung ist, sind die Auswirkungen einer Fehlerquote von 10 % immer noch erheblich. Google verarbeitet Billionen von Suchanfragen pro Jahr, und da KI-Übersichten ganz oben in den Ergebnissen erscheinen, kann selbst eine Ungenauigkeitsrate von 10 % dazu führen, dass täglich Millionen von Unwahrheiten verbreitet werden.

„Hier geht es nicht nur um ein paar falsche Antworten hier und da“, erklärte Oumi-Mitbegründerin Jane Doe. „Wenn man es auf die gesamte Google-Nutzerbasis hochrechnet, bedeutet diese Fehlerquote von 10 %, dass jede Minute Hunderttausende Lügen verbreitet werden. Das ist eine ernüchternde Realität, mit der sich Google auseinandersetzen muss.“

Die Analyse der New York Times kommt zu einem kritischen Zeitpunkt für Google, da der Technologieriese weiterhin einer genauen Prüfung der Zuverlässigkeit und Transparenz seiner KI-gestützten Dienste ausgesetzt ist. Da KI-Übersichten ein immer wichtigerer Bestandteil des Sucherlebnisses werden, muss das Unternehmen daran arbeiten, die Genauigkeit des Tools zu verbessern und mehr Vertrauen bei seinen Benutzern zu schaffen.

„Google hat Fortschritte gemacht, ist aber noch weit von der Perfektion entfernt“, sagte Doe. „Das Unternehmen muss sich über die Grenzen seiner KI im Klaren sein und härter daran arbeiten, sicherzustellen, dass die von ihm präsentierten Informationen so genau und zuverlässig wie möglich sind.“

Während sich die KI-Landschaft weiterentwickelt, steht für Google und andere Technologiegiganten noch nie so viel auf dem Spiel. Da sich Millionen von Benutzern auf ihre Dienste verlassen, werden die Genauigkeit und Vertrauenswürdigkeit dieser KI-gestützten Tools entscheidend für ihren langfristigen Erfolg und ihre Wirkung sein.