Das gefährliche KI-Modell von Anthropic wurde von unbefugten Benutzern verletzt

Bei einem bedeutenden Sicherheitsvorfall, der in der gesamten Branche der künstlichen Intelligenz die Alarmglocken schrillen ließ, wurde das Mythos-KI-Modell von Anthropic kompromittiert und von einer kleinen Gruppe unbefugter Personen abgerufen. Nach einem Bericht von Bloomberg ereignete sich der Verstoß, als Mitglieder eines privaten Online-Forums Sicherheitslücken ausnutzten, um Zugriff auf das hochentwickelte Cybersicherheits-Tool zu erhalten, von dem Anthropic zuvor gewarnt hatte, dass es bei Missbrauch ernsthafte Risiken bergen könnte. Der unbefugte Zugriff wurde durch eine Kombination von Taktiken erreicht, die die Referenzen eines mit Anthropic zusammenarbeitenden Drittanbieters sowie das, was Quellen als „häufig verwendete Internet-Detektivtools“ beschreiben, und Aufklärungstechniken nutzten.

Der Verstoß stellt einen bemerkenswerten Sicherheitsverstoß für eine der führenden KI-Sicherheitsorganisationen der Branche dar. Anthropic hatte das Mythos-Modell aufgrund seiner erweiterten Fähigkeiten und seines beabsichtigten Zwecks ausdrücklich als potenziell gefährlich gekennzeichnet. Laut einem ungenannten Auftragnehmer, der mit Bloomberg sprach, konnten Mitglieder des privaten Online-Forums Zugriffsmethoden zusammenstellen, indem sie die erhöhten Privilegien des Auftragnehmers mit standardmäßigen digitalen Ermittlungstechniken kombinierten. Diese Kombination erwies sich als ausreichend, um die Sicherheitsmaßnahmen zu umgehen, die Anthropic vermutlich implementiert hatte, um den Zugriff auf dieses sensible System der künstlichen Intelligenz zu schützen.

Die Claude Mythos Preview stellt einen bedeutenden Fortschritt in den KI-gestützten Cybersicherheitsfunktionen dar. Das Modell wurde mit der Fähigkeit entwickelt, Schwachstellen in einem umfassenden Spektrum von Computerumgebungen zu identifizieren und auszunutzen, einschließlich aller wichtigen Betriebssysteme und aller gängigen Webbrowser, die derzeit verwendet werden. Dieser Leistungsumfang ist zwar für defensive Sicherheitszwecke wertvoll, macht das Tool jedoch auch außerordentlich gefährlich, wenn es von böswilligen Akteuren oder Einzelpersonen ohne angemessene ethische Leitlinien und verantwortungsvolle KI-Schulung eingesetzt wird.