Alles begann mit der Einführung neuer KI-Modelle des Unternehmens Anthropic, das hinter dem Chatbot Claude steht. Bei den vorgestellten Modellen handelte es sich um Fable 5 und Mythos 5, die als die bislang leistungsstärksten KI-Modelle des Unternehmens galten. Doch innerhalb weniger Tage entwickelte sich die ganze Angelegenheit zu einem großen Skandal, in den nicht nur die US-Regierung, sondern auch die National Security Agency (NSA) verwickelt war.
Was ist eigentlich passiert?
Anthropic brachte Fable 5 und Mythos 5 bereits Anfang des vergangenen Monats auf den Markt. Nur drei Tage später fanden Forscher von Amazon laut Anthropic jedoch einen Weg, die Schutzmechanismen des erstgenannten Modells zu umgehen. Dabei stellte sich heraus, dass dieses Modell bei der Suche nach Schwachstellen in Software helfen konnte.
Es ging jedoch nicht nur darum, dass das neue KI-Modell beim Aufspüren von Schwachstellen helfen konnte, sondern vor allem um das Risiko, dass es zu einem gefährlichen Werkzeug in den Händen von jemandem werden könnte, der ein System angreifen will.
Und das ist längst nicht alles. Berichten zufolge gelang es auch dem zweiten KI-Modell Mythos, innerhalb weniger Stunden in fast alle geheim eingestuften Systeme der NSA einzudringen. Diese Behauptung wurde während einer Senatsanhörung geäußert und anschließend von der Zeitung The Economist aufgegriffen.
Sofortige Abschaltung der Modelle
Den verfügbaren Informationen zufolge wollte die US-Regierung nicht riskieren, dass diese Fähigkeiten Personen oder Organisationen außerhalb des genehmigten Kreises zugänglich werden. Die Regierung wies Anthropic daher an, den Zugriff auf die Modelle Fable 5 und Mythos 5 ausschließlich auf US-Bürger zu beschränken. Da es jedoch nicht möglich war, die Staatsbürgerschaft jedes Nutzers in Echtzeit zu überprüfen, entschied sich Anthropic für eine andere Lösung und schaltete beide Modelle weltweit ab.
Die Nachrichtenagentur AP berichtete anschließend, dass Fable 5 nach Anpassungen wieder verfügbar gemacht wurde. Mythos 5 blieb jedoch nur ausgewählten, von der Regierung genehmigten US-Organisationen zugänglich.
Mythos und die NSA
Laut The Economist soll Senator Mark Warner während der Anhörung erklärt haben, dass Mythos dem NSA-Chef zufolge innerhalb weniger Stunden in fast alle geheim eingestuften Systeme eingedrungen sei, was äußerst beunruhigend wirkte. Allerdings fehlten Details zu der gesamten Angelegenheit, sodass nicht klar war, ob es sich um einen Test in einer kontrollierten Umgebung, eine interne Überprüfung oder etwas anderes handelte. Umso überraschender war die anschließende radikale Lösung in Form der Abschaltung der Modelle.
Reaktion von Anthropic
Anthropic erklärte, gemeinsam mit der Regierung und Amazon eine neue Sicherheitsmaßnahme entwickelt zu haben. Konkret handelt es sich um einen Klassifikator, der verdächtige Anfragen erkennen und Angriffe in mehr als 99 % der Fälle blockieren soll.
Das Unternehmen kündigte zugleich eine engere Zusammenarbeit mit der US-Regierung und weiteren großen Akteuren an, darunter Amazon, Microsoft und Google. Ziel sind bessere Tests der Modelle noch vor ihrer Einführung sowie einheitliche Standards für die Bewertung ähnlicher Angriffe.
KI als guter Diener, aber schlechter Herr
Versuche, die Sicherheitsregeln von KI-Modellen zu umgehen, sind völlig üblich. Sie werden als Jailbreaks bezeichnet und von Forschern ständig getestet. Umso überraschender ist die schnelle und harte Reaktion der Regierung, die dazu führte, dass der Zugriff auf die gerade erst eingeführten Modelle eingeschränkt wurde.
Die gesamte Affäre zeigt deutlich, in welche Richtung sich der KI-Trend in der Cybersicherheit entwickelt. Künstliche Intelligenz ist längst nicht mehr nur ein intelligenter Helfer, der Code überprüft und die Arbeit erleichtert. Für viele Staaten werden die leistungsfähigsten Modelle zu einem strategischen Werkzeug. Diese können Systeme jedoch nicht nur schützen, sondern in den falschen Händen auch zu einer gefährlichen Eintrittskarte werden.
Und genau deshalb sind Mythos und Fable nicht nur weitere Namen auf der langen Liste der KI-Neuheiten. Sie erinnern daran, dass mit der Entwicklung immer leistungsfähigerer Modelle nicht nur die Frage wichtiger wird, was sie können, sondern vor allem, wer Zugriff auf sie haben sollte.
Quelle: Security Affairs, The Economist, Anthropic, AP News, TechSpot
