Anthropic hat angekündigt, nach einer Welle von Rückmeldungen seiner Unternehmenskunden die umstrittenen Regeln zur Datenspeicherung zu ändern und sie durch eine Lösung namens Enterprise Frontier Safeguards zu ersetzen. Nach der neuen Regelung können Unternehmen ihre Daten in ihrer eigenen Cloud-Infrastruktur wie Amazon S3, Azure Blob Storage oder Google Cloud Storage speichern – mit eigenen Verschlüsselungsschlüsseln und eigenen Zugriffsregeln. Automatisierte Sicherheitskontrollen suchen zwar weiterhin nach Anzeichen für Missbrauch, doch kein Mitarbeiter von Anthropic wird mehr Einblick in die Daten nehmen.
Warum die Daten gespeichert wurden
Die ursprünglichen Regeln traten im Juni dieses Jahres in Kraft. Anthropic führte sie gleichzeitig mit der Veröffentlichung der Modelle Claude Fable 5 und Mythos 5 ein und verlangte, dass der gesamte Datenverkehr dieser Modelle dreißig Tage lang gespeichert wird. Begründet wurde dies mit dem Schutz vor Missbrauch und vor neuen, bislang unbekannten Cyberangriffen.
Das Unternehmen argumentierte, dass manche Angriffe erst anhand einer größeren Zahl von Anfragen erkannt werden können. Als Beispiel nannte es die sogenannte Best-of-N-Umgehung von Schutzmechanismen, bei der ein Angreifer Hunderte geringfügiger Varianten derselben Eingabe sendet und hofft, dass eine davon durchkommt. Umfangreichere Kampagnen wie staatlich unterstützte Spionage oder Erpressung mithilfe gestohlener Daten werden erst sichtbar, wenn Klassifikatoren mehrere Anfragen miteinander vergleichen können. Der raffinierteste Missbrauch erstreckt sich Anthropic zufolge über Dutzende Aufgaben, verschiedene Sitzungen und Konten, sodass die Analyse einzelner Interaktionen mit sofortiger Löschung nicht ausreicht. Die Erkennung benötigt schlicht ein Zeitfenster, um Zusammenhänge herzustellen. Das Unternehmen betonte zugleich erneut, dass es ihm nicht um Trainingsmaterial gehe, und fügte hinzu, dass es ohne ausdrückliche Zustimmung niemals mit Unternehmensdaten trainiert habe und dies auch künftig nicht tun werde.
Die Kunden nahmen jedoch vor allem wahr, dass ihre Eingaben und Antworten irgendwo einen Monat lang gespeichert werden. Die Unternehmen, mit denen Anthropic sprach, verstanden den Sicherheitsnutzen der Datenspeicherung größtenteils. Viele von ihnen, insbesondere jene, die an strenge Vorschriften ihrer Branche gebunden sind, konnten es sich jedoch nicht erlauben, solche Modelle zu verwenden. Kate Jensen, die bei Anthropic das US-Geschäft leitet, sagte, die Suche nach einer anderen Lösung habe gemeinsam mit den Kunden Hunderte Arbeitsstunden in Anspruch genommen. Ihr zufolge kann das Unternehmen die erforderlichen Kontrollen nun direkt in den Systemen und Daten des Kunden durchführen, sodass niemand Abstriche bei seinen Datenschutzgrundsätzen machen muss.
Was sich nun ändert
Enterprise Frontier Safeguards speichert die Daten für die Überwachung in einer Cloud, die vom Kunden und nicht von Anthropic kontrolliert wird. Die Erkennung bleibt Aufgabe von Anthropic, doch die Datenverwaltung, die Schlüssel und die Entscheidung über den Zugriff darauf verbleiben beim Unternehmen. Anthropic verlangt für diesen Dienst keine Gebühren, und die Kontrollen funktionieren gleich, unabhängig davon, ob der Kunde die Technologie direkt oder über eine Cloud-Plattform nutzt. Für den eigentlichen Speicher fallen jedoch die üblichen Gebühren des Cloud-Anbieters an, also für Kapazität, Lese- und Schreibvorgänge sowie ausgehende Datenübertragungen, genau wie bei jeder anderen Position. Die Einführung erfolgt schrittweise, eine breitere Verfügbarkeit ist für diesen Herbst geplant, und für Kunden, die noch nicht an der Reihe sind, ist bei den Modellen Fable 5 und Fable 5.1 eine Datenspeicherung von null Tagen gewährleistet.
Die ursprünglichen Regeln vom Juni gelten weiterhin für Kunden außerhalb der Unternehmensprogramme, die Modelle der Mythos-Klasse verwenden. Die regulären Tarife Claude Free, Pro und Max sind von der Änderung nicht betroffen, da bei ihnen Ein- und Ausgaben bereits zuvor gespeichert wurden.
Die Dokumentation zu den ursprünglichen Regeln beschreibt auch die Schutzmaßnahmen, die Bedenken ausräumen sollten. Standardmäßig hat niemand bei Anthropic Zugriff auf die gespeicherten Unterhaltungen. Ein Mensch kann sie nur im Rahmen eines genehmigten Verfahrens öffnen, typischerweise wenn automatisierte Systeme den Inhalt als potenziell schädlich kennzeichnen, und Zugriff hat nur eine kleine Gruppe überprüfter Mitarbeiter. Jeder derartige Zugriff wird in einem Protokoll verzeichnet, das weder gelöscht noch verändert werden kann. Nach dreißig Tagen werden die Daten automatisch gelöscht, ausgenommen gemeldete Fälle oder Situationen, in denen das Unternehmen gesetzlich zu ihrer Aufbewahrung verpflichtet ist.
Neue Modelle wurden veröffentlicht
Zusammen mit der Ankündigung stellte Anthropic auch die Modelle Claude Fable 5.1 und Claude Mythos 5.1 vor, die das Unternehmen als seine besten Werkzeuge für Programmierung, Wissensarbeit und Forschung bezeichnet. Beide basieren auf derselben Grundlage und unterscheiden sich in der Strenge ihrer Schutzmechanismen. Die Version Fable 5.1 ist allgemein verfügbar, während Mythos 5.1 nur im Modus für vertrauenswürdigen Zugriff betrieben wird und Schutzfunktionen mit Schwerpunkt auf Cybersicherheit und Biowissenschaften bietet. Anthropic-Chef Dario Amodei hatte die neuen Regeln bereits vergangene Woche im Zusammenhang mit der erweiterten Zusammenarbeit mit Salesforce skizziert und dabei die Bemühungen betont, Kundendaten vertraulich und die Modelle unter Kontrolle zu halten. Unternehmenskunden sind die wichtigste Einnahmequelle von Anthropic, und das Unternehmen zielt auch im Vorfeld seines geplanten Börsengangs auf diesen Markt. Zusätzlicher Druck kommt von der Konkurrenz, da OpenAI bereits Anfang dieses Monats eine eigene Lösung zur Datenspeicherung vorgestellt hat.
Quellen: cnbc.com und finance.yahoo.com
