Anthropic hat den Zugang zu seinen neuesten Modellen wiederhergestellt. Fable 5 steht seit dem 1. Juli wieder Nutzern weltweit zur Verfügung, während das Modell Mythos 5 erneut nur einer Gruppe US-amerikanischer Organisationen zugänglich gemacht wurde. Gleichzeitig stellte das Unternehmen Claude Science vor, ein Forschungswerkzeug für Wissenschaftler.
Fable 5 ist jetzt auf der Claude-Plattform, in Claude.ai, Claude Code und Claude Cowork verfügbar. Bei den Tarifen Pro, Max und Team sowie ausgewählten Unternehmenskonten rechnet Anthropic es bis zum 7. Juli nur bis zur Hälfte des wöchentlichen Limits an; danach wird es über Nutzerguthaben zugänglich sein. Den Zugang über AWS, Google Cloud und Microsoft Foundry will das Unternehmen so schnell wie möglich bereitstellen.
Neue Schutzmechanismen gegen Missbrauch
Das Unternehmen erläuterte bei dieser Gelegenheit die Logik, auf der seine Schutzmaßnahmen beruhen. Es setzt auf die sogenannte mehrschichtige Verteidigung, also die Kombination mehrerer Mechanismen. Keiner davon ist für sich allein perfekt, gemeinsam erschweren sie jedoch den Missbrauch des Modells erheblich. Einige Schutzmaßnahmen bringen dem Modell bei, gefährliche Anfragen abzulehnen, andere analysieren im Nachhinein Missbrauchsmuster.
Im Zentrum der Verteidigung stehen Klassifikatoren, kleinere automatisierte Systeme, die während einer Unterhaltung überwachen, ob jemand vom Modell potenziell schädliche Arbeit verlangt. Anthropic hat die Empfindlichkeit dabei bewusst so eingestellt, dass auch Anfragen blockiert werden, die höchstwahrscheinlich harmlos sind. Diesen Puffer bezeichnet das Unternehmen als Sicherheitsmarge. Bei Fable 5 hat es diese stärker ausgeweitet als bei jeder früheren Einführung. Nutzer merken das daran, dass das Modell gelegentlich auch eine vernünftige und harmlose Anfrage ablehnt.
Die Marge hilft auch gegen Versuche, die Schutzmaßnahmen zu umgehen. Die meisten solcher Versuche sind begrenzt, schalten nur ein bestimmtes Verhalten frei und sonst nichts. Anthropic unterteilt die Umgehung von Schutzmaßnahmen nach Schweregrad: von geringfügigen Umgehungen, die höchstens in die Sicherheitsmarge eindringen, über schädliche bis hin zu den gefährlichsten, die eine ganze Klasse schädlichen Verhaltens freischalten. Bei Fable 5 hat laut dem Unternehmen bislang niemand eine universelle Umgehungsmöglichkeit entdeckt.
Anthropic hat außerdem einen verbesserten Sicherheitsklassifikator eingesetzt. Wenn die Anfrage eines Nutzers auf diese Barriere stößt, erhält er einen Hinweis und seine Anfrage wird an das Modell Opus 4.8 weitergeleitet. Forscher des US-amerikanischen Zentrums für Standards und Innovation im Bereich KI (CAISI) haben sowohl die alten als auch die neuen Schutzmaßnahmen geprüft und kamen zu dem Schluss, dass sie außerordentlich stark sind. Die Verschärfung hat allerdings ihren Preis. Der neue Klassifikator stuft bei gewöhnlicher Programmierung und Fehlersuche auch harmlose Anfragen häufiger als verdächtig ein. Das Unternehmen verspricht, das System weiter zu verbessern, damit es tatsächlichen Missbrauch besser von legitimer Arbeit unterscheiden kann.
Gemeinsame Regeln für die gesamte Branche
Anthropic entwickelt gemeinsam mit Amazon, Microsoft, Google und weiteren Partnern aus dem Glasswing-Programm ein einheitliches Verfahren zur Bewertung der Schwere von Schutzumgehungen. Der Branche fehlt bislang eine einheitliche Methode, um zu beschreiben, wie gefährlich eine bestimmte Umgehung ist. Entwickler wissen daher nicht, welchen Erkenntnissen sie die größte Aufmerksamkeit widmen sollen, und Regierungen haben keine Orientierung, wann sie eingreifen müssen.
Der Entwurf bewertet jede Schutzumgehung anhand von vier Kriterien: wie viele zusätzliche Fähigkeiten sie einem Angreifer gegenüber allgemein verfügbaren Werkzeugen verschafft, bei wie vielen unterschiedlichen Angriffsaufgaben die Technik funktioniert, wie viel menschliche Arbeit erforderlich ist, um daraus einen realen Angriff zu machen, und wie leicht die Technik zugänglich ist. Bei den schwerwiegendsten Fällen, etwa einem Angriff auf Energienetze oder Bankensysteme, verspricht das Unternehmen, unverzüglich erste Gegenmaßnahmen zu ergreifen. Zudem richtet es ein Team ein, das rund um die Uhr die Kanäle überwachen wird, über die neue Schutzumgehungen gemeldet werden. Parallel dazu startet es ein Programm auf der Plattform HackerOne, über das Sicherheitsforscher ihre Erkenntnisse zur Überprüfung einreichen können.
Claude Science soll Wissenschaftlern die Arbeit erleichtern
Anthropic hat Claude Science vorgestellt, ein Arbeitswerkzeug für Wissenschaftler. Es handelt sich um eine Anwendung, die in der Forschung übliche Werkzeuge und Bibliotheken miteinander verbindet, nachvollziehbare Ergebnisse erzeugt und flexiblen Zugang zu Rechenleistung bietet. Das Unternehmen hat sie als Testversion für die Tarife Pro, Max, Team und Enterprise auf macOS- und Linux-Systemen veröffentlicht.
Wissenschaftliche Arbeit ist oft langwierig. Forscher müssen sich durch Dutzende Datenbanken arbeiten, die jeweils eine eigene Struktur haben, und zwischen Werkzeugen wie PubMed, Jupyter, R oder dem Terminal eines Rechenclusters wechseln. Claude Science führt diese verstreuten Werkzeuge in einer einzigen Umgebung zusammen. Der Nutzer arbeitet mit einem koordinierenden Agenten, der Zugriff auf mehr als sechzig vorbereitete Fähigkeiten und Konnektoren für Genomik, Proteomik, Strukturbiologie oder Chemoinformatik hat. Der Agent kann weitere Agenten starten und lässt seine Arbeit von einem Kontrollagenten überwachen, der sowohl Zitate als auch Berechnungen überprüft und Fehler selbstständig korrigiert.
Eine Stärke ist die Nachvollziehbarkeit. Wenn das Werkzeug eine Abbildung erstellt, fügt es den exakten Code und die Umgebung hinzu, mit der sie erzeugt wurde, außerdem eine allgemeinverständliche Beschreibung und den gesamten Nachrichtenverlauf. Dadurch lässt sich die Arbeit auch nach Monaten noch überprüfen und reproduzieren. Änderungen an Diagrammen kann der Nutzer einfach in Worten anweisen, etwa dass das Raster verschwinden oder die Achse auf eine logarithmische Skala umgestellt werden soll. Aufwendige Berechnungen wie Proteinfaltung oder genomische Analysen riesiger Datenmengen plant das Werkzeug selbst, bittet um Erlaubnis und übermittelt die Aufgabe an die Infrastruktur, die das Labor bereits nutzt. Sensible Daten müssen dabei die Systeme, auf denen sie gespeichert sind, nicht verlassen. An Claude wird nur der Teil übermittelt, den der jeweilige Schritt gerade benötigt. Die Anwendung nutzt Fähigkeiten aus dem NVIDIA BioNeMo Agent Toolkit und bindet Modelle wie Evo 2, Boltz-2 oder OpenFold3 ein.
Wissenschaftliche Nutzung
Während einer mehrmonatigen Testphase wurde das Werkzeug von konkreten Teams erprobt. Das Unternehmen Manifold Bio, das Medikamente für bestimmte Gewebe entwickelt, nutzte es zur Auswahl von Zielstrukturen für seine neuesten Experimente. Für jedes Gewebe und jede Zielstruktur bewertete das Werkzeug Oberflächenexpression, Transport und Sicherheit und ordnete die Kandidaten nach Kriterien, die Manifold aus eigenen Daten abgeleitet hatte. Nach Angaben des Unternehmens konnte es den gesamten Prozess von Anfang bis Ende durchführen.
Der Neurowissenschaftler Jérôme Lecoq vom Allen Institute entwickelte mithilfe von Claude Science ein System aus etwa zwanzig eigenen Fähigkeiten zum Verfassen umfangreicher Übersichtsstudien. Untergeordnete Agenten lesen Tausende Artikel, extrahieren daraus die wichtigsten Aussagen und zentralen numerischen Erkenntnisse und speichern sie in einer Datenbank. Früher benötigte sein Team bis zu zwei Jahre, um eine solche Übersicht zu verfassen. Jetzt verfügt er über etwa zehn davon, viele mit mehr als hundert Seiten und mit Zitaten, die von Kontrollagenten geprüft wurden. Der Epidemiologe Stephen Francis vom Hirntumorzentrum der UCSF untersucht mit dem Werkzeug wiederum die genetischen Grundlagen von Hirntumoren. Analysen, die früher Wochen dauerten, bewältigt er nun in etwa einem Zehntel der Zeit. Seine Gruppe überprüfte die Ergebnisse unabhängig und bestätigte, dass das Werkzeug sowohl schnell als auch zuverlässig arbeiten kann.
