Nvidia, Microsoft und Meta schreiben nach Washington: Verbietet keine offenen KI-Modelle

Mehr als zwanzig amerikanische Technologieunternehmen haben eine klare Botschaft nach Washington geschickt: Hände weg von offenen KI-Modellen. Den Brief mit dem Titel Offene Gewichte und amerikanische KI-Führungsrolle unterzeichneten Nvidia, Microsoft, Meta, Palantir, IBM, Dell, Mistral, Mozilla, Hugging Face und die Linux Foundation. Die Unternehmen warnen in dem Schreiben vor verfrühten Verboten, die ihrer Ansicht nach den Wettbewerb unterdrücken und die Entwicklung aus den Vereinigten Staaten vertreiben würden. Zugleich führen sie auf, was die US-Regierung stattdessen tun sollte.

Was dem Brief vorausging

Wäre derselbe Text im Mai erschienen, hätte ihn wahrscheinlich niemand bemerkt. Seine zeitliche Relevanz erhielt er durch den 16. Juli, als das Pekinger Unternehmen Moonshot AI das Modell Kimi K3 veröffentlichte. Dieses setzte sich in mehreren Tests vor die amerikanische Konkurrenz und vor allem: Es handelt sich um ein Modell mit frei verfügbaren Gewichten, sodass es jeder herunterladen und auf eigenen Servern betreiben kann. In Washington löste dies eine Debatte darüber aus, ob der Zugang zu chinesischen Modellen in Amerika eingeschränkt werden sollte.

Finanzminister Scott Bessent kündigte in der darauffolgenden Woche an, die Regierung werde prüfen, ob chinesische Unternehmen amerikanisches geistiges Eigentum stehlen. Einen Tag später erhob der Berater des Weißen Hauses Michael Kratsios einen konkreten Vorwurf: Moonshot habe Kimi K3 seiner Ansicht nach durch Destillation von Technologie von Anthropic entwickelt. Destillation bedeutet, dass ein kleineres und schwächeres Modell anhand der Ausgaben eines größeren und leistungsfähigeren trainiert wird, wodurch dessen Fähigkeiten auf das kleinere Modell übertragen werden. Kratsios räumte ein, dass diese Methode in der offenen Entwicklung ihren legitimen Platz habe, bezeichnete jedoch das umfassende und verdeckte industrielle Kopieren amerikanischer Technologie als inakzeptabel.

Die Unternehmen verfassten diesen Brief also zu einem Zeitpunkt, als in Washington drei mögliche Maßnahmen diskutiert wurden: den Zugang zu chinesischen Modellen einzuschränken, die Destillationstechnik selbst zu beschränken und Exportkontrollen für Modellgewichte einzuführen.

Wovor die Unternehmen Angst haben

Die Unterzeichner benannten zwei parallel bestehende Befürchtungen.

Die erste betrifft ein pauschales Verbot oder eine starke Einschränkung offener Modelle. Dem Brief zufolge würde ein solcher Schritt den Wettbewerb zersplittern, die leistungsfähigste KI in den Händen einiger weniger Anbieter konzentrieren und die Entwicklung schlicht an andere Orte außerhalb Amerikas verlagern. Die Verfasser ziehen eine Analogie zu den Achtzigerjahren, als die Vorstellung vorherrschte, Software könne sich nur dann weiterentwickeln, wenn Unternehmen ihren eigenen Code streng unter Verschluss hielten. Die Open-Source-Bewegung kehrte dies um, und heute beruhen auf ihren Ergebnissen der Großteil des Internets, die Systeme der größten Technologiekonzerne sowie das US-Militär und Bundesbehörden, die sich mit wissenschaftlicher Forschung und Cybersicherheit befassen.

Die zweite Befürchtung ist konkreter und betrifft die Destillation. Die Unternehmen befürchten, Washington könnte beim Versuch, amerikanisches Know-how zu schützen, zu weit gehen und ein Verfahren verbieten, das zur gängigen Entwicklungspraxis gehört. Das Trainieren eines Modells anhand der Ausgaben eines anderen wird zur Verbesserung, zum Testen und zur Überprüfung eingesetzt und stellt dem Brief zufolge eine Fortsetzung der Tradition dar, Technologie auf bereits bestehenden Erfindungen aufzubauen. Das unrechtmäßige Abschöpfen von Wert aus geschlossenen Modellen ist nach Ansicht der Unterzeichner ein berechtigtes Problem, gehört jedoch vor Gericht und in Geschäftsverträge und rechtfertigt kein umfassendes Verbot der gesamten Methode.

Wie die Regierung handeln sollte

Die Unternehmen fordern, dass der Staat den Zugang zu Rechenleistung für Start-ups und akademische Forscher ausweitet. Sie wollen öffentliche Investitionen in gemeinsam zugängliche Trainingsressourcen, also Datensätze, Werkzeuge und Methoden zur Bewertung von Modellen, auf denen jeder aufbauen könnte. Außerdem wollen sie, dass Amerika mit Modellen mehrerer Unternehmen an der Spitze bleibt, also keine Einschränkung offener Modelle, bevor es dafür einen belegten Grund gibt. Sie erwähnen auch, dass die Anwendungsschicht oberhalb der Modelle dieselbe Aufmerksamkeit verdient, da KI gerade dort Unternehmen, Schulen und Krankenhäuser erreicht.

Die letzte Forderung bezieht sich direkt auf den Streit um die Destillation: Behörden sollten legitime Entwicklungsverfahren nicht mit Diebstahl verwechseln. Wo tatsächlich eine unbefugte Ausbeutung geschlossener Modelle stattfindet, sollten gezielte rechtliche und kommerzielle Instrumente eingesetzt werden.

Die Unterzeichner räumen die Risiken offener Gewichte ein. Sie schreiben ausdrücklich, dass die Entwickler die Kontrolle über die Gewichte verlieren, sobald diese veröffentlicht sind, und dass veränderte Versionen nur schwer nachverfolgt oder zurückgerufen werden können.

Die Antwort darauf ist ihrer Ansicht nach jedoch kein Verbot. Wenn Angreifer fortschrittliche KI einsetzen, benötigen Verteidiger Modelle mit vergleichbaren Fähigkeiten, um Bedrohungen erkennen, simulieren und auf sie reagieren zu können. Sich ausschließlich auf geschlossene Modelle zu verlassen, ist nicht automatisch sicher, da auch diese überwunden oder missbraucht werden oder auf eine Weise versagen können, die von außen niemand erkennen kann. Die Konzentration der leistungsfähigsten Fähigkeiten hinter einigen wenigen geschlossenen Schnittstellen schafft dem Brief zufolge eine Handvoll Schwachstellen, deren Ausfall den Rest lahmlegt. Offene Modelle ermöglichen es dagegen einer großen Gruppe von Forschern, das Verhalten eines Systems zu untersuchen, Schwachstellen zu finden und Schutzmaßnahmen dagegen zu entwickeln. Schutzmaßnahmen sollten nach Ansicht der Verfasser daher an tatsächlich nachgewiesene Schäden geknüpft sein und nicht an die Annahme, ein geschlossenes System sei grundsätzlich sicherer.

Wer unterzeichnet hat und wer nicht

Der Nvidia-Chef Jensen Huang veröffentlichte den Text als seinen allerersten Beitrag im Netzwerk X. Er schrieb, dass KI jede Branche verändern, jedes Unternehmen antreiben und von jedem Land entwickelt werde und dass offene Modelle die Sicherheit stärkten, die Verbreitung der Technologie beschleunigten und Souveränität ermöglichten. Seiner Ansicht nach braucht die Welt sowohl führende geschlossene als auch führende offene Modelle. Microsoft-Chef Satya Nadella schlug in seiner Mitteilung noch am selben Tag denselben Ton an.

Die ursprüngliche Liste unter dem Brief umfasste fünfundzwanzig Namen, darunter befand sich jedoch niemand, der Zugang zu einem führenden geschlossenen Modell verkauft. OpenAI, Anthropic und Google fehlten. OpenAI-Präsident Greg Brockman sagte am Donnerstag, er habe an keinen Gesprächen im Weißen Haus über eine Einschränkung des Zugangs zu offenen chinesischen Modellen teilgenommen, und fügte hinzu, die Nutzung von KI müsse seiner Ansicht nach demokratisiert werden.

In der Version, die Nvidia inzwischen auf seiner Website veröffentlicht hat, ist die Liste der Unterzeichner auf mehrere Dutzend Namen angewachsen. Hinzugekommen sind unter anderem OpenAI, Google, AMD, Cisco, Cloudflare, GitHub, Scale, Vercel und SpaceX. Anthropic, dessen Modelle im Zentrum des Destillationsvorwurfs stehen, ist weiterhin nicht darunter.

Auf der Liste ist auch Kapital vertreten. Andreessen Horowitz und Y Combinator, zwei der einflussreichsten Akteure im Silicon Valley, unterzeichneten bereits in der ersten Welle, gemeinsam mit den Fonds Emergence Capital, Unusual Ventures und Atreides Management. Ihre Portfolios sind voller Unternehmen, die Produkte auf herunterladbaren Modellen aufbauen, sodass sich ein mögliches Verbot schneller als bei allen anderen in ihren Bilanzen niederschlagen würde.

Quellen: cnbc.com, businessinsider.com und theinformation.com