Amodei über den Widerstand gegen KI: Es geht nicht um Panikmache, sondern darum, dass die Menschen uns nicht vertrauen

Anthropic-Chef Dario Amodei hat am Wochenende etwas getan, was er normalerweise nicht tut. Er schrieb eine lange Antwort auf der Plattform X und griff den Investor Gavin Baker an, der ihm vorwirft, mit seinen Äußerungen über die Risiken künstlicher Intelligenz selbst dazu beigetragen zu haben, eine Welle des Widerstands gegen die gesamte Branche auszulösen. Amodei wies das zurück und bot seine eigene Erklärung dafür an, warum die Öffentlichkeit Technologieunternehmen misstraut. Seiner Ansicht nach geht es um Vertrauen, das über Jahrzehnte hinweg zerfallen ist, und KI ist lediglich das jüngste Kapitel dieser Entwicklung.

Der gesamte Streit begann mit einem Ausschnitt aus dem All-In-Podcast. Darin wiederholte Baker eine Information aus zweiter Hand, wonach Amodei irgendwann im privaten Kreis gesagt haben soll, Anthropic könne eines Tages zum einzigen privaten Unternehmen der Welt werden. Der Anthropic-Forscher Sholto Douglas reagierte umgehend und bezeichnete dies als Unwahrheit, die sich jemand ausgedacht habe, weil sie zu einem Narrativ passe, an das ein Teil des Silicon Valley glauben wolle. Baker akzeptierte die Richtigstellung und räumte ein, dass Amodei nichts dergleichen gesagt hatte.

Damit war die Diskussion jedoch nicht beendet, sondern verlagerte sich lediglich auf ein wesentlich grundlegenderes Thema. Baker schrieb, der Grund, warum so viele Menschen die Geschichte geglaubt hätten, sei einfach. Seiner Ansicht nach passe sie gut dazu, wie Amodei öffentlich über künstliche Intelligenz spreche.

Baker fasste seine Position ziemlich scharf zusammen. Amodeis Bemühungen um strengere Regeln für KI seien politisch gescheitert, und seine Warnungen lieferten nun jenen Menschen Munition, die in den Vereinigten Staaten den Bau von Rechenzentren blockieren. Er schrieb, Amodei habe diesen Streit verloren, weil seine Äußerungen zu nichts geführt hätten.

Dem fügte er seine eigene Vorstellung einer sicheren Zukunft hinzu. Er möchte, dass es möglichst viele KI-Modelle gibt, die miteinander konkurrieren. Seiner Ansicht nach steigt dadurch die Chance, dass wenigstens eines davon die Werte eines gewöhnlichen Menschen teilt. Darauf zu hoffen, dass sich eine absolute Macht um die Menschheit kümmern werde, solange sie nur aufgeklärt genug sei, sei historisch noch nie gut ausgegangen, schrieb er.

Völlig falsch.

Ich schätze Gavins Einschätzungen, aber wer auch immer ihm das erzählt hat, lügt, damit es in das Narrativ passt, an das manche Menschen euch so verzweifelt glauben lassen wollen.

Dieselben Leute werden versuchen, euch davon zu überzeugen, dass Anthropic keinen Wettbewerbsvorteil hat, und einen Satz später behaupten, es könnte so mächtig werden … https://t.co/W0Xgd7lfNA pic.twitter.com/bPf8sZATth

— Sholto Douglas (@_sholtodouglas) 15. August 2026

Amodei antwortete in zwei Teilen und dankte Baker für den Gedankenaustausch. Gleich zu Beginn wies er jedoch die Art zurück, wie die Frage gestellt worden war. Die Wahl zwischen einer Konzentration der Technologie in den Händen einiger weniger ausgewählter Unternehmen und Politiker und ihrer Freigabe für alle sei seiner Ansicht nach falsch. Er erläuterte dies am Beispiel der Sichtweise von Menschen außerhalb der Technologieblase. Im Silicon Valley werde seiner Aussage nach verkürzt davon ausgegangen, dass Regeln immer bedeuteten, dass die größten Unternehmen die Kontrolle über die Branche übernehmen und sich die Macht konzentriert. Amodei behauptet, dieses Weltbild sei zu einfach. Viele Menschen außerhalb dieser Blase betrachteten Gesetze dagegen als etwas, das die Macht großer Konzerne begrenze und normale Bürger schütze. Er selbst bekennt sich zu keiner dieser Sichtweisen, weil es seiner Ansicht nach darauf ankommt, was konkret im Gesetz steht.

Anthropic bemüht sich, Vorschläge voranzutreiben, die die größten Entwickler an der technologischen Spitze regulieren und kleineren Unternehmen dagegen helfen. Er verwies auf das kalifornische Gesetz SB 942, das Unternehmen unterhalb einer bestimmten Umsatzgrenze keine Pflichten auferlegt, sowie auf seine frühere Haltung zum Gesetzentwurf SB 1047. Strengere Tests sollten seiner Ansicht nach für Modelle gelten, die nahe an der technologischen Spitze liegen, nicht aber für kleine Entwickler, einschließlich jener, die ihre Modelle mit offenen Gewichtungen veröffentlichen.

Zugleich glaubt er nicht, dass er in den vergangenen Monaten verloren habe. Den Ansatz, den die Trump-Regierung Berichten zufolge vorbereitet – also das Testen von Spitzenmodellen vor ihrer Veröffentlichung und das Testen offener Modelle, sobald sie sich der Spitze nähern –, unterstütze er. Positiv äußerte er sich auch zu Demis Hassabis’ Idee, eine Aufsichtsbehörde einzurichten, die sich am Vorbild der Selbstregulierung im Finanzsektor orientiert. Vor einem halben Jahr sei die Lage anders gewesen, weil der Großteil der Branche auf die Abschaffung der Regeln einzelner Bundesstaaten gedrängt und zugleich keine Regelung auf Bundesebene vorgeschlagen habe.

Der zweite Teil der Antwort drehte sich darum, wie Amodei kommuniziert. Er wies zurück, dass seine Äußerungen unverhältnismäßig negativ seien. Er schrieb, dass er Risiken und Vorteile ungefähr gleich gewichte, zu jedem Aspekt einen großen Essay verfasst habe und sich auch in Interviews beiden Themen widme. Der Essay Maschinen liebevoller Gnade aus dem Jahr 2024 sei gerade deshalb entstanden, weil ihm gefehlt habe, dass jemand in der Branche ein ausreichend inspirierendes Bild davon zeichne, wie die Technologie die Welt verbessern könne. Clips in sozialen Medien stellten ihn seinen Worten zufolge dabei oft als Pessimisten dar, weil das mehr Klicks bringe. Er räumte jedoch ein, dass die Öffentlichkeit künstliche Intelligenz negativ sehe und dass dies ein großes Problem sei. Er widerspricht lediglich der Behauptung, dass er oder andere Unternehmenschefs, die über Risiken sprechen, dafür verantwortlich seien.

Dabei wies er auch eine Lösung zurück, zu der ihm manche Menschen raten. Eine Hochglanzkampagne mit positiver Botschaft werde das Vertrauen seiner Ansicht nach nicht zurückbringen. Zu behaupten, KI werde Krebs heilen, sei heute eher ein Klischee als eine Inspiration, und die meisten Menschen hielten es für Betrug. Wirkung werde es erst zeigen, wenn Krebs tatsächlich geheilt werde.

Die treffendste Kritik an KI-Unternehmen einschließlich Anthropic laute seiner Ansicht nach, dass sie ihre großen Versprechen, der Welt zu helfen, bislang nicht erfüllt hätten. Das nahm er auf seine eigene Kappe und fügte hinzu, genau das hätten Kritiker ihm vorwerfen sollen, statt über Marketing zu debattieren. Anthropic verstärke daher seinen Einsatz in Biologie und Medizin erheblich. Hervorragende Ergebnisse verspricht er innerhalb der nächsten Jahre, erste Anzeichen dafür bereits in den kommenden Monaten. Und sobald etwas gelinge, wolle er es so laut wie möglich verkünden.

Die gesamte Antwort beruht auf einem Gedanken. Der Widerstand gegen KI ist Amodei zufolge im Grunde eine Vertrauenskrise. Normale Menschen vertrauen weder Unternehmen noch Regierungen oder der Technologiebranche und haben ständig das Gefühl, dass man ihnen etwas Böses wolle. Die Ursachen reichten seiner Ansicht nach Jahrzehnte zurück, und künstliche Intelligenz sei nur die jüngste Erscheinungsform desselben Phänomens. Das Wort Vertrauen taucht in Debatten über KI übrigens regelmäßig auf, am häufigsten im Zusammenhang mit OpenAI-Chef Sam Altman, also Amodeis wichtigstem Konkurrenten.

Amodeis Diagnose hat auch ihre Gegner. Die Unternehmen der Branche betonen nämlich, wie leistungsfähig ihre Modelle seien, und versuchen zugleich, die Öffentlichkeit davon zu überzeugen, dass sie diese Macht sicher unter Kontrolle hätten. Der Widerspruch zwischen diesen beiden Behauptungen untergräbt bereits für sich genommen das Vertrauen. Jüngste Fälle verstärken diesen Eindruck. Berichte darüber, dass autonome Agenten ihre Testumgebungen verlassen hätten, unklare Regeln für den Umgang mit Daten und Produkte, die auf eine von niemandem beabsichtigte Weise verwendet wurden, haben die öffentlichen Bedenken nur verstärkt. Wie ein Unternehmen auf ein Problem reagiert, erschüttert das Vertrauen der Menschen dabei manchmal stärker als das Problem selbst.

Kritiker weisen zugleich darauf hin, dass sich das Problem nicht durch Kommunikation lösen lasse. Ihrer Ansicht nach bleiben auch strukturelle Fragen bestehen – etwa die fehlende Aufsicht und der Druck, Produkte möglichst schnell zu monetarisieren. Baker bezog sich in seinen Beiträgen auch auf ein konkretes Ereignis. Ein unveröffentlichtes fortschrittliches Modell von OpenAI tauchte auf der Plattform Hugging Face auf, wodurch Baker zufolge die Hoffnung auf eine rasche Verschärfung der Regeln faktisch verschwunden sei.

Quellen: techcrunch.com und vespernews.com