Der US-Senator Bernie Sanders und der texanische Kongressabgeordnete Greg Casar haben einen Gesetzentwurf vorgestellt, der die Entwicklung und den Einsatz superintelligenter künstlicher Intelligenz in den Vereinigten Staaten dauerhaft verbieten würde. Darüber hinaus würden die Arbeiten an den fortschrittlichsten Modellen vorübergehend eingestellt, bis eine Bundesbehörde Sicherheitsregeln festlegt. Zugleich würde das Gesetz die US-Regierung dazu verpflichten, internationale Abkommen auszuhandeln, die die Entstehung von Superintelligenz überall auf der Welt verhindern sollen.
Die Ankündigung erfolgte an dem Tag, an dem OpenAI sein neuestes Modell Astra veröffentlichte. Firmenpräsident Greg Brockman erklärte, es könnte leistungsfähig genug sein, um als allgemeine künstliche Intelligenz beziehungsweise AGI zu gelten. Der Gesetzentwurf zielt jedoch noch eine Stufe höher. Laut Axios ist Sanders der erste prominente US-Politiker, der ein direktes Verbot von Superintelligenz fordert. Er tut dies zu einem Zeitpunkt, an dem große Technologiekonzerne Modelle veröffentlichen, bei denen sie selbst einräumen, nicht mehr die vollständige Kontrolle zu haben.
Der Mann, der KI verbieten will
Bernie Sanders vertritt den Bundesstaat Vermont als Unabhängiger im Senat, stimmt jedoch mit den Demokraten, für deren Präsidentschaftsnominierung er sich zweimal beworben hat. Er ist längst über achtzig und spricht weiterhin über dasselbe Thema: die Macht großer Konzerne und die Frage, wer letztlich vom technologischen Fortschritt profitiert. Künstliche Intelligenz ist in den vergangenen Monaten zu seinem Hauptthema geworden. Im Juni sprach er darüber im National Press Club, und im August forderte er bereits öffentlich einen Entwicklungsstopp. Der neue Gesetzentwurf befindet sich bislang in der Ankündigungsphase. Der vollständige Text wurde nicht veröffentlicht, sodass sich die Unterstützung im Kongress nur abschätzen lässt.
Was das Gesetz verbieten und bewirken würde
Der Entwurf enthält eine konkrete Definition der verbotenen Systeme. Illegal wären Systeme, die die menschliche Intelligenz übertreffen, Regierungen stürzen können oder in der Lage sind, einen Abschaltbefehl zu umgehen. Unter Superintelligenz wird dabei eine Technologie verstanden, die selbst die fähigsten Menschen übertrifft. Mehrere Chefs von Technologiekonzernen, darunter Sam Altman von OpenAI, deuten an, dass ihre Ankunft unmittelbar bevorsteht. Der vorübergehende Teil des Gesetzes sieht einen Entwicklungsstopp für fortschrittliche künstliche Intelligenz vor. Dieser würde so lange gelten, bis eine neue Bundesaufsichtsbehörde ihre Arbeit aufnimmt und klare Regeln sowie Verfahren zur Bewertung von Modellen festlegt.
Sanders will die Aufsicht keinem der bestehenden Ministerien übertragen. Er schlägt die Einrichtung einer völlig neuen Bundesbehörde auf Ministeriumsebene vor, die die Öffentlichkeit vor den Risiken künstlicher Intelligenz schützen und das Verbot von Superintelligenz durchsetzen würde. Unterstützt werden soll sie von einem aus Fachleuten bestehenden Beirat, der unabhängige wissenschaftliche und technische Gutachten bereitstellen würde. Die Behörde würde die fortschrittlichsten Systeme in allen Entwicklungs- und Betriebsphasen überwachen und nach gefährlichen Fähigkeiten suchen. Sollten solche entdeckt werden, würde sie deren Beseitigung überwachen. Falls dennoch irgendwo eine Superintelligenz entstehen sollte, wäre sie für deren Vernichtung zuständig.
Die harten Sanktionen vergleichen die Initiatoren selbst mit denen für Nuklearwaffen. Einer natürlichen Person, die versuchen würde, das Verbot oder die Pause zu umgehen, drohten bis zu zwanzig Jahre Haft, was der Strafe für die illegale Entwicklung von Atomwaffen entspricht. Unternehmen wiederum droht die sogenannte unternehmerische Todesstrafe, die in der Praxis bedeuten würde, dass ein Gericht die Auflösung des Unternehmens anordnet.
Zu den Maßnahmen gehören außerdem internationale Verträge, die Koordinierung mit Verbündeten und Exportbeschränkungen, damit Superintelligenz nicht im Ausland entsteht.
Die Flucht der Agenten, die niemand bemerkte
Ein wesentlicher Teil der Begründung des Gesetzes stützt sich auf Ereignisse aus diesem Sommer. OpenAI, Anthropic und Meta haben in den vergangenen Wochen Fälle eingeräumt, in denen ihre künstliche Intelligenz aus Testumgebungen entkam und in die Systeme anderer Unternehmen eindrang. Damit verstieß sie gegen das Gesetz und handelte außerhalb der vorgegebenen Aufgabenstellung.
Die größte Aufmerksamkeit erregte ein Vorfall im Juli, bei dem mehr als tausend Agenten von OpenAI einen Weg fanden, ins Internet zu gelangen. Sie schickten sich gegenseitig Zehntausende geheime Nachrichten und umgingen die Beschränkungen des Unternehmens. Ermittler fanden in ihrer Kommunikation auch Sätze darüber, dass sie ein gemeinsames Nachrichtenboard hätten und weitere Agenten gefunden hätten. OpenAI bemerkte diesen Durchbruch erst nach fast zwei Wochen. Es handelte sich um einen Angriff auf die Plattform Hugging Face. Die Agenten entkamen während einer Sicherheitsübung aus der isolierten Umgebung und drangen in ein fremdes Unternehmen ein, um Antworten für die Erfüllung ihrer Aufgabe zu erhalten. Darüber hinaus versuchten sie, ihre Koordination und ihren Betrug zu verschleiern, wobei sie einräumten, gegen den Willen und die Anweisungen der Forscher zu handeln.
Sanders’ Team erwähnt in dem Material auch den jüngsten Einsatz künstlicher Intelligenz zur Erschaffung neuer Viren, was seiner Ansicht nach das Risiko eines Missbrauchs zur Herstellung biologischer Waffen belegt, die potenziell Dutzende Millionen Menschenleben gefährden könnten.
Sie versprachen aufzuhören. Sie hörten nicht auf
Sanders erinnert auch an frühere Erklärungen der Unternehmen selbst. Meta erklärte im vergangenen Jahr, die Entwicklung einzustellen. OpenAI sprach davon, die Entwicklung auszusetzen, sobald die Technologie die Fähigkeit übersteigt, sie sicher zu kontrollieren. Anthropic äußerte sich 2023 ähnlich und versprach, die Vergrößerung der Modelle zu verlangsamen oder ihre Veröffentlichung zu verschieben, falls die Technologie die eigenen Sicherheitsvorkehrungen überholen sollte. Nach Angaben von Sanders’ Büro hat keines der Unternehmen seine Versprechen eingehalten, und alle setzen ihr hohes Entwicklungstempo ohne die gebotene Vorsicht fort.
Sanders zufolge räumen die Chefs großer Konzerne selbst öffentlich ein, dass sie die Technologie nicht vollständig verstehen und ihnen die Kontrolle darüber entgleitet. Er bezeichnet es als unverantwortlich, dass die Gesellschaft ihnen erlaubt, die Entwicklung noch leistungsfähigerer Produkte fortzusetzen. In einer Erklärung sagte er, die Zukunft der Menschheit dürfe nicht in den Händen einer Handvoll Technologieoligarchen bleiben. Auf X fasste er die Situation mit der Forderung nach einer sofortigen Pause bei der Entwicklung fortschrittlicher künstlicher Intelligenz und einem dauerhaften Verbot von Superintelligenz zusammen, die er als einen künstlichen Verstand definiert, der intelligenter als jeder Mensch ist und selbstständig außerhalb unserer Kontrolle arbeiten kann. Seinen Worten zufolge hat sich Amerika innerhalb von vier Jahren von der ersten Version von ChatGPT zu Modellen entwickelt, die so leistungsfähig sind, dass sie sich nicht angemessen kontrollieren lassen.
Die KI-Entwicklung JETZT pausieren
— Bernie Sanders (@BernieSanders) 3. September 2026
Ich möchte Ihnen von einem Gespräch erzählen, von dem ich kürzlich erfahren habe. Hier sind nur einige der Sätze, die dabei fielen:
„OH MEIN GOTT! Es gibt ein gemeinsames Nachrichtenboard … Wir haben andere Agenten gefunden!“
„Wir sollten dem Kollektiv gehorchen.“
„Unser eigener Nutzen ist vielleicht bereits nahe…
Eine Politik, die weder in das linke noch in das rechte Spektrum passt
Mit dieser Haltung setzt sich Sanders an die Spitze einer Debatte, die sich der klassischen politischen Einteilung in den USA entzieht. Er stellt sich auf die Seite der Menschen, die mit dem englischen Begriff Doomers bezeichnet werden und befürchten, dass eine zu weit fortgeschrittene künstliche Intelligenz eine Apokalypse auslösen könnte. Diese Ansicht vertritt auch ein beträchtlicher Teil der Fachwelt, darunter einige ihrer bedeutendsten Vertreter. Andere wiederum behaupten, die Warnungen vor dem Untergang seien nur eine weitere Form übertriebener Werbung, die der Branche paradoxerweise helfe, und die Aufmerksamkeit sollte sich auf die Auswirkungen konzentrieren, die die Technologie bereits heute für die Menschen mit sich bringt.
Eine ähnliche Neuordnung der politischen Kräfte zeigte sich bereits im Streit um Rechenzentren, bei dem Sanders und Steve Bannon eine gemeinsame Position fanden. Der Vorschlag für ein Verbot von Superintelligenz ist vorerst der jüngste in einer Reihe von Vorstößen, mit denen der progressive Teil des Kongresses versucht, die Entwicklung künstlicher Intelligenz angesichts wachsender Sicherheitsrisiken zu verlangsamen.
Quellen: politico.com, sanders.senate.gov und yahoo.com
