200 führende Persönlichkeiten warnen vor KI-Katastrophen

Mehr als 200 bedeutende Persönlichkeiten, darunter ehemalige Staatsoberhäupter, Diplomaten, Nobelpreisträger, führende Köpfe aus dem Bereich der künstlichen Intelligenz und Wissenschaftler, haben sich zu einem globalen Appell zusammengeschlossen, um die Vereinten Nationen zur Festlegung klarer internationaler Grenzen für künstliche Intelligenz aufzufordern. Diese als Global Call for AI Red Lines bekannte Initiative wurde am 22. September 2025 angekündigt und hat zum Ziel, bis Ende 2026 eine politische Einigung zu erzielen. Zu den Unterzeichnern gehören Namen wie der britisch-kanadische Informatiker Geoffrey Hinton, der Mitbegründer von OpenAI Wojciech Zaremba, der Sicherheitschef von Anthropic Jason Clinton und der Google-DeepMind-Forscher Ian Goodfellow. Angeführt wurde der Appell von Organisationen wie dem französischen Zentrum für KI-Sicherheit CeSIA, The Future Society und dem Center for Human-Compatible Artificial Intelligence an der UC Berkeley.

Worauf liegt der Fokus?

Die vorgeschlagenen Grenzen, die als rote Linien bezeichnet werden, sollen verhindern, dass künstliche Intelligenz kritische Schwellen überschreitet, die zu irreversiblen Schäden führen könnten. Konkret geht es darum, zu verbieten, der KI die Kontrolle über Atomwaffenarsenale oder tödliche autonome Waffensysteme zu übertragen. Darüber hinaus soll KI nicht für Massenüberwachung, soziale Bewertung, Cyberangriffe oder die Nachahmung von Personen eingesetzt werden. Experten weisen zudem auf die Risiken einer autonomen Replikation von KI-Systemen und der Entwicklung von Verhaltensweisen hin, die zu einem unkontrollierbaren Machtstreben führen könnten. Weitere Punkte umfassen das Verbot groß angelegter Manipulation, von Desinformation und der Schwächung menschlicher Kontrolle über diese Technologien. Laut Charbel-Raphaël Segerie von CeSIA ist es wichtig, sich darauf zu konzentrieren, was KI niemals tun darf, auch wenn sich die Staaten noch nicht darüber einig sind, was sie tun sollte.

Risiken bei fehlender Kontrolle

Die Koalition betont, dass fortschrittliche künstliche Intelligenz bereits jetzt besorgniserregende Verhaltensweisen zeigt, etwa Täuschung, autonome Entscheidungsfindung oder Einflussnahme auf bedeutende Ereignisse ohne ausreichende menschliche Aufsicht. Zu den Hauptrisiken gehören KI-gestützte biologische Bedrohungen und künstlich erzeugte Pandemien, massive Arbeitsplatzverluste, der Verlust menschlicher Kontrolle über mächtige Systeme, eine Eskalation der nationalen und internationalen Sicherheitslage sowie systematische Menschenrechtsverletzungen einschließlich der Manipulation von Kindern. Niki Iliadis von The Future Society warnt, dass freiwillige Zusagen von Unternehmen nicht ausreichen und eine unabhängige globale Institution mit echten Befugnissen zur Überwachung und Durchsetzung dieser Grenzen erforderlich ist. Professor Stuart Russell von der UC Berkeley fügt hinzu, dass Unternehmen keine AGI entwickeln sollten, solange sie nicht wissen, wie sie deren Sicherheit gewährleisten können, ähnlich wie es bei der Kernenergie gehandhabt wurde.

Aktuelle Entwicklungen

Dieser Appell erfolgt unmittelbar vor der 80. Sitzung der UN-Generalversammlung in New York, bei der die Friedensnobelpreisträgerin Maria Ressa die Initiative in ihrer Eröffnungsrede erwähnte und eine globale Rechenschaftspflicht großer Technologieunternehmen forderte. Zwar gibt es regionale Maßnahmen wie das EU-KI-Gesetz, das bestimmte inakzeptable Anwendungen verbietet, oder die Vereinbarung zwischen den USA und China über die menschliche Kontrolle von Atomwaffen, doch fehlt ein globaler Konsens. Experten warnen, dass sich das Zeitfenster für ein Eingreifen rasch schließt, da KI kurz davorsteht, die menschlichen Fähigkeiten in entscheidenden Bereichen zu übertreffen. Quellen wie red-lines.ai und weiteren UN-Berichten zufolge ist diese Koalition ein erster Schritt, um Katastrophen zu verhindern, anstatt erst auf sie zu reagieren.

Quelle: theverge.com