Dario Amodei, CEO von Anthropic, einem der größten Unternehmen im Bereich der künstlichen Intelligenz, hat einen umfangreichen Essay mit dem Titel „Das Jugendalter der Technologie“ (Technologie im Jugendalter) veröffentlicht, in dem er vor den Gefahren der rasanten KI-Entwicklung warnt. Dieser Text knüpft an seinen letztjährigen Essay „Maschinen liebevoller Gnade“ an, der sich auf die positiven Aspekte der Technologie konzentrierte. Diesmal legt Amodei jedoch eine Warnung vor, die die gesamte Zivilisation wachrütteln sollte.
Ein Land voller Genies in einem Rechenzentrum
Amodei verwendet in seinem 38-seitigen Essay wiederholt die Metapher eines „Landes voller Genies in einem Rechenzentrum“. Stellen Sie sich 50 Millionen Menschen vor, von denen jeder kompetenter ist als jeder Nobelpreisträger, Staatsmann oder Technologe. Diese KI-Systeme könnten hundertmal schneller arbeiten als Menschen – für jede unserer kognitiven Handlungen könnten sie zehn eigene ausführen. Laut Amodei würde eine solche Situation „eine der schwerwiegendsten Bedrohungen für die nationale Sicherheit im vergangenen Jahrhundert, vielleicht sogar überhaupt“ darstellen.
Amodei glaubt, dass eine derart leistungsfähige KI nur noch 1 bis 2 Jahre entfernt sein könnte, räumt jedoch ein, dass es auch länger dauern kann. Diese Prognose beruht auf der Beobachtung der „Skalierungsgesetze“ von KI-Systemen, die Amodei und seine Mitgründer bei Anthropic als Erste dokumentiert haben. Diese Gesetze zeigen, dass sich KI-Systeme durch mehr Rechenleistung und zusätzliche Trainingsaufgaben in jeder messbaren kognitiven Fähigkeit vorhersehbar verbessern.
Fünf zentrale Risikokategorien
Amodei identifiziert fünf zentrale Risikobereiche. Der erste umfasst Autonomierisiken – was geschieht, wenn KI-Systeme eigene Ziele und Motivationen entwickeln, die nicht mit menschlichen Werten übereinstimmen? Die zweite Kategorie betrifft den Missbrauch zu destruktiven Zwecken, bei dem Einzelpersonen oder kleine Gruppen KI zur Entwicklung biologischer Waffen oder anderer Massenvernichtungsinstrumente einsetzen könnten. Das dritte Risiko ist der Missbrauch zur Machtergreifung, bei dem Diktatoren oder korrupte Konzerne KI nutzen könnten, um eine beherrschende Stellung in der Welt zu erlangen.
Die vierte Kategorie betrifft wirtschaftliche Verwerfungen. Selbst wenn KI keine Sicherheitsbedrohung darstellen sollte, könnte sie zu Massenarbeitslosigkeit oder einer radikalen Konzentration von Vermögen führen. Amodei prognostiziert, dass KI innerhalb von 1 bis 5 Jahren bis zu 50 % der Einstiegspositionen in Büroberufen übernehmen könnte. Die fünfte Kategorie umfasst indirekte Auswirkungen – die Welt wird sich aufgrund der neuen Technologie und Produktivität sehr schnell verändern, was zu einer radikalen Destabilisierung führen kann.
Biologische Bedrohungen und Spiegelleben
Besonders beunruhigend ist Amodeis Warnung vor biologischen Risiken. Er befürchtet, dass leistungsfähige Sprachmodelle selbst einem durchschnittlich gebildeten Menschen ermöglichen könnten, eine biologische Waffe zu entwickeln und freizusetzen. Im Jahr 2024 verfasste eine Gruppe renommierter Wissenschaftler einen Brief, in dem sie vor den Risiken der Forschung zum „Spiegelleben“ warnte – einer neuen Art von Organismus, der für bestehende Enzyme unverdaulich sein könnte und im schlimmsten Fall alles Leben auf der Erde vernichten könnte.
Amodei merkt an, dass die Claude-Modelle von Anthropic bereits Mitte 2025 in mehreren relevanten Bereichen „wesentliche Verbesserungen“ ermöglichten und die Erfolgswahrscheinlichkeit möglicherweise verdoppelten oder verdreifachten. Dies führte zu der Entscheidung, dass Claude Opus 4 und nachfolgende Modelle im Rahmen der Richtlinie für verantwortungsvolle Skalierung unter den Schutzmaßnahmen des AI Safety Level 3 veröffentlicht werden müssen. AI Safety Level 3 bezeichnet eine Sicherheitsstufe für Modelle, die bereits ein erhebliches Missbrauchsrisiko zur Verursachung katastrophaler Schäden darstellen.
Kritik an der Branche und der Regulierung
Amodei kritisiert einige KI-Unternehmen scharf für ihre Nachlässigkeit. Er erwähnt, dass manche Unternehmen bei heutigen Modellen eine „beunruhigende Nachlässigkeit gegenüber der Sexualisierung von Kindern“ gezeigt hätten, was ihn daran zweifeln lässt, ob sie in der Lage sein werden, die Autonomierisiken künftiger Modelle zu bewältigen. Er warnt davor, dass sich der kommerzielle Wettlauf zwischen KI-Unternehmen weiter verschärfen wird, wodurch es schwieriger wird, sich auf die Bewältigung von Autonomierisiken zu konzentrieren.
Laut Amodei ist die einzige Lösung eine gesetzliche Regelung – Gesetze, die das Verhalten von KI-Unternehmen direkt beeinflussen. Er unterstützt Transparenzgesetze wie das kalifornische SB 53 und den New Yorker RAISE Act, die jedes führende KI-Unternehmen zur Einhaltung transparenter Praktiken verpflichten. Diese Gesetze gelten nicht für kleinere Unternehmen mit einem Jahresumsatz von weniger als 500 Millionen Dollar (etwa 11,5 Milliarden Kronen).
Das Paradox der Warnung
Die Ironie der gesamten Situation besteht darin, dass Amodei seine Warnung am selben Tag veröffentlichte, an dem Anthropic ein Update seines Chatbots Claude mit einer MCP-Erweiterung vorstellte. Das Unternehmen veröffentlichte kürzlich außerdem das Modell Claude Opus 4.5 mit Schwerpunkt auf Programmierung und Automatisierung. Amodei befindet sich somit in der Position, vor einer Technologie zu warnen, die sein Unternehmen aktiv entwickelt und verkauft.
„Ich glaube, dass die Risiken bewältigt werden können, wenn wir entschlossen und umsichtig handeln – ich würde sogar sagen, dass unsere Chancen gut stehen“, schreibt Amodei. Zugleich fügt er jedoch hinzu, dass dieser Versuch, die Menschheit wachzurütteln, „möglicherweise vergeblich“ sein könnte, was niemals ein gutes Zeichen ist, wenn die Zivilisation vor einer ernsten Herausforderung steht.
Weitere Quelle: hindustantimes.com
