Das US-Unternehmen Anthropic hat in den Unterlagen für seinen Börsengang eingeräumt, dass es sich möglicherweise einer der meistbeachteten Schwellen in der Entwicklung künstlicher Intelligenz nähert. Seine Modelle könnten schon bald ihre eigene Entwicklung erheblich beschleunigen, ohne dass das Unternehmen dies rechtzeitig bemerkt.
Eine Warnung im Kleingedruckten
Anthropic veröffentlichte am Montag eine überarbeitete Fassung der Dokumente für die US-Börsenaufsicht. Zwar ziehen vor allem die Finanzen die Aufmerksamkeit auf sich, da die Einnahmen des Unternehmens stark steigen und mit ihnen auch die Ausgaben, doch unter den Risikofaktoren ist ein Abschnitt hinzugekommen, der weitaus schwerer wiegt. Bereits die erste Fassung der Dokumente enthielt die Warnung, dass künstliche Intelligenz für die Menschheit eine katastrophale bis hin zu einer existenziellen Bedrohung darstellen könnte.
Neu schreibt das Unternehmen, dass künftige Modelle unmittelbar das erreichen könnten, was seine internen Regeln als einen durch künstliche Intelligenz dramatisch beschleunigten Fortschritt bezeichnen. Genau so definiert Anthropic die rekursive Selbstverbesserung, die im Englischen unter der Abkürzung RSI bekannt ist. Experten verstehen darunter einen Zustand, in dem künstliche Intelligenz so leistungsfähig ist, dass sie sich selbst trainieren und verbessern kann. Befürworter sehen darin einen Weg zu einem enormen Produktivitätszuwachs und zu wissenschaftlichen Entdeckungen, während Kritiker hingegen befürchten, dass eine solche Technologie der menschlichen Kontrolle entgleiten könnte.
Eine Beschleunigung, die das Unternehmen nicht bemerkte
Anthropic räumt offen ein, dass es bereits in der Vergangenheit eine deutliche Beschleunigung seiner eigenen Entwicklung erst im Nachhinein erkannt hat und sich derselbe Fehler wiederholen könnte. Bei der Entwicklung neuer Modelle setzt es nämlich immer stärker seine eigene künstliche Intelligenz ein. Die Fähigkeiten der Modelle könnten daher schneller wachsen, als das Unternehmen entsprechende Sicherheitsmaßnahmen entwickeln und überprüfen kann.
Die Daten, auf die es seine Schätzungen stützt, bilden die Entwicklung dem Dokument zufolge mit Verzögerung ab, sodass das Unternehmen das Tempo des Fortschritts nur eingeschränkt vorhersagen kann. Keines der aktuellen Modelle habe diese Schwelle bislang überschritten, die zugrunde liegenden Daten würden jedoch weiterhin ausgewertet.
Der Mensch wird weiterhin alles steuern
Das Unternehmen ergreift deshalb schon jetzt vorsichtigere Maßnahmen. Die leistungsstärksten Modelle veröffentlicht es mit Verzögerung und in eingeschränkter Form. Ein Beispiel dafür ist das Modell Mythos, das Sicherheitslücken in Software außergewöhnlich gut erkennt und auf das daher nur zugelassene Personen und Organisationen Zugriff haben.
Anthropic schreibt in dem Dokument, dass es nicht davon ausgeht, dass Claude ohne echte menschliche Aufsicht sicher und völlig eigenständig weitere Modellgenerationen entwerfen könnte, selbst wenn dies technisch möglich wäre. Daher erwägt das Unternehmen, seine Regeln so anzupassen, dass die Entwicklung der fortschrittlichsten Modelle unter menschlicher Kontrolle bleibt.
Skeptiker weisen darauf hin, dass Börsenunterlagen zugleich der Offenlegung von Informationen und der Werbung dienen. Aussagen über eine künstliche Intelligenz, die sich selbst erschafft, könnten ihrer Ansicht nach daher eher darauf abzielen, die Aufmerksamkeit von Investoren zu gewinnen.
Die Vorsicht kostet das Unternehmen jedoch etwas, und Anthropic verschweigt dies den Investoren nicht. Mit den wachsenden Fähigkeiten der Modelle werden auch die Sicherheitskosten steigen, sodass das Unternehmen hinter Konkurrenten zurückfallen könnte, die keine vergleichbaren Schutzvorkehrungen einführen. All dies geschieht zudem zu einem Zeitpunkt, an dem es mit einer Bewertung von rund eineinhalb Billionen Dollar an die Börse strebt.
Quellen: independent.co.uk und techcrunch.com
