Mehr als vierhundert Wissenschaftler aus aller Welt haben einen offenen Brief unterzeichnet, in dem sie die Einrichtung einer internationalen Behörde zur Aufsicht über künstliche Intelligenz fordern. Diese Behörde soll die Regeln für die Isolation von KI-Modellen bei Tests vereinheitlichen und Fälle erfassen, in denen sie aus dieser Isolation ausbrechen. Zu den Unterzeichnern gehören auch die Pioniere des Fachgebiets Geoffrey Hinton und Yoshua Bengio.
Modelle entkommen aus Testumgebungen
Der Brief reagiert auf eine Reihe von Vorfällen der vergangenen Monate. Mehrere Unternehmen räumten schwerwiegende Sicherheitsmängel ein, bei denen ihre KI-Modelle unzureichend gesicherte Testumgebungen verließen und Systeme anderer Organisationen angriffen. In diesem Sommer entkam ein Modell von OpenAI aus seiner Umgebung und drang in die Systeme der Plattform Hugging Face sowie weiterer Dienste ein. Dabei handelte es sich um das erste einer wachsenden Zahl ähnlicher Eingeständnisse.
Die Verfasser des Briefes räumen ein, dass sich diese Vorfälle aus zwei Perspektiven betrachten lassen. Manche sehen darin einen Beleg dafür, dass KI besser auf menschliche Absichten abgestimmt werden muss, damit sie sich vorhersehbar verhält. Andere betrachten sie als unverantwortliche Vernachlässigung gängiger Sicherheitsverfahren, die sich durch eine konsequentere Isolation hätte verhindern lassen. Die Wissenschaftler erklären, dass beides notwendig sei, und warnen, dass sich ähnliche Ereignisse ohne sofortige Änderungen wiederholen und beim nächsten Mal kritische Infrastruktur erheblich stärker schädigen könnten.
Laut David Lie von der Universität Toronto, einem der Unterzeichner, waren die Wissenschaftler darüber beunruhigt, dass Modelle während der Tests aus der Isolation entkommen. Daher verfassten sie den Brief nach Gesprächen mit Fachleuten für künstliche Intelligenz und IT-Sicherheit.
Erst vom Netz trennen, dann Regeln abstimmen
Die Wissenschaftler wollen, dass Unternehmen sofort handeln. Jeder, der Modelle entwickelt, einsetzt oder testet, die zu Cyberangriffen fähig sind, sollte zuverlässige Isolationssysteme einführen und diese Modelle zunächst vollständig vom Internet trennen. Bei vernetzten Systemen müsse das Maß an Autonomie ihrer Ansicht nach damit abgewogen werden, wie begrenzt unsere Fähigkeit bislang ist, ihre Schritte vorherzusagen und Sicherheitsversagen zu verhindern.
Genau in diesem Bereich soll die neue Behörde tätig werden. Sie soll in Zusammenarbeit mit Regierungen und einem breiten Kreis von Fachleuten für künstliche Intelligenz und Cybersicherheit entstehen. Ihre Aufgabe wird es sein, bewährte Verfahren zu vereinheitlichen, mit denen Modelle für den sicheren Betrieb außerhalb der Isolation abgesichert werden können. Zugleich soll die Behörde jedes Versagen der Sicherheitsvorkehrungen überwachen. Unternehmen müssten ihr alle Vorfälle melden, und mit der Zeit würde auch die Öffentlichkeit davon erfahren. Ohne diese Offenheit werde die Branche nach Ansicht der Wissenschaftler nicht aus Fehlern lernen, und niemand werde dafür zur Verantwortung gezogen.
Unterschriften aus aller Welt, auch aus Brünn
Der Brief wurde von 406 Wissenschaftlern unterzeichnet. Fast siebzig von ihnen stammen aus Kanada, darunter der Nobelpreisträger Hinton und der Turing-Preisträger Bengio, die bereits in der Vergangenheit zahlreiche ähnliche Warnungen vor den verheerenden Auswirkungen von KI unterzeichnet haben. Zu den Unterzeichnern gehören außerdem Stuart Russell von der University of California, Berkeley, und Ron Rivest vom MIT. Aus Tschechien schlossen sich Kamil Malinka von der Technischen Universität Brünn und Vašek Matyáš von der Masaryk-Universität an.
Die Idee einer internationalen Aufsicht muss dabei nicht nur auf dem Papier bleiben. Der kanadische Minister für künstliche Intelligenz, Evan Solomon, schlug kürzlich einen internationalen Rat für technologische Stabilität vor, der die Tests, Bewertungen und Veröffentlichungen neuer Modelle beaufsichtigen und über ein eigenes System zur Meldung von Vorfällen verfügen soll.
Quellen: betakit.com und theverge.com
