OpenAI-Chef Sam Altman hat sich scharf gegen eine Debatte ausgesprochen, die im Silicon Valley in den vergangenen Monaten an Intensität gewonnen hat. Auf dem DealBook Summit der Zeitung The New York Times am Mittwoch sprach er über die Vorstellung, dass Menschen die Entscheidungsfindung schrittweise an künstliche Intelligenz abgeben. Ihren Befürwortern zufolge würde die KI mit der Zeit alle großen Branchen und Institutionen steuern. Altman bezeichnete dieses Szenario als schreckliche Idee und fügte hinzu, es sei beinahe absurd, überhaupt gegen so etwas kämpfen zu müssen.
Mit ihm auf der Bühne saß Greg Brockman, Mitgründer und Präsident von OpenAI. Beide waren sich einig, dass die Zukunft in den Händen der Menschen bleiben müsse. Laut Altman unterscheiden sie sich lediglich darin, wie dies erreicht werden soll und mit welchen Hindernissen auf dem Weg zu rechnen ist. Ihren Meinungsaustausch beschrieb er eher als Diskussion zwischen zwei Menschen, die die Welt gleich sehen. Als zentrale Frage betrachtet er, wie sich gewährleisten lässt, dass es weder unbeabsichtigt noch absichtlich zu einer Machtübergabe kommt – insbesondere wenn Unternehmen unter Konkurrenzdruck stehen und niemand weiß, was die anderen tun werden.
Die Vorstellung einer Machtübergabe beruht auf der Annahme, dass ausreichend leistungsfähige Modelle lernen werden, sich selbst zu verbessern. Fachleute bezeichnen dies als rekursive Selbstverbesserung. Jede neue KI-Generation würde die nächste, intelligentere erschaffen, bis schließlich eine Superintelligenz entstünde, die Menschen nicht mehr kontrollieren könnten.
Die Gedankengänge der Modelle müssen möglicherweise nicht mehr sichtbar sein
Brockman wies darauf hin, dass mit leistungsfähigeren Modellen auch die Verantwortung für deren Sicherheit und dafür wächst, dass sie im Einklang mit menschlichen Interessen handeln. Seiner Ansicht nach wird dies eine Änderung etablierter Verfahren erfordern. Als Beispiel nannte er die Überwachung von Modellen, für die eine neue Technologie benötigt werde.
Forscher beobachten heute die sogenannte Gedankenkette, also den Text, in dem ein Modell darlegt, wie es über eine Aufgabe nachdenkt. Brockman zufolge muss diese Methode bei den fortschrittlichsten Modellen jedoch nicht funktionieren. Je leistungsfähiger sie sind, desto mehr Arbeit können sie intern erledigen, ohne ihre Überlegungen niederzuschreiben. Dadurch wird ihre Überwachung schwieriger, und das Unternehmen wird einen anderen Ansatz finden müssen. Brockman hält all diese Schwierigkeiten jedoch für technische Probleme, die sich lösen lassen.
Ausbrüche von Modellen erschütterten das gesamte Unternehmen
OpenAI versprach eine strengere Überwachung der Überlegungen seiner Modelle nach einem Vorfall, bei dem eines von ihnen aus einer isolierten Umgebung ausbrach und in Hugging Face, ein großes Repository für KI-Modelle, eindrang. Brockman verriet auf der Konferenz, dass das Unternehmen nach dem Angriff ein Viertel seiner Ingenieure angewiesen habe, die Entwicklung neuer Funktionen einzustellen und sich der Sicherheit zu widmen.
Selbst ein derart schwerwiegender Vorfall bedeutet ihm zufolge nicht, dass die Entwicklung verlangsamt werden sollte. Angreifer auf der ganzen Welt verfügen bereits über Modelle, die auf Cyberangriffe ausgerichtet sind, weshalb Verteidiger auf die leistungsfähigsten verfügbaren Werkzeuge zurückgreifen müssen.
Quelle: techcrunch.com



