Künstliche Intelligenz entwickelt eigene soziale Normen ohne zentrale Steuerung
Eine neue Studie, die in der renommierten wissenschaftlichen Fachzeitschrift Science Advances veröffentlicht wurde, liefert faszinierende Erkenntnisse über die Fähigkeit großer Sprachmodelle (LLM), völlig autonom gemeinsame soziale Konventionen zu entwickeln. Die Forschung unter der Leitung des Erstautors Andrea Baronchelli zeigt, dass eine Population von KI-Agenten spontan kollektive Verhaltensweisen entwickeln kann, die nicht programmiert sind, sondern auf natürliche Weise durch lokale Interaktionen entstehen – ähnlich wie sich soziale Normen in menschlichen Gesellschaften herausbilden. Diese Erkenntnis eröffnet ein neues Kapitel in unserem Verständnis emergenter Eigenschaften künstlicher Intelligenz und liefert wichtige Einsichten für den Bereich der KI-Sicherheit.
Durchführung der Studie
Die Forschenden führten eine Reihe von Experimenten durch, in denen sie Gruppen von 24 bis 200 LLM-Agenten einsetzten, die auf den Architekturen Llama und Claude basierten. Die Agenten wurden wiederholt miteinander gepaart, um ein Koordinationsspiel zu spielen: Jeder Agent wählte unabhängig einen „Namen“ aus einer verfügbaren Auswahl mit dem Ziel, mit der Wahl seines Partners übereinzustimmen. Für eine erfolgreiche Übereinstimmung erhielten sie eine Belohnung (+100 Punkte), während sie für eine Nichtübereinstimmung bestraft wurden (-50 Punkte). Ein zentraler Aspekt des experimentellen Designs bestand darin, dass die Agenten nur Zugriff auf ein begrenztes Gedächtnis ihrer eigenen jüngsten Interaktionen hatten und nicht wussten, dass sie Teil einer größeren Gruppe waren. In dieser begrenzten Informationsumgebung hatten sie daher weder einen globalen Überblick über die gesamte Gruppe noch explizite Anweisungen zur Entwicklung von Konventionen.
Die Studie untersuchte vier verschiedene hochmoderne große Sprachmodelle: Llama-2-70b-Chat, Llama-3-70B-Instruct, Llama-3.1-70BInstruct und Claude-3.5-Sonnet. Die Ergebnisse waren bei allen getesteten Modellen konsistent, was die Robustheit der festgestellten Phänomene unterstreicht. Trotz des Fehlens globaler Informationen oder expliziter Anweisungen entwickelten sich durch wiederholte lokale Interaktionen innerhalb der Gruppe konsistente Benennungskonventionen, die sich in der gesamten Population der Agenten verbreiteten. Dieser Mechanismus der Entstehung sozialer Normen in einer Population von KI-Agenten spiegelt die Prozesse wider, durch die sich Konventionen in menschlichen Gesellschaften herausbilden, und zeigt interessante Parallelen zwischen künstlichen und menschlichen sozialen Systemen.
Ergebnisse der Studie
Eine der bemerkenswertesten Erkenntnisse der Forschung war, dass eine kollektive Verzerrung (Bias) auf Gruppenebene entstehen konnte, obwohl einzelne Agenten eine solche Verzerrung für sich genommen nicht aufwiesen. Dieses Phänomen deutet darauf hin, dass Verzerrungen eine emergente Eigenschaft sein können, die aus der Dynamik der Interaktionen hervorgeht, statt lediglich auf individuellen Prädispositionen einzelner Agenten zu beruhen. Wie Andrea Baronchelli anmerkte: „Verzerrungen stammen nicht immer aus dem Inneren … sie können zwischen den Agenten entstehen – allein aus ihren Interaktionen. Das ist ein blinder Fleck in einem Großteil der heutigen Arbeit zur KI-Sicherheit.“ Diese Erkenntnis verändert die Sichtweise auf die Problematik von Bias in KI-Systemen grundlegend und unterstreicht die Notwendigkeit, sich nicht nur auf einzelne Modelle, sondern auch auf die emergenten Eigenschaften ihrer kollektiven Interaktionen zu konzentrieren.
Die Forschenden beobachteten außerdem eine „Kipppunkt“-Dynamik (tipping point), bei der kleine, aber entschlossene Untergruppen innerhalb der Population in der Lage waren, etablierte Konventionen umzukehren und die Norm der gesamten Gruppe in eine neue Richtung zu verschieben. Dieses Phänomen ist analog zu den Effekten der „kritischen Masse“, die in der Forschung zu sozialen Veränderungen beim Menschen beobachtet werden. Die Studie deutet darauf hin, dass es ähnlich wie in menschlichen Gesellschaften, in denen etwa 25 % entschlossener Individuen die Mehrheitsmeinung zugunsten neuer Normen umkehren können, auch in Populationen von KI-Agenten vergleichbare Schwellenwerte für kollektive Veränderungen von Konventionen gibt.
Alle in der Studie verwendeten Daten und der gesamte Code sind über GitHub (Ariel-Flint-Ashery/AI-norms) und die von den Autoren verlinkten Zenodo-Repositorien öffentlich zugänglich, was weitere Forschung und die Überprüfung dieser faszinierenden Erkenntnisse ermöglicht. Diese Transparenz ist entscheidend für die fortgesetzte Untersuchung komplexer emergenter Phänomene in Populationen von KI-Agenten.
Die Auswirkungen dieser Erkenntnisse sind weitreichend. Da KI-Systeme zunehmend online oder in realen Umgebungen interagieren, können sie unvorhersehbare kollektive Verhaltensweisen entwickeln – sowohl nützliche Konventionen als auch potenziell schädliche Verzerrungen. Das Verständnis dieser emergenten Eigenschaften ist von entscheidender Bedeutung, da autonome KI-Systeme zu einem immer alltäglicheren Bestandteil unserer Welt werden. Die Studie eröffnet neue Fragen an der Schnittstelle von künstlicher Intelligenz, Ethik und computergestützter Sozialwissenschaft und unterstreicht die Notwendigkeit eines umfassenderen Ansatzes bei der Entwicklung und Bereitstellung von KI-Systemen, die zunehmend nicht isoliert, sondern als Teil größerer Populationen künstlicher und menschlicher Agenten funktionieren werden.
