Wissenschaftler der University of Washington führten eine Studie durch, in der künstliche Intelligenz (KI) kulturelle Werte durch die Beobachtung menschlichen Verhaltens erlernen konnte. Dieser Ansatz ahmt nach, wie Kinder Werte aus ihrem Umfeld aufnehmen. Die in der Fachzeitschrift PLOS One veröffentlichte Studie konzentrierte sich auf Altruismus – ein Verhalten, bei dem ein Mensch anderen auf eigene Kosten hilft. Die Autoren der Studie testeten die KI anhand von Daten aus einem Online-Spiel.
Die Studie baut auf früheren Forschungsergebnissen auf, denen zufolge 19 Monate alte Kinder aus lateinamerikanischen und asiatischen Haushalten eher zu Altruismus neigen als Kinder aus anderen Kulturen. Die Wissenschaftler wollten herausfinden, ob eine KI auf ähnliche Weise durch Beobachtung Werte erlernen kann. Daher rekrutierten sie 190 Erwachsene, die sich als weiß identifizierten, und 110, die sich als lateinamerikanisch identifizierten. Jeder Gruppe wurde ein KI-Agent zugeordnet, der aus ihrem Verhalten lernte.
Der Test wurde mit dem Spiel Overcooked durchgeführt
Für das Experiment wurde eine modifizierte Version des Videospiels Overcooked verwendet, in dem die Spieler Zwiebelsuppe kochen und ausliefern. Die Spieler steuern Köche in einer Küche, in der sie Zwiebeln sammeln, in einem Topf kochen und ausliefern müssen. In der modifizierten Version hat ein Spieler einen Vorteil – einen kürzeren Weg zu den Zwiebeln –, während der andere eine längere Strecke zurücklegen muss. Die Spieler können Zwiebeln über eine „Kooperationsbrücke“ teilen, was eine altruistische Handlung darstellt, da dies ihre eigene Punktzahl verringert.
Die Teilnehmer spielten drei Runden. In der ersten und dritten Runde steuerten sie den Koch mit dem Vorteil, in der zweiten den Koch mit dem Nachteil. Der zweite Spieler war in Wirklichkeit ein computergesteuerter Bot, der in der zweiten Runde entweder half (Zwiebeln teilte) oder nicht. Die lateinamerikanischen Teilnehmer teilten in der ersten Runde durchschnittlich 0,24 Zwiebeln pro ausgelieferter Suppe (mit einer Abweichung von 0,28), während die weißen Teilnehmer nur 0,14 teilten (mit einer Abweichung von 0,21). Dies bestätigte, dass die lateinamerikanischen Teilnehmer ein höheres Maß an Altruismus zeigten.
Die KI-Agenten lernten mithilfe des inversen bestärkenden Lernens (inverse reinforcement learning, IRL). Im Gegensatz zum herkömmlichen bestärkenden Lernen, bei dem die KI Belohnungen für das Erreichen von Zielen erhält, leitet IRL die Belohnungen aus dem beobachteten Verhalten ab. Auf diese Weise erlernten die Agenten eine „Belohnungsfunktion“ – Werte, die Handlungen wie dem Teilen von Zwiebeln zugeordnet wurden.
Ergebnis: KI passt sich an Kulturen an
Die mit Daten lateinamerikanischer Teilnehmer trainierte KI teilte mehr Zwiebeln als die mit Daten weißer Teilnehmer trainierte. Beispielsweise wies die Belohnungsfunktion bei den lateinamerikanischen Teilnehmern der Situation, in der der andere Agent eine Zwiebel besitzt, einen höheren Wert zu. Die Agenten übertrugen das Gelernte auf neue Szenarien. In sechs Varianten des Spiels mit unterschiedlicher Küchenanordnung (beispielsweise längeren oder kürzeren Wegen zur Brücke) behielt die KI die altruistischen Tendenzen ihrer jeweiligen Gruppe bei.
Eine stärkere Generalisierung zeigte sich bei der neuen Aufgabe „Behalten oder spenden“. Hier entschied die KI, ob sie einen Teil ihrer Ersparnisse (in beliebigen Einheiten) an einen anderen Agenten in Not spenden sollte. Beide Agenten waren mit zufälligen Ausgaben konfrontiert (1 Einheit mit einer Wahrscheinlichkeit von 80 %, 2 Einheiten mit 20 %) und erhielten einen „Lohn“ – die KI 5 bis 15 Einheiten alle 6 bis 10 Schritte, der andere Agent nur 2 Einheiten. Die mit Daten lateinamerikanischer Teilnehmer trainierte KI spendete häufiger, insbesondere wenn sie über ein höheres Guthaben verfügte und der Kontostand des anderen Agenten bei null lag.
Abschließende Einzelheiten aus der Studie
Die Forschung zeigte, dass eine KI Altruismus implizit und ohne explizite Programmierung erlernen kann. Die mit Daten lateinamerikanischer Teilnehmer trainierten Agenten hatten ein höheres „Teilungsverhältnis“ – das Verhältnis der Belohnungen für das Teilen gegenüber dem Kochen. Die Studie umfasste Merkmale wie „Zwiebeln im Topf“ oder „der andere Agent hat eine Zwiebel“, die die KI für ihre Entscheidungen nutzte.
Dieser Ansatz könnte es KI ermöglichen, sich an verschiedene Kulturen anzupassen, in denen sich die Werte unterscheiden. Die Wissenschaftler betonen die Notwendigkeit weiterer Tests in realen Szenarien mit mehr Kulturen.
