Unbefugtes Experiment von Forschern auf Reddit
In den vergangenen Tagen erschütterte ein Fall im Reddit-Community, genauer gesagt im Subreddit r/ChangeMyView (CMV), die Gemeinschaft: Forscher der Universität Zürich führten ein unbefugtes Experiment durch. Ziel dieses Experiments war es, die Überzeugungskraft von durch künstliche Intelligenz generierten Kommentaren zu testen. Es löste nicht nur unter den Nutzern, sondern auch unter Experten für Ethik und Online-Kommunikation eine Welle der Kritik aus.
Wie das Experiment ablief
Die Forscher erstellten mehrere gefälschte Konten, die als unterschiedliche Personen auftraten – beispielsweise als Überlebende eines sexuellen Übergriffs, als auf Traumata spezialisierter Therapeut oder als schwarzer Mann, der die Black-Lives-Matter-Bewegung kritisiert. Mithilfe großer Sprachmodelle (LLM) generierten sie Kommentare, die andere Nutzer davon überzeugen sollten, ihre Meinung zu ändern. Diese Kommentare wurden auf Grundlage einer Analyse früherer Beiträge der Nutzer personalisiert. Daraus versuchten die Forscher, deren Alter, Geschlecht, Ethnizität, politische Orientierung und weitere persönliche Merkmale abzuschätzen. Wichtig ist, dass die Nutzer nicht darüber informiert wurden, dass sie mit einer KI kommunizierten, und keine Zustimmung zur Teilnahme am Experiment gegeben hatten. Dies steht in direktem Widerspruch zu den Regeln des Subreddits, die eine klare Kennzeichnung von KI-Inhalten verlangen, sowie zu den allgemein anerkannten ethischen Standards der Forschung.
Reaktionen der Community und der Moderatoren
Die Moderatoren von r/ChangeMyView bezeichneten das Experiment als „psychologische Manipulation“ und „inakzeptablen Eingriff“, der das Vertrauen innerhalb der Community beschädigt habe. Alle mit dem Experiment verbundenen Konten wurden gesperrt, und die Moderatoren reichten eine offizielle Beschwerde bei der Universität Zürich ein. Gleichzeitig forderten sie, jegliche Veröffentlichung der Forschungsergebnisse auszusetzen, bis eine gründliche Überprüfung erfolgt sei.
Ethische Fragen und Kritik von Experten
Experten für Forschungsethik und Online-Kommunikation äußerten sich äußerst kritisch zu dem Fall. Casey Fiesler von der University of Colorado bezeichnete das Experiment als „eine der schlimmsten Verletzungen der Forschungsethik, die sie je gesehen habe“. Ihrer Ansicht nach ist die Manipulation von Menschen in Online-Communities ohne deren Wissen und Zustimmung inakzeptabel, selbst wenn die Forscher das Risiko als gering einschätzen. Sara Gilbert von der Cornell-Universität wies auf die langfristigen Folgen ähnlicher Experimente hin: Wenn Nutzer nicht sicher sein können, dass sie mit echten Menschen kommunizieren, kann dies das Vertrauen in Online-Diskussionsforen grundlegend erschüttern und deren Zweck als Raum für einen offenen Meinungsaustausch infrage stellen.
Antwort der Forscher
Die Forscher behaupten, eine ethische Genehmigung der Universität erhalten zu haben, und räumen ein, gegen die Regeln des Subreddits verstoßen zu haben. Sie verteidigen ihr Vorgehen damit, dass es wichtig sei zu untersuchen, wie KI-Systeme zur Manipulation der öffentlichen Meinung missbraucht werden könnten, beispielsweise während Wahlen. Ihrer Ansicht nach wurde das Experiment kontrolliert und mit minimalem Risiko für die Nutzer durchgeführt, wodurch wertvolle Erkenntnisse zur künftigen Verhinderung des Missbrauchs von KI gewonnen werden könnten. Diese Argumentation wurde jedoch sowohl von der Community als auch von Experten zurückgewiesen.
Der gesamte Fall zeigt, wie schmal die Grenze zwischen wissenschaftlichem Interesse und ethischem Verhalten ist. Auch wenn es wichtig ist, neue Technologien und ihre Auswirkungen auf die Gesellschaft zu erforschen, darf dies nicht zulasten von Vertrauen, Transparenz und Respekt gegenüber Einzelpersonen geschehen. Der Fall von r/ChangeMyView ist eine Warnung davor, dass selbst gut gemeinte Forschung Schaden anrichten kann, wenn sie grundlegende Regeln der Ethik und der offenen Kommunikation missachtet.
