Unzulässiges Experiment von Forschern auf Reddit

Unzulässiges Experiment von Forschern auf Reddit

Ondřej Barták
Ondřej Barták
Unternehmer und Programmierer
2. 5. 2025
3 Minuten Lesezeit · 8 Aufrufe
Unzulässiges Experiment von Forschern auf Reddit

 Unbefugtes Experiment von Forschern auf Reddit

In den vergangenen Tagen erschütterte ein Fall im Reddit-Community, genauer gesagt im Subreddit r/ChangeMyView (CMV), die Gemeinschaft: Forscher der Universität Zürich führten ein unbefugtes Experiment durch. Ziel dieses Experiments war es, die Überzeugungskraft von durch künstliche Intelligenz generierten Kommentaren zu testen. Es löste nicht nur unter den Nutzern, sondern auch unter Experten für Ethik und Online-Kommunikation eine Welle der Kritik aus.

Wie das Experiment ablief

Die Forscher erstellten mehrere gefälschte Konten, die als unterschiedliche Personen auftraten – beispielsweise als Überlebende eines sexuellen Übergriffs, als auf Traumata spezialisierter Therapeut oder als schwarzer Mann, der die Black-Lives-Matter-Bewegung kritisiert. Mithilfe großer Sprachmodelle (LLM) generierten sie Kommentare, die andere Nutzer davon überzeugen sollten, ihre Meinung zu ändern. Diese Kommentare wurden auf Grundlage einer Analyse früherer Beiträge der Nutzer personalisiert. Daraus versuchten die Forscher, deren Alter, Geschlecht, Ethnizität, politische Orientierung und weitere persönliche Merkmale abzuschätzen. Wichtig ist, dass die Nutzer nicht darüber informiert wurden, dass sie mit einer KI kommunizierten, und keine Zustimmung zur Teilnahme am Experiment gegeben hatten. Dies steht in direktem Widerspruch zu den Regeln des Subreddits, die eine klare Kennzeichnung von KI-Inhalten verlangen, sowie zu den allgemein anerkannten ethischen Standards der Forschung.

Reaktionen der Community und der Moderatoren

Die Moderatoren von r/ChangeMyView bezeichneten das Experiment als „psychologische Manipulation“ und „inakzeptablen Eingriff“, der das Vertrauen innerhalb der Community beschädigt habe. Alle mit dem Experiment verbundenen Konten wurden gesperrt, und die Moderatoren reichten eine offizielle Beschwerde bei der Universität Zürich ein. Gleichzeitig forderten sie, jegliche Veröffentlichung der Forschungsergebnisse auszusetzen, bis eine gründliche Überprüfung erfolgt sei.

Ethische Fragen und Kritik von Experten

Experten für Forschungsethik und Online-Kommunikation äußerten sich äußerst kritisch zu dem Fall. Casey Fiesler von der University of Colorado bezeichnete das Experiment als „eine der schlimmsten Verletzungen der Forschungsethik, die sie je gesehen habe“. Ihrer Ansicht nach ist die Manipulation von Menschen in Online-Communities ohne deren Wissen und Zustimmung inakzeptabel, selbst wenn die Forscher das Risiko als gering einschätzen. Sara Gilbert von der Cornell-Universität wies auf die langfristigen Folgen ähnlicher Experimente hin: Wenn Nutzer nicht sicher sein können, dass sie mit echten Menschen kommunizieren, kann dies das Vertrauen in Online-Diskussionsforen grundlegend erschüttern und deren Zweck als Raum für einen offenen Meinungsaustausch infrage stellen.

Antwort der Forscher

Die Forscher behaupten, eine ethische Genehmigung der Universität erhalten zu haben, und räumen ein, gegen die Regeln des Subreddits verstoßen zu haben. Sie verteidigen ihr Vorgehen damit, dass es wichtig sei zu untersuchen, wie KI-Systeme zur Manipulation der öffentlichen Meinung missbraucht werden könnten, beispielsweise während Wahlen. Ihrer Ansicht nach wurde das Experiment kontrolliert und mit minimalem Risiko für die Nutzer durchgeführt, wodurch wertvolle Erkenntnisse zur künftigen Verhinderung des Missbrauchs von KI gewonnen werden könnten. Diese Argumentation wurde jedoch sowohl von der Community als auch von Experten zurückgewiesen.

Der gesamte Fall zeigt, wie schmal die Grenze zwischen wissenschaftlichem Interesse und ethischem Verhalten ist. Auch wenn es wichtig ist, neue Technologien und ihre Auswirkungen auf die Gesellschaft zu erforschen, darf dies nicht zulasten von Vertrauen, Transparenz und Respekt gegenüber Einzelpersonen geschehen. Der Fall von r/ChangeMyView ist eine Warnung davor, dass selbst gut gemeinte Forschung Schaden anrichten kann, wenn sie grundlegende Regeln der Ethik und der offenen Kommunikation missachtet.

Werbung

Inhalte entstehen mit Unterstützung von UpTier.

SEO und GEO auf Autopilot. Die Multiagentensysteme von UpTier schreiben und optimieren Inhalte für Suchmaschinen und KI-Antworten.

UpTier entdecken ↗

Kategorie:KI
Hat Ihnen dieser Artikel gefallen?
Entdecken Sie weitere interessante Beiträge im Blog
Zurück zum Blog

Ähnliche Beiträge

OpenAI zieht gegen Kindesmissbrauch zu Felde. ChatGPT sperrt Konten für einen ganzen TagOpenAI zieht gegen Kindesmissbrauch zu Felde. ChatGPT sperrt Konten für einen ganzen Tag
OpenAI verstärkt den Kinderschutz: Ein neues System erkennt auch bislang unbekannte KI-Bilder und sperrt ChatGPT-Konten bei versuchtem Abruf für 24 Stunden.
4 Min. Lesezeit
18. 11. 2026
Google stellt Tasks für Nutzer von Gemini 4 Hydrogen kostenlos bereitGoogle stellt Tasks für Nutzer von Gemini 4 Hydrogen kostenlos bereit
Der Tasks-Modus wird für Hunderte Millionen Nutzer von Gemini 4 Hydrogen kostenlos verfügbar. Laut Google kann er Unternehmen anrufen, Termine vereinbaren und Einkäufe abschließen.
1 Min. Lesezeit
18. 11. 2026
OpenAI führt GPT-6.2 Astra und Sol für berufliche und alltägliche Aufgaben einOpenAI führt GPT-6.2 Astra und Sol für berufliche und alltägliche Aufgaben ein
OpenAI hat zwei Modelle vorgestellt: Astra ist für komplexe berufliche Aufgaben gedacht, Sol für die alltägliche Arbeit. Beide sind in ChatGPT Work, Codex und über die API verfügbar.
3 Min. Lesezeit
17. 11. 2026
Přihlaste se k odběru našeho newsletteru
Zůstaňte informováni o nejnovějších příspěvcích, exkluzivních nabídkách, a aktualizacích.
CodedTrip

Betreiber: CodedTrip LLC, USA.

YouTube
TikTok