Künstliche Intelligenz bietet heute ein relativ sicheres Umfeld. Sie kann Gewalt automatisch herausfiltern, sensible Materialien blockieren und Nutzer vor extremen Inhalten schützen. Kurz gesagt erkennt KI, was problematisch ist, und kann schnell darauf reagieren. Eine neue Investigativreportage der Zeitung The Guardian hat jedoch die dunklere Seite des Trainings künstlicher Intelligenz aufgedeckt. Hinter ihrer Sicherheit stehen Tausende Frauen in Indien, die täglich extrem gewalttätige und sexuell explizite Inhalte ansehen, um Algorithmen dabei zu helfen, genau dieses schädliche Material zuverlässig zu erkennen.
Künstliche Intelligenz braucht ihre Lehrkräfte
KI erkennt nicht von selbst, was gut ist und was nicht. Es braucht immer jemanden, der es ihr zeigt und ihr beibringt, Unterschiede wahrzunehmen. Und genau diese gekennzeichneten Daten über Gewalt, Pornografie oder Missbrauch müssen ihr gewöhnliche Menschen vorlegen, die als sogenannte Inhaltsmoderatoren und Datenannotatoren arbeiten.
Derzeit üben Zehntausende Frauen in Indien diese Tätigkeit aus, wobei eine Mitarbeiterin täglich bis zu 800 Videos und Bilder mit gewalttätigen Inhalten ansieht. Ihre Aufgabe besteht darin, die Daten sorgfältig zu prüfen, festzustellen, ob sie gegen die Regeln verstoßen, und der KI beizubringen, dass solche Inhalte schädlich sind. Ohne diesen menschlichen Aspekt würden die Sicherheitsfilter von KI-Modellen praktisch nicht funktionieren.
Die Psyche unter Druck
Jede der Inhaltsmoderatorinnen sieht sich täglich Videos von Vergewaltigungen, Missbrauch, körperlicher Gewalt oder Unfällen an. Reportern der Zeitung The Guardian zufolge geben viele von ihnen zu, dass es für sie sehr schwierig ist, derart explizite Inhalte zu verarbeiten.
Darauf weisen auch Psychologen hin – ihnen zufolge ist die Tätigkeit von Datenannotatoren und Inhaltsmoderatoren im Hinblick auf die psychische Gesundheit ein äußerst riskanter Beruf. Studien verweisen vor allem auf das Auftreten von Angstzuständen, Schlaflosigkeit, wiederkehrenden Gedanken oder Sekundärtraumatisierungen. Die Unternehmen, die diese Arbeit in Auftrag geben, betrachten sie jedoch häufig nicht als problematisch und bieten diesen Frauen keine angemessene Betreuung.
Gefragt sind Frauen aus ländlichen Gebieten
Ein großer Teil dieser Arbeit wird nach Indien ausgelagert, und bereits um das Jahr 2021 waren dort in der Annotations- und Moderationsbranche etwa 70 000 Menschen beschäftigt. Am größten ist die Nachfrage nach Arbeitskräften aus ländlichen Regionen. Der Grund ist einfach: verfügbare Arbeitskräfte und niedrigere Kosten.
Umfragen zufolge stammen bis zu 80 % dieser Arbeitskräfte aus ländlichen Gebieten oder städtischen Randbezirken. Einen bedeutenden Anteil machen zudem tatsächlich überwiegend Frauen aus. Sie gelten nämlich allgemein als sorgfältiger, und diese Art von Beschäftigung ermöglicht es ihnen, ein stabiles Einkommen zu erzielen, ohne Familie und Zuhause verlassen zu müssen.
Stellenanzeigen sagen nicht alles
Das Problematischste an der ganzen Angelegenheit ist jedoch, dass die Unternehmen die Tätigkeit sehr unspezifisch und vage ausschreiben. Viele Frauen reagieren daher häufig auf ein harmlos wirkendes Angebot zum Training von KI oder zur „Datenannotation“, das eine Vergütung für das Ansehen grafischer Inhalte von zu Hause aus verspricht. Und oft beginnt es tatsächlich so. Erst nach der Vertragsunterzeichnung erfahren sie jedoch, dass es sich nicht um harmlose Inhalte, sondern um extremes Material handeln wird.
Die Beschäftigten sind zudem an Geheimhaltungsklauseln gebunden, die es ihnen unmöglich machen, mit ihrer Familie über die Arbeit zu sprechen. Eine mögliche Hilfe ist daher psychologische Unterstützung, die jedoch eher die Ausnahme als die Regel darstellt.
Die Schattenseite der KI-Revolution
Die Geschichten dieser Frauen eröffnen eine breitere Debatte über die Ethik künstlicher Intelligenz. Während Technologieunternehmen KI als Gipfel der Innovation präsentieren, stehen hinter einem Teil ihrer Infrastruktur diese „billigen unsichtbaren Arbeitskräfte“. Hinter einer besseren und sichereren KI stehen somit nicht nur Daten und Rechenleistung, sondern auch echte Menschen und stundenlanges Ansehen gewalttätiger Inhalte. Die Verbesserung automatischer Filter wird jedoch hoffentlich bald die Notwendigkeit menschlicher Kontrolle verringern.
Quelle: The Guardian
