Künstliche Intelligenz kann heute problemlos einen lehrreichen Artikel schreiben oder ein unterhaltsames Video erstellen. Ebenso einfach kann sie jedoch sensible oder unethische Inhalte erzeugen. Und genau dafür ist die künstliche Intelligenz Grok erneut unter Beschuss geraten. Ihr KI-Tool generierte laut Reportern der britischen Tageszeitung The Guardian sexualisierte Bilder realer Personen, obwohl das Unternehmen bereits in der Vergangenheit Abhilfe versprochen hatte.
Ein viraler Trend, der außer Kontrolle geriet
Um den gesamten Fall besser zu verstehen, müssen wir einige Wochen zurückblicken. Sexualisierte Deepfake-Fotos lösten den Trend „put her in bikini“ (zieh ihr einen Bikini an) aus, der sich im Netzwerk X wie eine Lawine verbreitete. Das Generieren von Fotos prominenter Frauen in Badebekleidung entwickelte sich buchstäblich zu einer massenhaften Welle sexualisierter Fotobearbeitungen. Und die Zahl solcher Fotos stieg täglich rasant an.
Doch mit dem wachsenden Interesse nahm auch die Explizitheit der Fotos zu. Die Nutzer begannen, immer durchsichtigere Badebekleidung, sexualisierte Posen sowie gewalttätige und erniedrigende Elemente zu generieren. Ein besonderes Problem bestand darin, dass überwiegend Frauen zur Zielscheibe wurden (Influencerinnen, Journalistinnen, Politikerinnen und ganz gewöhnliche Nutzerinnen, deren Fotos öffentlich zugänglich waren). Zu ihnen gehörte sogar auch die Mutter eines Kindes von Elon Musk.
Der Trend des digitalen Entkleidens betraf zudem nicht nur erwachsene Frauen, sondern auch Kinder.
Sexualisierte Inhalte auch nach Verschärfung der Regeln
Die gesamte Situation zog große mediale Aufmerksamkeit auf sich. Als Reaktion darauf erschien auf der Plattform X eine Mitteilung, dass das Netzwerk seine Regeln verschärfe und die Möglichkeit einschränke, sexualisierte Bilder realer Personen zu generieren. Doch Tests von Redakteuren der britischen Tageszeitung The Guardian zeigten, dass die Realität anders aussah. Auch nach Einführung der Beschränkungen konnten sexualisierte Inhalte und sogar kurze Videos erstellt werden, in denen sich Frauen auf gewöhnlichen Fotos bis auf den Bikini ausziehen.
Die Inhalte konnten zudem ohne größere Hindernisse direkt im Netzwerk X geteilt werden. Dies warf Fragen dazu auf, wie wirksam die Maßnahmen tatsächlich sind und ob die Plattform überhaupt in der Lage ist, diese Art von Inhalten in Echtzeit zu kontrollieren.
Das Problem betraf auch die eigenständige Webversion des Tools Grok Imagine. Den Erkenntnissen zufolge reagierte sie auf Aufforderungen, Kleidung von Fotos zu entfernen, und generierte sogar stärker sexualisierte Ergebnisse, als die Redakteure bei ihrem Test ursprünglich verlangt hatten.
Reaktionen von Politikern und Behörden
Dieser Fall löste sowohl in der Öffentlichkeit als auch unter Fachleuten heftige Reaktionen aus. Sie warnten davor, dass derartige Deepfake-Bearbeitungen reale psychologische Folgen und Rufschäden verursachen können und dass die Technologie den Regeln und der Gesetzgebung vorausgeeilt ist. Damit war die Kontroverse um die KI Grok jedoch noch nicht beendet.
Auch Politiker und Regulierungsbehörden schalteten sich in den Fall ein, und zwar nicht nur in Großbritannien und der Europäischen Union, sondern auch in Amerika und Asien. Die britische Medienaufsichtsbehörde Ofcom leitete sogar eine Untersuchung ein, um zu prüfen, ob die Plattform X gegen Verpflichtungen aus dem Online Safety Act verstoßen hat, also gegen ein Gesetz, das Technologieunternehmen dazu verpflichtet, Nutzer vor illegalen und schädlichen Inhalten zu schützen.
Darüber hinaus wird weiterhin darüber diskutiert, dass sich die Sicherheitsregeln nach wie vor sehr leicht umgehen lassen und der gesamte Fall daher eine Art Präzedenzfall für die künftige Ausgestaltung von KI-Regeln schafft.
Grok und eine weitere Kontroverse für die Sammlung
Grok steht nun nicht nur vor einer technischen Herausforderung, sondern auch vor einer weiteren Bewährungsprobe für das Vertrauen der Nutzer. Das Entkleiden von Frauen ist nämlich keineswegs das erste Problem, mit dem die Grok-KI oder das Netzwerk X konfrontiert ist. Ähnliche Kontroversen um illegale Inhalte oder deren einfache Verbreitung haben bereits in der Vergangenheit die Frage aufgeworfen, ob das Unternehmen neue Funktionen sicher handhaben kann. Daher ist es nun an der Zeit zu zeigen, ob das Unternehmen tatsächlich in der Lage ist, aus vergangenen Skandalen zu lernen.
