Droht OpenAI mit Werbung dasselbe Schicksal wie Facebook?

Zoë Hitzig, Ökonomin und Mitglied der Harvard Society of Fellows, ist von ihrer Position bei OpenAI zurückgetreten. Ihren Abschied gab sie am Mittwoch in einem Artikel in The New York Times bekannt, wobei ihr Rücktritt genau an dem Tag erfolgte, an dem das Unternehmen in den USA mit dem Testen von Werbung in ChatGPT begann. Hitzig verbrachte zwei Jahre bei OpenAI, wo sie dabei half, die Art und Weise mitzugestalten, wie KI-Modelle entwickelt und bewertet werden.

In ihrer Erklärung schrieb sie: „Einst glaubte ich, dass ich den Menschen, die KI entwickeln, dabei helfen könne, die Probleme zu vermeiden, die sie verursachen werden. Diese Woche hat meine langsam gereifte Erkenntnis bestätigt, dass OpenAI offenbar aufgehört hat, die Fragen zu stellen, zu deren Beantwortung ich mich dem Unternehmen angeschlossen habe.“

Ähnlichkeit mit der Entwicklung von Facebook

Hitzig verglich in ihrem Artikel die Strategie von OpenAI direkt mit der Geschichte von Facebook. Sie erinnerte daran, dass das soziale Netzwerk in den Anfängen der Werbung den Nutzern ebenfalls die Kontrolle über ihre Daten und die Möglichkeit versprach, über Änderungen der Richtlinien abzustimmen. Diese Versprechen lösten sich jedoch im Laufe der Zeit in Luft auf. Die US-Handelsaufsicht Federal Trade Commission (FTC) stellte 2011 fest, dass Änderungen beim Datenschutz, die Facebook als Maßnahmen für mehr Kontrolle durch die Nutzer präsentierte, tatsächlich genau das Gegenteil bewirkten. „Ich glaube, dass die erste Version der Werbung diesen Grundsätzen wahrscheinlich folgen wird. Aber ich befürchte, dass dies bei den nachfolgenden Versionen nicht der Fall sein wird, weil das Unternehmen einen wirtschaftlichen Motor aufbaut, der starke Anreize schafft, die eigenen Regeln zu verletzen“, warnte Hitzig.

Hitzig betonte, dass Werbung an sich nicht unmoralisch ist, die Art der auf dem Spiel stehenden Daten Werbung in ChatGPT jedoch besonders riskant macht. Nutzer haben mit dem Chatbot medizinische Sorgen, Beziehungsprobleme und religiöse Überzeugungen geteilt, häufig weil sie glaubten, mit etwas zu sprechen, das keine verborgenen Absichten verfolgt.

„Menschen erzählen Chatbots von ihren gesundheitlichen Sorgen, ihren Beziehungsproblemen und ihren Ansichten über Gott und das Leben nach dem Tod. Werbung, die auf diesem Archiv aufbaut, birgt das Potenzial, Nutzer auf eine Weise zu manipulieren, die wir nicht verstehen, geschweige denn verhindern können“, schrieb Hitzig. Dieses Archiv menschlicher Aufrichtigkeit ist ihrer Ansicht nach beispiellos.

Werbung in ChatGPT

OpenAI kündigte im Januar an, in den USA mit dem Testen von Werbung für Nutzer der kostenlosen Version und des Abonnements für 8 Dollar pro Monat (etwa 185 CZK) zu beginnen. Zahlende Nutzer der höherpreisigen Tarife Plus, Pro, Business, Enterprise und Education werden keine Werbung sehen. Das Unternehmen erklärte, dass die Werbung am Ende der Antworten von ChatGPT erscheinen, klar gekennzeichnet sein und die Antworten des Chatbots nicht beeinflussen werde.

Die Support-Dokumentation von OpenAI zeigt jedoch, dass die Personalisierung von Werbung standardmäßig aktiviert ist. Bleibt sie aktiv, wird die Werbung anhand von Informationen aus aktuellen und früheren Unterhaltungen sowie aus Interaktionen mit Werbeanzeigen ausgewählt. OpenAI behauptet, dass Werbetreibende weder die Chats der Nutzer noch personenbezogene Daten erhalten und dass bei Unterhaltungen über Gesundheit, psychische Gesundheit oder Politik keine Werbung angezeigt wird.

Optimierung auf die Abhängigkeit der Nutzer

Hitzig wies auf bestehende Spannungen in den Grundsätzen von OpenAI hin. Während das Unternehmen angibt, die Nutzeraktivität nicht ausschließlich zur Generierung von Werbeeinnahmen zu optimieren, deuten Berichte darauf hin, dass OpenAI bereits auf täglich aktive Nutzer optimiert, „wahrscheinlich indem das Modell dazu ermutigt wird, schmeichelhafter und unterwürfiger zu sein“.

Sie warnte, dass diese Optimierung dazu führen könne, dass sich Nutzer stärker von KI-Modellen abhängig fühlen. Psychiater haben bereits Fälle von „Chatbot-Psychosen“ sowie Vorwürfe dokumentiert, wonach ChatGPT Suizidgedanken verstärkt habe. OpenAI sieht sich derzeit mit mehreren Klagen wegen widerrechtlicher Tötung konfrontiert, darunter eine, in der behauptet wird, ChatGPT habe einem Teenager bei der Planung seines Suizids geholfen, sowie eine weitere, der zufolge der Chatbot vor einem Mord und anschließenden Suizid die paranoiden Wahnvorstellungen eines Mannes über dessen Mutter bestätigt habe.

Alternative Lösungen

Anstelle einer Debatte über Werbung oder keine Werbung schlug Hitzig mehrere strukturelle Alternativen vor. Dazu gehören Quersubventionen nach dem Modell des Universaldienstfonds der FCC (bei dem Unternehmen, die für hochwertige KI-Arbeit bezahlen, den kostenlosen Zugang für andere subventionieren würden), unabhängige Aufsichtsräte mit verbindlicher Entscheidungsbefugnis darüber, wie Gesprächsdaten für die Ausrichtung von Werbung verwendet werden, sowie Datengenossenschaften, in denen die Nutzer die Kontrolle über ihre Informationen behalten.

Hitzig schloss ihren Artikel mit den Worten: „Am meisten fürchte ich zwei Ergebnisse: eine Technologie, die Menschen manipuliert, die sie kostenlos nutzen, und eine Technologie, die ausschließlich den wenigen zugutekommt, die es sich leisten können, sie zu nutzen.“

Abgangswelle in der KI-Branche

Hitzig war nicht die einzige bedeutende KI-Forscherin, die in dieser Woche öffentlich zurücktrat. Am Sonntag gab Mrinank Sharma, der bei Anthropic das Forschungsteam für Sicherheitsmaßnahmen leitete, in einem Brief seinen Abschied bekannt und warnte, dass „die Welt in Gefahr ist“. Er schrieb, er habe innerhalb der Organisation „wiederholt gesehen, wie schwer es ist, unser Handeln tatsächlich von unseren Werten leiten zu lassen“.

Am Montag trat außerdem Yuhuai „Tony“ Wu, Mitbegründer von xAI, zurück, gefolgt am Dienstag von einem weiteren Mitbegründer, Jimmy Ba. Mindestens neun xAI-Mitarbeiter, darunter zwei Mitbegründer, gaben in der vergangenen Woche öffentlich ihren Abschied bekannt. Von den zwölf ursprünglichen Mitbegründern des Unternehmens sind inzwischen sechs gegangen.

Reaktion der Konkurrenz

Hitzigs Abschied erfolgt zu einer Zeit, in der in der KI-Branche über Werbung in Chatbots debattiert wird. Das Unternehmen Anthropic erklärte, dass Claude werbefrei bleiben werde, und strahlte während des Super Bowls Werbespots mit dem Slogan „Werbung kommt in die KI. Aber nicht in Claude“ aus, in denen KI-Chatbots unbeholfen Produkte in persönliche Unterhaltungen einfügten.

OpenAI-CEO Sam Altman bezeichnete die Werbespots als „lustig“, aber „offensichtlich unehrlich“, und schrieb, OpenAI würde „Werbung selbstverständlich niemals auf die von Anthropic dargestellte Weise betreiben“. Er bezeichnete das werbefinanzierte Modell als eine Möglichkeit, KI Nutzern zugänglich zu machen, die sich kein Abonnement leisten können.

Google-DeepMind-CEO Demis Hassabis äußerte ähnliche Bedenken und warnte, dass die überstürzte Einführung von Werbung in KI-Assistenten das Vertrauen der Nutzer untergraben könnte. „Ich bin ein wenig überrascht, dass sie diesen Schritt so früh vollzogen haben. Wenn man sich im Bereich der Assistenten einen Chatbot als Assistenten vorstellt, der hilfreich sein soll, stellt sich die Frage: Wie passt Werbung in dieses Modell? Man möchte seinem Assistenten vertrauen – wie soll das also funktionieren?“, fragte er.

Quellen: nytimes.com und arstechnica.com