OpenAI-Mitarbeiter kritisieren Social-Media-Vorstoß nach Veröffentlichung von Sora 2

Mehrere derzeitige und ehemalige Forscher von OpenAI haben sich öffentlich zum ersten Vorstoß des Unternehmens in den Bereich der sozialen Medien mit der Sora-App geäußert. Diese App funktioniert wie ein TikTok-artiger Feed voller Videos, die jedoch von künstlicher Intelligenz generiert wurden, darunter zahlreiche Deepfakes von Sam Altman. Die Forscher äußerten auf der Plattform X ihre Bedenken darüber, wie dieser Start zur gemeinnützigen Mission von OpenAI passt, die auf die Entwicklung fortschrittlicher künstlicher Intelligenz zum Nutzen der Menschheit ausgerichtet ist. So schrieb etwa der Pretraining-Forscher John Hallman auf X: „KI-basierte Feeds sind beängstigend. Ich werde nicht leugnen, dass ich gewisse Bedenken hatte, als ich zum ersten Mal erfuhr, dass wir Sora 2 veröffentlichen. Dennoch glaube ich, dass das Team bei der Gestaltung einer positiven Erfahrung die absolut bestmögliche Arbeit geleistet hat ... Wir werden uns bemühen, sicherzustellen, dass künstliche Intelligenz der Menschheit hilft und ihr nicht schadet.“ Ein weiterer Forscher, Boaz Barak, der auch Professor in Harvard ist, antwortete: „Ich empfinde eine ähnliche Mischung aus Sorge und Begeisterung. Sora 2 ist technisch beeindruckend, aber es ist zu früh, uns dazu zu gratulieren, dass wir die Fallstricke anderer sozialer Medien und von Deepfakes vermieden haben.“ Der ehemalige Forscher Rohan Pandey nutzte die Gelegenheit, um für sein neues Start-up Periodic Labs zu werben, das aus ehemaligen Forschern des KI-Labors besteht und versucht, Systeme künstlicher Intelligenz für wissenschaftliche Entdeckungen zu entwickeln. Er sagte: „Wenn ihr keine endlose Maschine für KI-TikTok-Schrott bauen, sondern künstliche Intelligenz entwickeln wollt, die die Grundlagenforschung beschleunigt ... dann kommt zu uns zu Periodic Labs.“ Es gab auch weitere ähnliche Beiträge von Personen wie Will Depue oder Miles Brundage.

Reaktion der Führung und Sam Altman

Der Start von Sora unterstreicht eine grundlegende Spannung innerhalb von OpenAI, die immer wieder zutage tritt. Das Unternehmen ist das am schnellsten wachsende Verbrauchertechnologieunternehmen der Welt, fungiert zugleich aber als Forschungslabor an den Grenzen der künstlichen Intelligenz mit einer ehrgeizigen gemeinnützigen Satzung. Einige ehemalige OpenAI-Mitarbeiter argumentieren, dass das Verbrauchergeschäft grundsätzlich der Mission dienen kann: ChatGPT hilft dabei, die Forschung an künstlicher Intelligenz zu finanzieren und die Technologie breit zugänglich zu machen. OpenAI-CEO Sam Altman bekräftigte dies am Mittwoch in einem Beitrag auf X, in dem er darauf einging, warum das Unternehmen so viel Kapital und Rechenleistung für eine Social-Media-App mit künstlicher Intelligenz aufwendet. Er sagte: „Wir benötigen das Kapital vor allem, um künstliche Intelligenz zu entwickeln, die Wissenschaft betreiben kann, und natürlich konzentrieren wir uns mit fast all unseren Forschungsanstrengungen auf AGI (allgemeine künstliche Intelligenz). Es ist außerdem schön, den Menschen unterwegs coole neue Technologien und Produkte zu zeigen, sie zum Lächeln zu bringen und angesichts dieses Bedarfs an Rechenleistung hoffentlich etwas Geld zu verdienen.“ Er fügte hinzu: „Als wir ChatGPT auf den Markt brachten, hieß es oft: ‚Wer braucht das, und wo bleibt AGI?‘ Die Realität ist nuanciert, wenn es um optimale Entwicklungspfade für ein Unternehmen geht.“ Altman sprach außerdem in einem Podcast im Juni über die „große Fehlentwicklung der sozialen Medien“ und sagte: „Einer der großen Fehler der Social-Media-Ära bestand darin, dass die Feed-Algorithmen zahlreiche unbeabsichtigte negative Folgen für die Gesellschaft als Ganzes und vielleicht auch für einzelne Nutzer hatten. Obwohl sie das taten, was der Nutzer wollte – oder was jemand glaubte, dass die Nutzer wollten –, nämlich sie in diesem Moment länger auf der Seite zu halten.“

Risiken und Eigenschaften der Sora-App

Die Frage, wann das Verbrauchergeschäft von OpenAI seine gemeinnützige Mission überwiegen wird, bleibt offen. Anders ausgedrückt: Wann wird OpenAI eine Gelegenheit zum Geldverdienen und zum Ausbau der Plattform ablehnen, weil sie der Mission widerspricht? Diese Frage steht im Raum, während die Aufsichtsbehörden den Übergang von OpenAI zu einer gewinnorientierten Struktur prüfen, die das Unternehmen benötigt, um weiteres Kapital aufzunehmen und möglicherweise an die Börse zu gehen. Der kalifornische Generalstaatsanwalt Rob Bonta erklärte im vergangenen Monat, er sei „besonders darauf bedacht, sicherzustellen, dass die erklärte Sicherheitsmission von OpenAI als gemeinnützige Organisation bei der Umstrukturierung im Mittelpunkt bleibt“. Skeptiker tun die Mission von OpenAI als Instrument ab, um Talente von großen Technologieunternehmen anzulocken, doch viele Insider bei OpenAI bestehen darauf, dass sie der Hauptgrund für ihren Eintritt in das Unternehmen war. Vorerst ist die Reichweite von Sora gering; die App ist erst wenige Tage alt. Ihr Debüt bedeutet jedoch eine erhebliche Ausweitung des Verbrauchergeschäfts von OpenAI und setzt das Unternehmen den Anreizen aus, die soziale Apps seit Jahrzehnten plagen. Anders als ChatGPT, das auf Nützlichkeit optimiert ist, behauptet OpenAI, Sora sei zur Unterhaltung entwickelt worden – als Ort zum Erstellen und Teilen von KI-Clips. Der Feed erinnert an TikTok oder Instagram Reels, Plattformen, die für ihre süchtig machenden Endlosschleifen bekannt sind. OpenAI besteht darauf, diese Fallstricke vermeiden zu wollen, und erklärt in einem Blogbeitrag zur Einführung von Sora, dass „Bedenken hinsichtlich Doomscrolling (endlosem Scrollen), Sucht, Isolation und auf das reale Leben optimierten Feeds an erster Stelle stehen“. Das Unternehmen erklärt ausdrücklich, dass es nicht auf die im Feed verbrachte Zeit optimiert, sondern stattdessen die Erstellung von Inhalten maximieren möchte. OpenAI verspricht, Nutzern Hinweise zu senden, wenn sie zu lange scrollen, und ihnen vor allem Personen zu zeigen, die sie kennen. Das ist ein stärkerer Ausgangspunkt als Metas Vibes – ein weiterer Feed mit kurzen KI-Videos, der vergangene Woche veröffentlicht wurde und so wirkt, als sei er überstürzt und ohne ebenso viele Sicherheitsmaßnahmen herausgebracht worden. Wie der ehemalige Leiter der Politikabteilung von OpenAI, Miles Brundage, betont, ist es möglich, dass es sowohl gute als auch schlechte Anwendungen für Feeds mit KI-Videos geben wird, ähnlich wie wir es bereits in der Ära der Chatbots erlebt haben.