Sora 2 generiert wilde Videos – OpenAI muss sofort gegensteuern

OpenAI hat vor einigen Tagen seinen neuen Video- und Audiogenerator Sora 2 gestartet, der im Apple Store schnell zum Hit wurde. Nutzer erstellen Videos im TikTok-Stil, doch das verursacht enorme Kosten. Sam Altman, der Chef von OpenAI, räumte in seinem Blog ein, dass die Menschen wesentlich mehr Inhalte erstellen als erwartet. Viele Videos erreichen nur ein kleines Publikum, was den Rechenleistungsbedarf erhöht. Forscher von Hugging Face haben festgestellt, dass sich der Energiebedarf für längere Videos bei einer Verdoppelung der Länge vervierfacht, was einen quadratischen Anstieg bedeutet. OpenAI sucht nun nach Möglichkeiten, daraus Profit zu schlagen, unter anderem durch die Beteiligung von Rechteinhabern an den Einnahmen, wenn diese die Nutzung ihrer Figuren erlauben.

Kontroverse um Urheberrechte

Die Nutzer von Sora 2 begannen schnell damit, Videos mit urheberrechtlich geschützten Figuren zu erstellen, was einen Sturm der Entrüstung auslöste. Ein viraler Clip zeigt SpongeBob Schwammkopf von Nickelodeon, wie er in einem Unterwasser-Meth-Labor blaue Kristalle kocht, inspiriert von der AMC-Serie Breaking Bad. SpongeBob spricht mit seiner ikonischen Stimme und sagt zu Patrick: „Nenn es nicht ‚Zeug‘, Patrick. Das ist Blue Barnacle. Das Reinste, was du unter dem Meer finden kannst.“ Andere Videos zeigen SpongeBob beim Erlernen der Programmierung in C++ oder beim Schürfen von Kryptowährungen, umgeben von Hardware. OpenAI wollte ursprünglich, dass Rechteinhaber aktiv widersprechen müssen, änderte dies jedoch nach der Kritik. Kristelia García von der Georgetown Law School merkte an, dass das Unternehmen eher um Vergebung als um Erlaubnis bitte. Warner Bros. Discovery verklagt Midjourney wegen Urheberrechtsverletzungen, ebenso wie Disney und NBCU.

Brutale Videos verstorbener Prominenter

Sora 2 ermöglicht es, Videos von verstorbenen Prominenten zu erstellen, was zu abstoßenden Ergebnissen führt. So zeigen Clips beispielsweise Stephen Hawking, der aufgrund einer amyotrophen Lateralsklerose (ALS) bis zu seinem Tod im Jahr 2018 einen Rollstuhl benutzte, in brutalen Szenen. In einem Video sehen wir ihn in einem WWE-Ring, wo muskulöse Wrestler ihn zu Boden werfen, während der Kommentator ruft: „Das dürfte nicht einmal legal sein!“ Ein anderer Clip zeigt ihn in einem UFC-Kampf, in dem er Schläge ins Gesicht erhält und aus seinem Rollstuhl fällt, begleitet von dem Kommentar: „Hawking steckt in Schwierigkeiten.“ Es gibt auch Videos, in denen er von einem wütenden Stier niedergetrampelt, in einem Fluss von einem Krokodil angegriffen wird oder in einer Halfpipe mit einem Skateboard stürzt, während Rauch aus seinem Rollstuhl aufsteigt. OpenAI erlaubt historische Persönlichkeiten, doch das öffnet solchen Missbräuchen Tür und Tor. Weitere Beispiele zeigen Michael Jackson beim Rappen, Tupac Shakur in Nordkorea oder John F. Kennedy, der über Rabatte am Black Friday spricht.

Verbote und Änderungen bei Sora 2

OpenAI reagierte auf das Chaos mit Verboten. So verbot es beispielsweise Videos mit South Park, weil Nutzer ganze Episoden erstellten. Auf Reddit tauchten Beschwerden darüber auf, dass das Tool nun zahlreiche Inhalte blockiere, was die Nutzer frustriert. Sam Altman versprach in seinem Blog granulare Kontrollmöglichkeiten für Rechteinhaber, ähnlich dem Opt-in-Modell für Abbildungen, jedoch mit zusätzlichen Werkzeugen. Das Unternehmen erkennt das große Interesse an japanischen Inhalten an und plant schnelle Anpassungen, ähnlich wie in den frühen Tagen von ChatGPT. Gabriel Petersson von OpenAI teilte ein Video, in dem Sam Altman in einem Target-Markt GPUs stiehlt, was Bedenken hinsichtlich eines Missbrauchs für falsche Anschuldigungen auslöste. Drew Harwell von der Washington Post zeigte, wie leicht sich ein gefälschtes Video von der Verhaftung eines Schwarzen wegen Diebstahls erstellen lässt. OpenAI erklärt, schädliche Inhalte zu filtern und Löschanfragen zu respektieren, doch die Anfragen häufen sich.

Weitere Probleme und Reaktionen

Sora 2 generiert außerdem kontroverse Videos, etwa eine Werbung für Kinderspielzeug, das von Jeffrey Epsteins Insel inspiriert ist, oder eine deutsche Version eines Nazi-SpongeBobs. OpenAI beruft sich für transformative Zwecke wie Kommentare oder Nachrichten auf Fair Use (angemessene Nutzung) und warnt, dass China ohne dieses Prinzip die Führung im Bereich KI übernehmen würde. Aaron Moss, ein auf Urheberrecht spezialisierter Anwalt, schlug ein YouTube-ähnliches Modell vor, bei dem Studios einen Anteil an den Werbeeinnahmen erhalten würden, warnte jedoch davor, dass Tausende Clips wie South Park zu Gerichtsverfahren führen könnten. Nutzer in sozialen Netzwerken bezweifeln, warum große Marken die freie Nutzung ihres geistigen Eigentums für ein paar Dollar erlauben sollten. OpenAI plant, die Einnahmen mit Rechteinhabern zu teilen, die sich beteiligen, doch das genaue Modell wird noch getestet.

Quelle: futurism.com