KI-Modelle kollabieren: Wenn künstliche Intelligenz sich selbst verschlingt
Die künstliche Intelligenz durchläuft derzeit eine schwere Krise, die ihre künftige Entwicklung gefährden könnte. Jüngste Berichte offenbaren besorgniserregende Anzeichen für eine Verschlechterung von KI-Modellen, insbesondere weil sie zunehmend Inhalte konsumieren, die von anderen Systemen künstlicher Intelligenz generiert wurden. Dieses als „Modellkollaps“ bekannte Phänomen entwickelt sich zu einem bedeutenden Problem in der gesamten KI-Branche und könnte weitreichende Folgen haben.
Analyse
Den neuesten Analysen vom 30. Mai 2025 zufolge „platzen KI-Modelle aus allen Nähten und verfallen aufgrund von Kannibalismus dem Wahnsinn“, da sie immer häufiger synthetische Daten konsumieren, die von anderen KI-Systemen erstellt wurden. Das Problem rührt daher, dass große Sprachmodelle (LLMs) mit Webdaten trainiert werden, die KI-generierte Inhalte enthalten, welche nach der Veröffentlichung von ChatGPT im Jahr 2022 publiziert wurden. Dieser Prozess erzeugt eine Form des „schleichenden Kannibalismus“, die im gesamten Sektor zunehmende technische Probleme verursachen kann. Der Modellkollaps ist auf drei Schlüsselfaktoren zurückzuführen, die sich gegenseitig verstärken und einen gefährlichen Kreislauf der Verschlechterung schaffen. Der erste Faktor ist die Fehlerakkumulation – jede neue Modellgeneration erbt und verstärkt die Mängel früherer Versionen, wodurch sich die Ausgaben allmählich von den ursprünglichen Datenmustern entfernen. Das zweite Problem ist der Verlust von Randdaten, bei dem seltene Ereignisse aus den Trainingsdaten verschwinden, was letztlich dazu führt, dass ganze Konzepte unscharf werden. Der dritte Faktor sind Rückkopplungsschleifen, die enge Muster verstärken und sich wiederholende Texte oder voreingenommene Empfehlungen erzeugen.
Was die wichtigsten Akteure dazu sagen
Das auf die Entwicklung von KI-Technologien spezialisierte Unternehmen Aquant fasst das Problem treffend zusammen: „Einfach ausgedrückt können sich die Ergebnisse weiter von der Realität entfernen, wenn eine KI mit ihren eigenen Ausgaben trainiert wird.“ Diese Zusammenfassung bringt den Kern des Problems auf den Punkt, das die grundlegenden Funktionsprinzipien künstlicher Intelligenz und ihre Fähigkeit bedroht, relevante und präzise Informationen bereitzustellen. Führende KI-Unternehmen, darunter Google, OpenAI und Anthropic, haben versucht, dieses Problem durch die Implementierung einer Technologie namens Retrieval-Augmented Generation (RAG) zu lösen. Diese Technik verbindet große Sprachmodelle mit dem Internet und ermöglicht ihnen, nach Informationen zu suchen, wenn sie auf Fragestellungen stoßen, auf die ihre Trainingsdaten keine Antworten enthalten. Obwohl RAG gewisse Vorteile bietet, etwa eine Verringerung von KI-Halluzinationen, bringt es zugleich neue Probleme mit sich, die ebenso schwerwiegend sein können.
Es entstehen ständig neue Probleme
Eine Studie von Bloomberg Research ergab, dass elf führende LLMs mit RAG, darunter GPT-4o, Claude-3.5-Sonnet und Llama-3-8B, bei Tests mit schädlichen Eingabeaufforderungen problematische Ergebnisse lieferten. Zu diesen Problemen gehörten die Offenlegung privater Kundendaten, die Erstellung irreführender Marktanalysen und die Ausgabe voreingenommener Anlageempfehlungen. Diese Erkenntnisse zeigen, dass Versuche, ein Problem zu lösen, zur Entstehung neuer, potenziell noch schwerwiegenderer Komplikationen führen können. Das Problem des Modellkollapses tritt im Kontext eines sich rasch entwickelnden KI-Umfelds auf, in dem sowohl auf technologischer als auch auf wirtschaftlicher Ebene dramatische Veränderungen stattfinden. Die Kosten für die Nutzung hochmoderner KI-LLMs sind in den vergangenen 18 Monaten von 20 Dollar pro Million Token auf nur noch 0,07 Dollar pro Million Token gefallen. Dieser Kostenrückgang um mehr als das 280-Fache macht KI-Technologien zwar zugänglicher, kann jedoch zugleich zu ihrer schnelleren und weniger kontrollierten Verbreitung beitragen. Parallel zum Kostenrückgang steigt die Zahl schädlicher KI-Vorfälle, die im vergangenen Jahr um 56 Prozent zugenommen hat. Diese Statistik deutet darauf hin, dass die rasche Verbreitung von KI-Technologien nicht mit einer entsprechenden Entwicklung von Sicherheitsvorkehrungen und Kontrollmechanismen einhergeht. Gleichzeitig verringern sich die Leistungsunterschiede zwischen den besten KI-Modellen – der Abstand bei der Bewertung zwischen dem besten und dem zehntbesten Modell sank innerhalb eines Jahres von 11,9 Prozent auf 5,4 Prozent.
Ein kritischer Moment in der Entwicklung der KI
Auch das globale Wettbewerbsumfeld im Bereich der KI durchläuft einen bedeutenden Wandel. China holt gegenüber der US-amerikanischen Dominanz in diesem Bereich rasch auf, wobei sich der Leistungsunterschied zwischen den besten amerikanischen und chinesischen Modellen von 9,26 Prozent im Januar 2024 auf nur noch 1,70 Prozent im Februar 2025 verringerte. Diese Annäherung zeigt, dass die technologische Vormachtstellung der USA im Bereich der KI nicht automatisch garantiert ist und dass der Wettbewerbsdruck den Einsatz potenziell problematischer Technologien weiter beschleunigen könnte. Diese Entwicklungen deuten darauf hin, dass sich die KI-Branche an einem kritischen Punkt befindet, an dem die Bedenken hinsichtlich der Qualität und Zuverlässigkeit der Modelle ebenso schnell wachsen, wie die Kosten für ihren Einsatz sinken und ihre Verbreitung zunimmt. Die Kombination aus technischen Problemen im Zusammenhang mit dem Modellkollaps, einer steigenden Zahl schädlicher Vorfälle und intensivem globalem Wettbewerb stellt eine komplexe Herausforderung dar, die koordinierte Anstrengungen der gesamten Branche erfordert.
Die Zukunft der künstlichen Intelligenz hängt somit von der Fähigkeit ab, die Entwicklung zu verlangsamen, die derzeitigen technischen Hindernisse zu überwinden und Wege zu finden, um eine Verschlechterung der Modelle zu verhindern und zugleich ihre kontinuierliche Weiterentwicklung und Verbesserung zu gewährleisten. Ohne eine Lösung für das Problem des KI-Kannibalismus und des Modellkollapses könnte der gesamte Sektor in eine Situation geraten, in der der technologische Fortschritt durch die eigenen systembedingten Mängel eingeschränkt wird.
