Warum werden KI-Programmierassistenten schlechter?

Schon heute verlassen sich Programmierer auf künstliche Intelligenz, damit sie ihnen hilft, Code schneller zu schreiben. Tools wie GitHub Copilot oder Modelle wie GPT-4 versprechen Wunder, doch die Realität ist komplexer. Laut einem Artikel im IEEE Spectrum werden diese KI-Assistenten tatsächlich schlechter. Der Grund? Sie werden mit Daten trainiert, die sie selbst erzeugen, was zu einem sogenannten Modellkollaps führt. Das bedeutet, dass die Qualität der Ausgaben sinkt, weil die KI aus den Fehlern und Vereinfachungen lernt, die sie selbst produziert.

Untersuchungen zeigen, dass Modelle, die mit synthetischen Inhalten trainiert werden – also mit Texten und Code, die von anderen KIs generiert wurden –, die Fähigkeit verlieren, komplexe oder ungewöhnliche Aufgaben zu bewältigen. In Tests mit Datenbanken für Finanzsysteme, in denen einfache Posten wie Soll oder Haben verwendet werden, versagt die KI beispielsweise bei Sicherheitsaspekten. Anjan Saha, der sich zu diesem Thema geäußert hat, betont, dass wir für komplexe Systeme wie Stromnetze oder medizinische Anwendungen Daten in mehrdimensionalen Matrizen benötigen, die KIs wie ChatGPT oder GitHub Copilot nicht zuverlässig verarbeiten können. Stattdessen konzentrieren sie sich auf alltägliche Aufgaben, versagen jedoch bei ungewöhnlichen Problemen.

Voreingenommenheit zugunsten populärer Frameworks

Ein weiteres großes Problem ist die Voreingenommenheit zugunsten beliebter Technologien. KI-Coding-Tools bevorzugen populäre Sprachen und Frameworks wie Python oder React, weil ihnen dafür die meisten Trainingsdaten zur Verfügung stehen. Dadurch entsteht ein Popularitätsparadoxon: Weniger bekannte Frameworks, etwa solche für spezielle technische Anwendungen, werden vernachlässigt. Dies führt dazu, dass Programmierer, die mit spezialisierten Tools arbeiten, minderwertige Vorschläge erhalten, was Frustration verursacht.

Diese Voreingenommenheit führt dazu, dass die KI Randfälle ignoriert. Wenn Sie Code für ein ungewöhnliches Szenario benötigen, etwa für die Integration eines alten Systems in ein neues, schlägt die KI häufig eine Lösung vor, die nicht funktioniert. Analysen aus den Jahren 2025 bis 2026, etwa jene von Faros AI, für die 10.000 Entwickler untersucht wurden, zeigen, dass sich dies in einem Produktivitätsparadoxon äußert: Die KI hilft bei alltäglichen Aufgaben, erschwert jedoch komplexe Aufgaben, bei denen menschliches Fachwissen erforderlich ist.

Rückgang der Datenqualität

Einen großen Einfluss hat auch der Rückgang hochwertiger Daten. Websites wie Stack Overflow verzeichnen einen Rückgang der Fragen um bis zu 84 %, weil die KI einfache Probleme löst. Übrig bleiben nur die schwierigen Probleme, die ungelöst bleiben. Das bedeutet, dass neue Modelle mit weniger vielfältigen Daten trainiert werden, wodurch das Risiko eines Kollapses steigt. Synthetische Inhalte überschwemmen das Internet, sodass die KI aus ihren eigenen Fehlern lernt, was ihre Zuverlässigkeit verringert.

In Tests mit CSV-Daten für Bankschemata generiert die KI beispielsweise Daten, die gut aussehen, aber Sicherheitslücken verbergen. Anjan Saha weist darauf hin, dass für Systeme wie soziale Netzwerke oder Stromnetze komplexe Parameter in Oracle-Datenbanken verarbeitet werden müssen, was die KI ohne menschliche Aufsicht nicht leisten kann. Das führt dazu, dass Entwickler mehr Zeit mit Korrekturen verbringen, als sie sollten.

Auswirkungen auf die Produktivität von Entwicklern

Obwohl laut Umfragen von Stack Overflow 84 % der Entwickler den Einsatz von KI-Tools planen oder sie bereits verwenden, berichten viele von Frustration. Tools wie Claude Code oder Cursor helfen zwar bei kleinen Aufgaben, versagen aber bei großen Projekten. Replit's Agent konnte beispielsweise im Jahr 2025 eine vollständige Anwendung einschließlich der Bereitstellung erstellen, ältere Versionen waren jedoch chaotisch und erforderten viele Eingriffe. Dies führt zu einer Situation, in der die KI anfangs die Geschwindigkeit erhöht, später jedoch Probleme verursacht.

Untersuchungen warnen vor einem Modellkollaps, bei dem das Training mit KI-generiertem Code die Leistung bei neuen Problemen verringert. Für Laien bedeutet dies, dass sich die Fehler der KI anhäufen können, auch wenn sie intelligent erscheint, und zu schwerwiegenden Ausfällen in Anwendungen wie Finanzsystemen oder medizinischen Geräten führen können.

Insgesamt deuten diese Probleme darauf hin, dass KI-Coding-Assistenten bessere Trainingsdaten und menschliche Aufsicht benötigen, damit sie sich nicht weiter verschlechtern.