Die Umweltkosten künstlicher Intelligenz wachsen exponentiell

Künstliche Intelligenz verändert die Art der Kommunikation auf allen Ebenen radikal – von individuellen Interaktionen bis hin zum Austausch in Organisationen und Gesellschaften. Während diese Technologien die Geschwindigkeit, Kreativität und Personalisierung der Kommunikation erhöhen, bringen sie auch ernsthafte Herausforderungen im Zusammenhang mit Vorurteilen, Privatsphäre und Datenverwaltung mit sich. Eine ebenso wichtige, aber häufig übersehene Frage sind die Umweltkosten dieser Technologien.

Eine neue Studie der Forschenden Maximilian Dauner und Gudrun Socher vom Munich Center for Digital Sciences and AI (MUC.DAI) an der HM Hochschule München University of Applied Sciences enthüllt schockierende Fakten über die Umweltauswirkungen großer Sprachmodelle (LLM). Ihre Forschung bietet eine umfassende Bewertung der Umweltkosten von LLM, indem sie deren Leistung, Token-Nutzung und CO2-Äquivalent-Emissionen bei 14 verschiedenen Modellen mit 7 bis 72 Milliarden Parametern analysiert.

Forschungsmethodik

Die Forschenden testeten eine vielfältige Auswahl an Sprachmodellen, darunter Metas Llama3.1-Modelle (Grattafiori et al., 2024) mit 8 Milliarden und 70 Milliarden Parametern sowie das Llama3.3-Modell (Grattafiori et al., 2024) mit 70 Milliarden Parametern. Darüber hinaus bezogen sie Alibabas Qwen-Modelle (Bai et al., 2023) und Qwen2.5-Modelle (Qwen et al., 2025) mit jeweils 7 Milliarden und 72 Milliarden Parametern ein. Die Studie analysierte außerdem zwei von Deep Cogito entwickelte Reasoning-Modelle mit 8 Milliarden und 70 Milliarden Parametern, die sowohl im Standardmodus zur Textgenerierung als auch im Reasoning-Modus arbeiten. Teil der Untersuchung waren auch die Deepseek-R1-Modelle (DeepSeek-AI et al., 2025), die speziell für logisches Schlussfolgern entwickelt wurden und in Varianten mit 7 Milliarden, 8 Milliarden und 70 Milliarden Parametern vorlagen.

Alle Modelle erhielten die Aufgabe, dieselben 500 Fragen aus unterschiedlichen Bereichen zu beantworten. Die Fragen und ihre korrekten Antworten wurden aus dem Datensatz Massive Multitask Language Understanding (MMLU) (Hendrycks et al., 2021) extrahiert. Der MMLU-Datensatz bewertet die Multitasking-Genauigkeit in verschiedenen Wissensdomänen und enthält 15 908 Multiple-Choice-Fragen aus 57 Fachgebieten, darunter Ingenieurwesen, Mathematik, Geisteswissenschaften und Sozialwissenschaften.

Überraschende Testergebnisse

Die Experimente wurden auf einer lokalen Nvidia-A100-GPU mit 80 GB Speicher durchgeführt, wodurch der Energieverbrauch, die Speichernutzung und die Reaktionszeit während der Auswertung der Modelle präzise gemessen werden konnten. Die Messungen erfolgten mithilfe des Perun-Frameworks, das für das Energie-Benchmarking von Hochleistungsrechenanwendungen entwickelt wurde (Gutiérrez Hermosillo Muriedas et al., 2023). Zur Berechnung der damit verbundenen CO2eq-Emissionen wurde ein Emissionsfaktor von 480 gCO2/kWh verwendet, der dem neuesten globalen Durchschnitt entspricht und die aktuellen Trends hin zu einer verstärkten Nutzung erneuerbarer Energien widerspiegelt.

In der Multiple-Choice-Phase erzielte das um Reasoning erweiterte Cogito-70B-Modell mit 91,0% richtigen Antworten die höchste Genauigkeit, gefolgt vom Reasoning-Modell Deepseek R1 70B mit 85,0% und dem Modell Qwen 2.5 72B mit 80,2%. In der Freitextphase belegte dieselbe Cogito-Variante mit 78,8% erneut den ersten Platz, knapp vor Cogito 70B im Standardtextmodus (76,4%) und Qwen 2.5 72B (75,0%).

Alarmierende Emissionsbilanz

Die gesamten CO2eq-Emissionen, ausgedrückt in Gramm CO2-Äquivalent, die für die Verarbeitung des vollständigen Satzes von 500 MMLU-Fragen erforderlich waren, zeigen dramatische Unterschiede zwischen den Modellen. In der Multiple-Choice-Phase reichten die Emissionen von lediglich 1,25 g CO2eq beim standardmäßigen Cogito-8B-Modell bis zu 717,31 g CO2eq beim Deepseek-R1-70B-Modell. Varianten mit aktiviertem Reasoning verursachten wesentlich mehr Emissionen als ihre Standardversionen – beispielsweise Cogito 70B Reasoning: 411,72g gegenüber Cogito 70B Standard: 8,20g.

In der Freitextphase vergrößerte sich die Spannweite noch weiter: vom niedrigsten Wert von 26,28 g CO2eq bei Qwen 7B bis zu alarmierenden 1 325,12 g CO2eq bei Deepseek-R1 70B. Die Reasoning-Modi führten im Vergleich zu reinen Textmodi zu einem vier- bis sechsfachen Anstieg der Emissionen.

Bei der Untersuchung der kombinierten CO2eq-Emissionen und der Gesamtgenauigkeit über alle 1 000 Fragen hinweg zeigen sich deutliche Zielkonflikte zwischen Modellgröße, Tiefe des Schlussfolgerns und Umweltkosten. Das kleinste Modell Qwen 7B emittiert lediglich 27,7 g CO2eq und weist damit den kleinsten Fußabdruck auf, erreicht jedoch nur eine Genauigkeit von 32,9%. Dagegen verursacht das größte Reasoning-Modell Deepseek-R1 70B 2 042,4 g CO2eq und erreicht eine Genauigkeit von 78,9%.

Analyse nach Fachgebieten

Die Analyse nach Fachgebieten zeigt eine erhebliche Variabilität der Leistung in den verschiedenen Domänen. Die Multiple-Choice-Genauigkeit war im Bereich Weltgeschichte der Oberstufe mit durchschnittlich 76,3% richtigen Antworten pro Modell durchweg am höchsten, wahrscheinlich aufgrund des faktenbasierten Charakters der Fragen, der das Abrufen oder Erkennen erleichtert. Dagegen stellte die abstrakte Algebra mit durchschnittlich nur 51,4% richtigen Antworten die größte Herausforderung dar, was ihre höhere Komplexität und ihre abstrakten konzeptionellen Anforderungen widerspiegelt.

Im Freitextmodus erzielten die Modelle im Bereich Mathematik der Oberstufe mit durchschnittlich 69,4% richtigen Antworten pro Modell die höchsten Werte, wahrscheinlich dank expliziter numerischer Berechnungen. Dagegen stellten Fragen aus der Philosophie, die nuancierte und subjektive Schlussfolgerungen erfordern, mit durchschnittlich nur 52,1% richtigen Antworten erhebliche Herausforderungen dar.

Token-Analyse enthüllt verborgene Kosten

Die Analyse der Token-Generierung verdeutlicht zusätzlich die Rechenkosten des Schlussfolgerns. Ein Token ist eine Texteinheit, etwa ein Wort, ein Wortteil oder ein einzelnes Zeichen, die in eine numerische Darstellung umgewandelt wird, damit ein LLM sie verarbeiten kann (Gastaldi et al., 2025). In der Studie wird zwischen Antwort-Tokens (Tokens, aus denen die endgültige Antwort des Modells besteht) und Denk-Tokens (zusätzliche Tokens, die von Modellen mit aktiviertem Reasoning vor der Ausgabe der Antwort generiert werden) unterschieden.

Im Multiple-Choice-Szenario generierten die Modelle durchschnittlich 37,7 Antwort-Tokens pro Frage, während Varianten mit aktiviertem Reasoning zusätzlich 543,5 Denk-Tokens benötigten. Nach Fachgebieten betrachtet führte Mathematik der Oberstufe zu den längsten Antworten (durchschnittlich 83,3 Tokens), während abstrakte Algebra den höchsten Denkaufwand erforderte (durchschnittlich 865,5 Tokens).

Im Freitextmodus stieg die durchschnittliche Antwortlänge auf 435,2 Tokens. Die kürzesten Freitextantworten (zwei Tokens) erzeugte das Modell Qwen 2.5 72B bei Philosophie, während die längste Einzelausgabe (37 575 Tokens) vom Reasoning-Modell Cogito 8B bei abstrakter Algebra generiert wurde.

Diskussion und Schlussfolgerungen

Die Analyse der kombinierten CO2eq-Emissionen, der Genauigkeit und der Token-Generierung über alle 1 000 Fragen hinweg zeigt klare Trends und Zielkonflikte zwischen Modellgröße, Komplexität des Schlussfolgerns und Umweltauswirkungen. Mit zunehmender Modellgröße verbessert sich tendenziell die Genauigkeit, doch dieser Zugewinn ist auch mit einem erheblichen Anstieg sowohl der CO2eq-Emissionen als auch der Anzahl der generierten Tokens verbunden.

Bemerkenswerterweise weist das Reasoning-fähige Cogito-70B-Modell ein besseres Verhältnis zwischen Leistung und Effizienz auf. Es erreicht mit 84,9% die höchste Genauigkeit, eine relative Verbesserung um 7,6 Prozentpunkte gegenüber Deepseek-R1 70B, und emittiert gleichzeitig 34,3% weniger CO2eq (1 341,1 g). Dies deutet darauf hin, dass das Hinzufügen einer Reasoning-Komponente zu großen Modellen die Genauigkeit erheblich verbessern kann, ohne dass die Umweltauswirkungen proportional zunehmen.

Einschränkungen und zukünftige Forschung

Obwohl diese Studie eine vielfältige Auswahl an Sprachmodellen mit unterschiedlichen Architekturen, Trainingsdatensätzen, Parameterzahlen und Reasoning-Routinen vergleicht, lassen sich die Ergebnisse nicht ohne Weiteres auf andere Modellfamilien übertragen. Aufgrund dieser strukturellen und architektonischen Unterschiede ist die Verallgemeinerung der Ergebnisse auf Modelle mit deutlich abweichenden Designs eingeschränkt.

Alle Emissionen wurden unter einem spezifischen Hardware- und Energieprofil gemessen, nämlich unter Verwendung einer NVIDIA-A100-GPU mit 80 GB und eines Emissionsfaktors von 480 gCO2/kWh. Diese Werte hängen stark von der gewählten Infrastruktur und dem lokalen Stromnetz ab, und die Ergebnisse können bei anderen Hardwarekonfigurationen oder Emissionsgrundlagen erheblich abweichen.

Zukünftige Arbeiten könnten diese Untersuchung durch die Einbeziehung einer breiteren Auswahl an Modellen erweitern, darunter solche, die für spezifische Aufgaben in unterschiedlichen Domänen feinabgestimmt wurden. Beispielsweise wäre es wertvoll zu analysieren, ob auf die Codegenerierung spezialisierte Modelle bei Programmieraufgaben besser abschneiden und ob eine solche Spezialisierung im Vergleich zu allgemeinen LLM zu niedrigeren CO2eq-Emissionen führt.

Die Studie zeigt deutlich, dass größere und um Reasoning erweiterte Modelle ihre kleineren Pendants hinsichtlich der Genauigkeit deutlich übertreffen, diese Verbesserung jedoch mit einem starken Anstieg der Emissionen und Rechenanforderungen einhergeht. Die Optimierung der Effizienz des Schlussfolgerns und der Prägnanz der Antworten ist entscheidend für den Fortschritt hin zu nachhaltigeren und umweltverträglicheren Technologien der künstlichen Intelligenz.