Kleine oder große KI-Modelle? Welche leisten die nützlichste Arbeit?

In der heutigen Welt der künstlichen Intelligenz wird viel über riesige Modelle gesprochen, die Rekorde bei Tests brechen und eine Revolution versprechen. Doch im Unternehmensumfeld, in dem tatsächlich gearbeitet wird, sieht es anders aus. Kleine Sprachmodelle (SLM) sind diejenigen, die still und effizient alltägliche Aufgaben lösen, Kosten senken und die Produktivität steigern. Sehen wir uns anhand der Erfahrungen von Unternehmen und Forschungsergebnissen an, wie das in der Praxis funktioniert.

Das Paradox großer und kleiner Modelle

Ein Artikel des Wall Street Journal beschreibt ein Paradox: Während große Sprachmodelle (LLM) wie die von OpenAI oder Anthropic Schlagzeilen machen, weil sie juristische Prüfungen bestehen oder Mathematik-Olympiaden gewinnen, sieht es im realen Geschäftsleben anders aus. Diese riesigen Modelle sind teuer und langsam, weshalb Unternehmen sie nur für komplexe Planungsaufgaben einsetzen. Stattdessen setzen sie auf kleine Modelle, die schneller, günstiger und spezialisierter sind. Kyle Lo von der gemeinnützigen Organisation Allen Institute for AI sagt beispielsweise, dass große Modelle für die meisten Aufgaben, die wir heute erledigen müssen, überhaupt nicht notwendig sind. Unternehmen wie Meta verwenden große Modelle lediglich dazu, Wissen auf kleinere Modelle zu übertragen, die anschließend im Produktivbetrieb laufen, da die großen zu kostspielig sind.

Dieser Ansatz zeigt sich darin, wie Unternehmen ihre KI-Systeme wie Montagelinien aufbauen. Daten fließen hinein und durchlaufen eine Reihe kleiner Modelle, von denen jedes seinen Teil der Arbeit erledigt, sodass am Ende ein nützliches Ergebnis entsteht. Dadurch lassen sich große Datenmengen schnell und kostengünstig verarbeiten, was für die Wettbewerbsfähigkeit entscheidend ist.

Wie kleine Modelle arbeiten

Sehen wir uns einige konkrete Unternehmen an. Aurelian, ein Startup aus Seattle, nutzt generative KI, um Antworten auf nicht dringende Anrufe bei 911-Notrufzentralen zu automatisieren. Hark Audio aus New York setzt KI ein, um interessante Momente aus einer halben Million aktiver Podcasts zu identifizieren und herauszuschneiden. Gong aus San Francisco analysiert Tausende aufgezeichneter Verkaufsgespräche, um Unternehmen wie Google oder Cisco dabei zu helfen, mehr zu verkaufen. Und Airbnb bearbeitet einen erheblichen Teil der Kundenanfragen automatisch mithilfe offener Modelle des chinesischen Unternehmens Alibaba, was schneller ist als die Arbeit menschlicher Mitarbeiter.

Bei Gong sieht das folgendermaßen aus: Wenn ein Kunde eine Frage wie „Warum verliere ich Geschäftsabschlüsse?“ stellt, sendet das System die Anfrage zunächst an ein fortschrittliches Modell von Anthropic oder OpenAI, das einen allgemeinen Plan erstellt. Anschließend durchlaufen die Daten eine Reihe kleiner Modelle – eines durchsucht Tausende von Gesprächen, ein weiteres fasst sie zusammen und ein anderes analysiert die Zusammenfassungen. Am Ende kehrt alles zum großen Modell zurück, das den Abschlussbericht erstellt. Eilon Reshef, Mitbegründer von Gong, erklärt, dass das günstigste Modell dazu dient, die Relevanz eines Gesprächs zu bestimmen, das Modell der mittleren Preisklasse zur Extraktion von Informationen und das teuerste lediglich zur abschließenden Verarbeitung. Das spart Zeit und Geld.

Don MacKinnon von Hark Audio ergänzt, dass riesige Modelle zwar intelligent sind, aber keine effiziente Nutzung proprietärer Unternehmensdaten ermöglichen. Sein Team erstellte eine Bibliothek mit Zehntausenden von Clips, die von Menschen ausgewählt wurden, und nutzte sie zur Feinabstimmung eines eigenen kleinen Modells, das nun den gesamten Prozess automatisiert.

Wirtschaftliche Vorteile kleiner Modelle

Die Kosten spielen eine große Rolle. Laut Branchendurchschnitt kostet das kleinste Modell von OpenAI, GPT-5 Nano, etwa 10 Cent pro Million Token (das entspricht ungefähr 2,3 Kč), während das vollwertige GPT-5 3,44 Dollar pro Million Token kostet (etwa 79 Kč). Große Modelle verbrauchen aufgrund ihres internen „Monologs“ beim Schlussfolgern zudem tausendmal mehr Token. Kleine Modelle sind nicht nur günstiger, sondern auch schneller, was sie ideal für Echtzeitanwendungen macht.

Eine im Artikel erwähnte Studie von Nvidia und dem Georgia Institute of Technology bestätigt, dass kleine Modelle leistungsfähig genug für wiederkehrende Aufgaben in agentenbasierten Systemen sind, in denen sich Modelle auf eng umrissene Bereiche spezialisieren. Sie sind wirtschaftlicher, flexibler und besser für den Einsatz auf gängigen Geräten geeignet.

Anwendungen in verschiedenen Branchen

Kleine Modelle setzen sich auch in anderen Bereichen durch. Im Kundenservice bearbeiten sie Routineanfragen schneller, was sich im Finanzwesen, in der Fertigung, im Versicherungswesen und im Einzelhandel zeigt. Sie dienen zur Analyse der Stimmung in Bewertungen, sozialen Netzwerken oder Umfragen, was das Marketing unterstützt. Im Datenbereich analysieren sie Dokumente und extrahieren Metadaten zur Einhaltung von Vorschriften.

In Edge-Anwendungen (Edge AI) laufen sie auf mobilen Geräten oder IoT-Geräten, bei denen der Schutz der Privatsphäre wichtig ist – beispielsweise im Gesundheitswesen für Diagnosen oder im Finanzwesen zur Betrugserkennung. In der Industrie helfen sie bei der Optimierung klinischer Studien in der Pharmaindustrie, bei der Qualitätskontrolle in der Fertigung oder bei der Bearbeitung von Versicherungsansprüchen. Unternehmen wie Nvidia und Meta setzen sie in Produkten ein, in denen sie eine mit großen Modellen vergleichbare Leistung erzielen, jedoch bei geringeren Kosten und höherer Flexibilität.

Grenzen kleiner Modelle

Dennoch haben kleine Modelle ihre Grenzen. Sie funktionieren am besten bei eng definierten Aufgaben und können beim allgemeinen Verständnis möglicherweise nicht mit großen Modellen mithalten. Bei umfangreichen Anwendungen mit stark variierenden Daten können sie zurückbleiben. Dennoch machen ihre Geschwindigkeit, niedrigen Kosten und einfache Anpassbarkeit sie ideal für viele Unternehmensszenarien, in denen keine universelle Intelligenz benötigt wird.

Dieser Trend deutet darauf hin, dass die Zukunft der KI in der Kombination liegt – große Modelle für komplexes Denken, kleine für die tägliche Arbeit. Unternehmen, die dies verstehen, werden sich einen Vorteil bei Effizienz und Innovation verschaffen.