Das Startup General Compute hat sich bis zu 400 Millionen Dollar geliehen. Daran wäre nichts Besonderes, wäre da nicht eine Sache: Als Sicherheit dienen keine Grafikchips von Nvidia, auf denen bislang alle großen Kredite im Bereich der künstlichen Intelligenz beruhten. Stattdessen bürgt das Unternehmen mit SambaNova-Inferenzchips vom Typ SN50. Den verfügbaren Informationen zufolge handelt es sich um den ersten Fall, in dem ein Kreditgeber Chips, die ausschließlich für den Betrieb fertiger Modelle und nicht für deren Training entwickelt wurden, als primäre Sicherheit für einen großen KI-Kredit akzeptiert hat.
Der Kredit wurde von der Investmentgesellschaft Upper90 Capital Management bereitgestellt. Er beginnt bei 100 Millionen Dollar und steigt mit der Zahl der zahlenden Kunden bis zu einer Obergrenze von 400 Millionen Dollar.
Chips wurden zu Sicherheiten für die Wall Street
Um zu verstehen, warum dieses Geschäft anders ist, müssen wir einige Jahre zurückgehen. Im Jahr 2021 finanzierte Billy Libby, Mitgründer von Upper90 und ehemaliger Händler bei Goldman Sachs, den Kauf von Grafikchips für das Unternehmen Crusoe. Er selbst bezeichnete diesen Kredit als den allerersten, der durch den Wert fortschrittlicher KI-Chips besichert war. Traditionelle Banken mieden damals solche Geschäfte. Niemand wusste genau, wie schnell Grafikchips an Wert verlieren.
Das Misstrauen schwand schnell. Im August 2023 lieh sich das Unternehmen CoreWeave 2,3 Milliarden Dollar gegen Nvidia-H100-Chips. Durch Chips besicherte Kredite wurden zum Motor seines Wachstums, und seine Gesamtverschuldung übersteigt heute 21 Milliarden Dollar. Das von ihm entwickelte Modell wurde von der gesamten Branche der sogenannten Neoclouds übernommen, also von Betreibern speziell auf künstliche Intelligenz zugeschnittener Rechenzentren. Bislang beruhte dabei alles auf Silizium von Nvidia. Bis jetzt.
Worin unterscheiden sich die Chips von SambaNova architektonisch?
Warum also entschied sich General Compute für den SN50 statt für Grafikchips von Nvidia? In erster Linie geht es nicht um den Preis. Entscheidend sind die Architektur und das, was während der Inferenz direkt auf dem Chip geschieht. Inferenz ist die Phase, in der ein fertiges, bereits trainiertes Modell auf Anfragen von Nutzern antwortet, also im realen Betrieb Text oder andere Ausgaben erzeugt.
Der Betrieb eines großen Sprachmodells gliedert sich in zwei Phasen. Die erste ist der Prefill. Das Modell liest und verarbeitet die gesamte Eingabeanfrage. Dies ist eine parallele Aufgabe und passt gut zur SIMT-Architektur, auf der Nvidia seine Grafikchips aufgebaut hat. Die zweite Phase ist die Dekodierung. Das Modell erzeugt die Antwort Token für Token, wobei jedes weitere von allen vorherigen abhängt. Das Problem ist hier nicht die Rechenleistung, sondern die Geschwindigkeit, mit der der Chip Daten zwischen Speicher und Recheneinheiten verschiebt.
Der SN50 von SambaNova wurde genau für diese zweite Einschränkung entwickelt. Er platziert Speicher und Rechenschaltungen unmittelbar nebeneinander, sodass die Daten kürzere Wege zurücklegen. Eine unabhängige Messung von Artificial Analysis vom Juli 2026 erreichte mit einer gemischten Konfiguration aus vier Nvidia-H200-Grafikchips und sechzehn SN50-Einheiten beim Modell MiniMax M2.7 eine Leistung von 763 Token pro Sekunde und war damit um ein Vielfaches schneller als Anbieter, die ausschließlich auf Grafikchips setzen.
Der zweite Vorteil betrifft unmittelbar die finanzielle Konstruktion des Geschäfts. Der SN50 benötigt keine Wasserkühlung. Er läuft mit 20 Kilowatt pro Rack, was eine gewöhnliche luftgekühlte Halle bewältigen kann. General Compute hat bereits Verträge über 15 Megawatt solcher Kapazitäten abgeschlossen. Flüssigkeitskühlung erfordert spezialisierte Hallen, deren Bau Jahre dauert, während luftgekühlte Systeme innerhalb weniger Wochen installiert werden können.
Kreditgeber orientieren sich an den Einnahmen
Die tiefer liegende Logik des Geschäfts dreht sich um den Unterschied zwischen Rechenleistung für das Training und für die Inferenz. Und genau hierhin verlagert sich die Aufmerksamkeit der Investoren.
Das Training eines großen Modells ist eine einmalige Angelegenheit. Ein Labor trainiert das Modell während einer intensiven Rechenphase, die Tage oder Wochen dauert, und anschließend wartet der nur teilweise ausgelastete Cluster. Inferenz funktioniert anders. Die Bereitstellung eines fertigen Modells für Nutzer, Entwickler und autonome Agenten läuft kontinuierlich, denn jeder API-Aufruf und jede Antwort eines Chatbots ist eine Inferenzaufgabe. Inferenz nähert sich damit einer Art öffentlicher Versorgungsleistung an, also einem dauerhaften Einnahmestrom aus jedem erzeugten Token.
Und hier liegt der Kern der Sache. Ein Grafikchip ist universell einsetzbar. Er bewältigt Training, Inferenz und Grafik, und vor allem gibt es für ihn einen ausreichend großen Markt für gebrauchte Hardware, sodass ein Kreditgeber seinen Restwert abschätzen kann. Ein Inferenz-ASIC wie der SN50 ist dagegen auf eine spezifische Reihe von Operationen optimiert. Das macht ihn schneller und pro Token günstiger, zugleich ist er außerhalb dieser Aufgabe jedoch nur begrenzt einsetzbar. Ein Kreditgeber, der Inferenzchips als Sicherheit akzeptiert, setzt darauf, dass die Aufgabe, für die der Chip entwickelt wurde, während der gesamten Rückzahlungsdauer wirtschaftlich relevant bleibt.
Nicht jeder braucht einen Supercomputer, wohl aber Inferenz und künstliche Intelligenz. Das Unternehmen, das Inferenz am günstigsten und schnellsten bereitstellt, wird diese Einnahmen erzielen, und die Hardware hinter einem solchen Geschäftsmodell ist eine zuverlässigere Sicherheit als Hardware, deren Auslastung von einem unregelmäßigen Trainingsplan abhängt. Jede weitere Tranche der 400 Millionen Dollar ist daher an die Kundennachfrage gebunden. Das Kreditrisiko wächst somit im Einklang mit den tatsächlichen Einnahmen und nicht bereits im Voraus.
Was Kreditgeber bewerten können und was noch nicht
Ein risikofreies Geschäft ist es allerdings nicht. Für Nvidia-Chips existiert ein Sekundärmarkt, der zunehmend liquider wird; schließlich hat die Börse Compute Exchange erst vor wenigen Tagen einen Markt für gebrauchte H100- und A100-Chips eröffnet. Für SambaNova-SN50-Chips gibt es keinen solchen Markt. Upper90 akzeptierte sie als Sicherheit, bevor überhaupt eine Verkaufshistorie für sie existierte.
Während ein gebrauchter Nvidia-Chip nahezu jede KI-Aufgabe bewältigen kann, könnte ein gebrauchter, für die Dekodierung bei Transformer-Modellen optimierter Inferenz-ASIC an Wert verlieren, wenn sich die vorherrschende Modellarchitektur in eine andere Richtung entwickelt. Ein High-End-Grafikchip von Nvidia verliert Analysten von S&P Global Ratings zufolge innerhalb von drei Jahren etwa die Hälfte seines Verkaufswerts. Die Wertverlustkurven von Inferenzchips kennt bislang jedoch niemand. Ein warnendes Beispiel sind ASIC-Chips für das Bitcoin-Mining, die beinahe ihren gesamten Wert verloren, als ihr Algorithmus durch etwas anderes ersetzt wurde.
Quellen: techcrunch.com und techtimes.com
