Kurz nachdem Amazon-Chef Andy Jassy eine Investition von 50 Milliarden Dollar in OpenAI angekündigt hatte, kam ein unerwartetes Angebot. AWS (Amazon Web Services) lud die TechCrunch-Journalistin Julie Bort zu einer privaten Besichtigung des Chip-Labors im texanischen Austin ein. Genau jenes Labors, das im Zentrum dieses riesigen Geschäfts steht. Würde da jemand ablehnen? Ganz sicher nicht.
Das Labor befindet sich in einem glänzenden Gebäude mit verchromten Fenstern im Austiner Stadtteil The Domain, der als lokales Silicon Valley bezeichnet wird. Von außen sieht es aus wie jedes andere Büro eines Technologieunternehmens. Offene Räume, Teeküchen, Konferenzräume. Doch ganz hinten, in einem der oberen Stockwerke mit Blick über die gesamte Stadt, verbirgt sich etwas anderes.
Hinter den Türen von AWS
Das Labor ist ungefähr so groß wie zwei größere Konferenzräume. Das Dröhnen der Lüfter, Regale voller Geräte, Ingenieure in Jeans. Keine weißen Schutzanzüge. Hier werden die Chips nicht hergestellt, hier werden sie zum Leben erweckt. Trainium3 wird von TSMC im 3-Nanometer-Verfahren gefertigt, also mit dem absolut Besten, was die Chipproduktion heute zu bieten hat. Ob der Chip jedoch richtig funktioniert, wird genau hier in Austin festgestellt.
Das gesamte Ritual wird als „Bring-up“ bezeichnet. Laborleiter Kristopher King beschreibt es so: „Du bekommst den Chip zum ersten Mal in die Hand, und es ist wie eine große nächtliche Party. Du bleibst einfach hier, wie in einem Schullandheim.“ Nach 18 Monaten Arbeit schaltet das Team den Chip zum ersten Mal ein und wartet ab, ob er funktioniert. Spoiler: Ganz ohne Probleme läuft es nie.
Beim Trainium3 hatte der Prototyp die falschen Abmessungen für die Befestigung des Kühlkörpers. Der Chip ließ sich nicht einmal einschalten. Was tat das Team? Es griff zum Schleifgerät und begann, das Metall abzuschleifen. Um die Partyatmosphäre nicht zu stören, schlichen sie sich zum Schleifen in den benachbarten Konferenzraum. So läuft es dort eben.
Eine Million Chips für Anthropic und Pläne für OpenAI
Insgesamt sind über 1,4 Millionen Trainium-Chips aus allen drei Generationen im Einsatz. Und mehr als eine Million davon betreiben Claude von Anthropic, einen der beliebtesten KI-Assistenten der Welt.
Der größte Einsatz trägt den Namen Project Rainier, einer der weltweit größten KI-Rechencluster. Er wurde Ende 2025 mit einer halben Million Trainium2-Chips in Betrieb genommen und läuft ausschließlich für Anthropic. Doch jetzt kommt OpenAI ins Spiel. AWS hat sich verpflichtet, 2 Gigawatt Rechenleistung auf Trainium-Basis speziell für OpenAI bereitzustellen. Und das ist eine gewaltige Verpflichtung, insbesondere da Anthropic und Amazon Bedrock die Chips schneller verbrauchen, als Amazon sie produzieren kann.
Die Vereinbarung mit OpenAI ist dabei nicht ganz unkompliziert. Das Times-Magazin berichtete, Microsoft könne sich benachteiligt fühlen, da es mit OpenAI eine eigene Vereinbarung über den Zugang zu sämtlichen Modellen und Technologien besitzt. Was letztlich daraus wird, bleibt abzuwarten.
Trainium vs. Nvidia
Damit kommen wir zu dem Punkt, den Analysten auf der ganzen Welt beobachten. Nvidia hält bei KI-Rechenhardware nahezu eine Monopolstellung. Amazon gelingt es jedoch, diese Dominanz aufzubrechen, und Trainium3 ist bislang das stärkste Argument des Unternehmens.
Amazon behauptet, dass seine neuen Chips auf speziellen Trn3-UltraServern bei vergleichbarer Leistung bis zu 50 Prozent weniger kosten als herkömmliche Cloud-Server. Engineering-Direktor Mark Carroll führt dies auf die Kombination aus Trainium3 und den neuen Neuron-Switches zurück, die das Team ebenfalls selbst entwickelt hat.
„Das verschafft uns etwas Gewaltiges“, sagt Carroll. Die Switches verbinden jeden Chip in einer Mesh-Netzwerkkonfiguration mit jedem anderen Chip, was die Latenz drastisch reduziert. Genau deshalb bricht Trainium3 Rekorde, insbesondere beim Verhältnis von Leistung zu Energieverbrauch.
Und wie sieht es mit den Switching Costs aus, also den Kosten für den Wechsel von Nvidia? Historisch gesehen waren sie das Hauptargument dafür, bei Nvidia zu bleiben. Anwendungen, die für CUDA, Nvidias proprietäre Plattform, geschrieben wurden, mussten vollständig neu geschrieben werden. Amazon erklärt nun, dass Trainium PyTorch unterstützt und der Umstieg „praktisch nur eine Änderung im Code, eine Neukompilierung und die Ausführung auf Trainium“ erfordert. Das klingt fast zu einfach, doch wenn es funktioniert, verändert es die gesamte Rechnung.
AWS kündigte diesen Monat außerdem eine Partnerschaft mit Cerebras Systems an, deren spezialisierter Inferenz-Chip direkt auf Servern mit Trainium eingesetzt werden soll. Amazon setzt damit auf mehreren Ebenen auf die Zukunft der KI-Rechenleistung.
Ein israelisches Startup für 350 Millionen Dollar
Dieses gesamte Chip-Team existiert dank einer einzigen Übernahme. Amazon kaufte das israelische Unternehmen Annapurna Labs im Januar 2015 für rund 350 Millionen Dollar. Zehn Jahre später gingen aus diesem Team Graviton, Inferentia und nun Trainium hervor. Das Logo von Annapurna Labs hängt bis heute in den Büros.
Graviton, ein stromsparender ARM-basierter Serverprozessor, war der erste große Erfolg. Er war es, den Apple 2024 auf der AWS-Konferenz re:Invent öffentlich lobte. Apple, ein Unternehmen, das notorisch verschwiegen ist, ließ damals seinen KI-Direktor öffentlich erläutern, wie Apple Graviton und Inferentia einsetzt. Für Amazon war dies die Bestätigung, auf dem richtigen Weg zu sein.
Trainium2 bewältigt heute den Großteil des Inferenzbetriebs auf Amazon Bedrock, dem Cloud-Dienst, über den Tausende Unternehmen ihre eigenen KI-Anwendungen entwickeln. „Unser Kundenstamm wächst so schnell, wie wir Kapazitäten bereitstellen können“, sagt King. Dann fügt er einen bemerkenswerten Satz hinzu: „Bedrock könnte eines Tages so groß sein wie EC2.“ EC2, die Computing-Cloud von AWS, ist dabei einer der größten und profitabelsten Cloud-Dienste der Welt.
Ein Labor, in dem sogar unter dem Mikroskop geschweißt wird
Zurück ins Labor. Einer der beeindruckendsten Momente der Besichtigung war der Schweißarbeitsplatz. Der Hardware-Ingenieur Isaac Guevara schweißt dort unter dem Mikroskop winzige Komponenten integrierter Schaltkreise. Die Arbeit ist so präzise, dass Carroll, ein leitender Manager des Teams, offen zugab, er könne das nicht. Guevara lachte. Die Ingenieure um ihn herum ebenfalls.
Der Star des Labors ist jedoch eine ganze Wand voller „Einschübe“, also Träger, auf denen sich Trainium- und Graviton-Chips sowie unterstützende Komponenten befinden. Jede Generation hat ihr eigenes Ausstellungsstück. Es ist ein wenig wie ein Museum, nur funktionstüchtig. Setzt man die Einschübe in ein Rack ein und ergänzt die Netzwerkkomponenten, erhält man das Herz der gesamten Anthropic Cloud.
Nicht weit vom Hauptlabor entfernt verfügt das Team zudem über ein eigenes privates Rechenzentrum für Tests. Der Zugang wird streng bewacht. Das Kühlsystem ist so laut, dass Ohrstöpsel vorgeschrieben sind. Die Luft riecht nach heißem Metall. Dort stehen Reihen von Servern voller Graviton-, Trainium3- und Nitro-Chips, die alle in einem geschlossenen Kreislauf flüssigkeitsgekühlt werden.
Die Ingenieure arbeiten rund um die Uhr, sieben Tage die Woche, über einen Zeitraum von drei bis vier Wochen rund um jede erste Inbetriebnahme eines Chips. Der Druck ist enorm. Andy Jassy verfolgt ihre Ergebnisse persönlich und äußert sich öffentlich begeistert darüber. Im Dezember erklärte er, Trainium sei für AWS bereits ein Multimilliarden-Dollar-Geschäft, und bezeichnete es als eine der Technologien, die ihn am meisten begeistern.
Das Team arbeitet jetzt an Trainium4. Was es bringen wird, hat bislang niemand verraten.
Quelle: techcrunch.com
