In letzter Zeit gibt es Berichte, die darauf hindeuten, dass Amazon Schwierigkeiten hat, seine eigenen Chips für künstliche Intelligenz (KI) bei Start-ups durchzusetzen. Laut einem internen Amazon-Dokument vom Juli, das Business Insider vorliegt, halten mehrere Start-ups die Chips Trainium 1 und Trainium 2 für weniger leistungsfähig als die Grafikprozessoren (GPUs) H100 von Nvidia. Dieses als vertraulich eingestufte Dokument beschreibt konkrete Erfahrungen von Unternehmen wie Cohere und Stability AI, die diese Chips in der Praxis getestet haben.
Das auf die Entwicklung von KI spezialisierte Start-up Cohere berichtete, dass die Chips Trainium 1 und Trainium 2 nicht die Leistung der H100-GPUs von Nvidia erreichen. Zudem war der Zugang zu Trainium 2 äußerst eingeschränkt, und es kam häufig zu Dienstausfällen. Amazon erklärt in dem Dokument, dass das Unternehmen diese Leistungsprobleme weiterhin gemeinsam mit seiner Sparte Annapurna Labs untersucht, die Fortschritte jedoch begrenzt seien. Ein Amazon-Sprecher erklärte später, dass die Situation bei Cohere nicht mehr aktuell sei und das Unternehmen das Feedback seiner Kunden schätze, da es zur Verbesserung der Chips beitrage.
Ähnliche Erfahrungen machte auch das für die KI-gestützte Bilderzeugung bekannte Unternehmen Stability AI. Dem Dokument zufolge stellten diese Start-ups fest, dass Trainium 2 bei der Latenz hinter H100 zurückliegt, was eine längere Verarbeitungszeit für Aufgaben bedeutet. Dadurch sind die Chips von Amazon sowohl bei der Geschwindigkeit als auch bei den Kosten weniger wettbewerbsfähig. Ein weiteres Start-up, Typhoon, stellte fest, dass ältere A100-GPUs von Nvidia bei bestimmten Aufgaben bis zu dreimal kosteneffizienter sind als Inferentia 2 von AWS. Die Forschungsgruppe AI Singapore verglich wiederum G6-Server mit Nvidia-GPUs und kam zu dem Schluss, dass sie in mehreren Fällen ein besseres Preis-Leistungs-Verhältnis als Inferentia 2 bieten. Inferentia-Chips dienen hauptsächlich zum Ausführen von KI-Modellen (Inferenz), während Trainium auf deren Training ausgerichtet ist.
Bedeutung eigener Chips für AWS
Amazon setzt auf seine eigenen Trainium-Chips, um das Wachstum im Bereich der Cloud-Dienste für KI zu stärken. Der Erfolg von Amazon Web Services (AWS) beruhte in der Vergangenheit darauf, dass das Unternehmen eigene Chips für Rechenzentren entwickelte, anstatt teure Komponenten von Intel zu kaufen. Im aktuellen Zeitalter der generativen KI versucht Amazon, die hohen Kosten für Nvidia-GPUs zu vermeiden und seinen Kunden dennoch leistungsfähige Dienste bereitzustellen. Wenn Kunden auf der Verwendung von Nvidia-Chips bestehen, könnte dies die Rentabilität von AWS beeinträchtigen, da das Unternehmen mehr für diese Komponenten bezahlen müsste.
AWS behauptet, dass seine Chips ein um 30 % bis 40 % besseres Preis-Leistungs-Verhältnis als die aktuelle GPU-Generation bieten. Das Unternehmen verfügt über ein talentiertes Team für Chipdesign und arbeitet an neuen Versionen, darunter Trainium 3, das noch in diesem Jahr vorgestellt werden soll. Ein Amazon-Sprecher erwähnte, dass Trainium 2 vollständig ausgelastet sei und von großen Kunden wie Anthropic genutzt werde. Weitere Unternehmen wie Ricoh, Datadog und Metagenomi erzielten mit Trainium und Inferentia gute Ergebnisse. Amazon plant, mit der Einführung von Trainium 3 die Verfügbarkeit für mehr Kunden zu erweitern.
AWS-CEO Matt Garman und Amazon-CEO Andy Jassy sprachen kürzlich über das Wachstum. Während der Telefonkonferenz zu den Quartalsergebnissen erklärte Jassy, dass Trainium 2 ein Multimilliarden-Dollar-Geschäft sei, das vierteljährlich um 150 % wachse. Dennoch bestehen weiterhin technische Einschränkungen, die Kunden daran hindern, auf die Chips von Amazon umzusteigen.
Marktposition und Partnerschaften
Auf dem Markt für KI-Chips dominiert Nvidia laut dem Marktforschungsunternehmen Omdia mit einem Anteil von mehr als 78 %, gefolgt von Google und AMD mit jeweils über 4 %. Die AWS-Chips liegen mit lediglich 2 % auf dem sechsten Platz. Dies verdeutlicht, wie schwer es für Amazon ist, sich durchzusetzen.
Die neue Vereinbarung zwischen AWS und OpenAI im Wert von 38 Milliarden USD umfasst ausschließlich Cloud-Server mit Nvidia-GPUs, ohne Trainium zu erwähnen. Analysten von Mizuho betrachten dies als Enttäuschung und weisen darauf hin, dass es aufgrund der besseren Leistung von Nvidia und der den Entwicklern gut vertrauten CUDA-Plattform logisch sei, zunächst mit Nvidia zu beginnen. Dies ist für große KI-Projekte wichtig, bei denen Zuverlässigkeit eine entscheidende Rolle spielt.
Der bedeutendste Trainium-Kunde ist Anthropic, der Entwickler der Claude-Modelle. AWS startete das Projekt Rainier, ein riesiges Rechenzentrum mit einer halben Million Trainium-Chips für das Training der nächsten Generation von KI-Modellen von Anthropic. Bis zum Jahresende soll Anthropic mehr als eine Million Trainium-2-Chips einsetzen. Anthropic erweiterte kürzlich seine Zusammenarbeit mit Google im Bereich der TPU-Chips, was zu einem Rückgang der Amazon-Aktie führte. Das Unternehmen versichert jedoch, Trainium weiterhin zu nutzen.
Jassy betonte während der Telefonkonferenz, dass AWS mehrere Chipoptionen anbiete, um den unterschiedlichen Bedürfnissen der Kunden gerecht zu werden, ähnlich wie in anderen Bereichen des Cloud-Computings. Nach der Veröffentlichung der Ergebnisse, denen zufolge die AWS-Umsätze um 20 % auf 33 Milliarden USD gestiegen waren, legte die Amazon-Aktie zu. Dies ist das schnellste Wachstum seit 2022, wenn auch langsamer als bei Wettbewerbern wie Microsoft oder Google Cloud.
Quellen: businessinsider.com und theinformation.com
