Microsoft hat gerade seinen neuen KI-Chip namens Maia 200 vorgestellt, der die Wirtschaftlichkeit der Generierung von KI-Tokens drastisch verbessern und die Abhängigkeit des Technologieriesen von Nvidia-Chips verringern soll. Es handelt sich um den zweiten von Microsoft selbst entwickelten Chip, der nicht nur mit dem dominierenden Anbieter Nvidia, sondern auch mit den hauseigenen Lösungen von Google und Amazon konkurrieren soll.
Beeindruckende technische Daten
Maia 200 ist ein wahres technologisches Juwel. Der Chip wird im hochmodernen 3-Nanometer-Verfahren des taiwanischen Unternehmens TSMC gefertigt und enthält mehr als 140 Milliarden Transistoren. Jeder Maia-200-Chip erreicht eine Leistung von mehr als 10 Petaflops bei 4-Bit-Präzision (FP4) und etwa 5 Petaflops bei 8-Bit-Präzision (FP8) – und das alles bei einer Leistungsaufnahme von 750 Watt.
Zum Vergleich: Microsoft gibt an, dass Maia 200 bei FP4 die dreifache Leistung der Amazon-Trainium-Chips der dritten Generation und bei FP8 eine höhere Leistung als die siebte Generation der TPUs von Google bietet. Dabei geht es jedoch nicht nur um reine Rechenleistung. Microsoft betont, dass Maia 200 das effizienteste Inferenzsystem ist, das das Unternehmen jemals eingesetzt hat, und gegenüber der neuesten Hardwaregeneration im aktuellen Portfolio ein um 30 % besseres Preis-Leistungs-Verhältnis bietet.
Speicher und Datenströme auf höchstem Niveau
Einer der entscheidenden Vorteile von Maia 200 ist das neu konzipierte Speichersubsystem. Der Chip verfügt über 216 GB HBM3e-Speicher mit einer Bandbreite von 7 TB pro Sekunde sowie 272 MB SRAM direkt auf dem Chip. Dieses Speichersystem wurde speziell für Datentypen mit niedriger Präzision entwickelt und umfasst eine spezialisierte DMA-Engine sowie ein NoC-Fabric für die Hochgeschwindigkeitsübertragung von Daten, wodurch der Token-Durchsatz deutlich erhöht wird.
Scott Guthrie, Executive Vice President bei Microsoft und verantwortlich für Azure und Cloud-Lösungen, erklärt: „Maia 200 ist ein auf dem 3-nm-Prozess von TSMC basierender Beschleuniger mit nativen FP8-/FP4-Tensorkernen. In der Praxis kann ein einzelner Maia-200-Knoten die derzeit größten Modelle problemlos ausführen und bietet dabei genügend Reserven für künftig noch größere Modelle.“
Netzwerkarchitektur der nächsten Generation
Auf Systemebene bietet Maia 200 ein innovatives zweischichtiges Netzwerkdesign, das auf Standard-Ethernet basiert. Eine eigene Transportschicht und eine eng integrierte Netzwerkkarte ermöglichen hohe Leistung, große Zuverlässigkeit und erhebliche Kostenvorteile, ohne dass proprietäre Netzwerkstrukturen erforderlich sind.
Jeder Beschleuniger bietet eine dedizierte bidirektionale Bandbreite von 2,8 TB pro Sekunde sowie vorhersehbare, leistungsstarke kollektive Operationen über Cluster mit bis zu 6.144 Beschleunigern hinweg. In jedem Tray sind vier Maia-Beschleuniger über direkte, nicht geschaltete Verbindungen vollständig miteinander verbunden, sodass die Hochgeschwindigkeitskommunikation lokal bleibt und eine optimale Inferenzeffizienz erreicht wird.
Wo und wie Maia 200 eingesetzt wird
Maia 200 ist bereits im Microsoft-Rechenzentrum in der Region US Central nahe Des Moines im US-Bundesstaat Iowa im Einsatz. Eine weitere Bereitstellung in der Region US West 3 nahe Phoenix in Arizona ist bereits geplant, weitere Regionen sollen folgen. Der Chip wird mehrere Modelle unterstützen, darunter die neuesten GPT-5.2-Modelle von OpenAI, und dadurch Microsoft Foundry und Microsoft 365 Copilot ein besseres Preis-Leistungs-Verhältnis bieten.
Das Microsoft-Superintelligence-Team wird Maia 200 zur Erzeugung synthetischer Daten und für bestärkendes Lernen einsetzen, um intern entwickelte Modelle der nächsten Generation zu verbessern. Bei Pipelines für synthetische Daten trägt das einzigartige Design von Maia 200 dazu bei, die Erzeugung und Filterung hochwertiger, domänenspezifischer Daten zu beschleunigen.
Wettbewerb bei hauseigenen KI-Chips
Microsoft ist nicht der einzige Technologieriese, der seine Abhängigkeit von Nvidia verringern möchte. Google nutzt bereits seit Jahren eigene TPUs (Tensor Processing Units), die nicht als eigenständige Chips verkauft werden, sondern deren Rechenleistung über die Cloud verfügbar ist. Amazon verfügt mit Trainium über einen eigenen KI-Beschleunigerchip, dessen neueste Version Trainium3 im Dezember vorgestellt wurde.
Daniel Howley, Technikredakteur bei Yahoo Finance, zufolge ist es unwahrscheinlich, dass Cloud-Unternehmen wie Google, Amazon und Microsoft mit ihren eigenen KI-Chips eine ernsthafte Bedrohung für Nvidias Führungsposition darstellen. Experten erklären, dass die KI-Chips der Cloud-Unternehmen zwar gut für deren eigene Dienste funktionieren könnten, sich dies aber wahrscheinlich nicht so einfach auf kleinere Drittkunden übertragen lasse. Nvidia-Chips werden zudem sehr geschätzt, weil sie als vielseitig einsetzbare Lösungen konzipiert sind und Unternehmen sie dadurch für zahlreiche Anwendungen und Dienste verwenden können.
Schnelle Entwicklung und Bereitstellung
Microsoft betont, dass ein zentraler Grundsatz seines Programms zur Siliziumentwicklung darin besteht, möglichst große Teile des End-to-End-Systems bereits vor der Verfügbarkeit des endgültigen Siliziums zu validieren. Eine hochentwickelte Prä-Silizium-Umgebung begleitete die Architektur von Maia 200 bereits in ihren frühesten Phasen und modellierte die Rechen- und Kommunikationsmuster großer Sprachmodelle mit hoher Genauigkeit.
Dank dieser Investitionen liefen KI-Modelle bereits wenige Tage nach dem Eintreffen der ersten verpackten Komponenten auf Maia-200-Silizium. Die Zeitspanne vom ersten Silizium bis zur ersten Bereitstellung eines Racks im Rechenzentrum wurde gegenüber vergleichbaren KI-Infrastrukturprogrammen auf weniger als die Hälfte verkürzt.
Microsoft erklärt unmissverständlich, dass die Ära der KI im großen Maßstab gerade erst beginnt und die Infrastruktur bestimmen wird, was möglich ist. Das Maia-KI-Beschleunigerprogramm ist auf mehrere Generationen ausgelegt. Während das Unternehmen Maia 200 in seiner globalen Infrastruktur bereitstellt, entwickelt es bereits künftige Generationen und erwartet, dass jede Generation kontinuierlich neue Maßstäbe für das Machbare setzt und eine immer bessere Leistung und Effizienz für die wichtigsten KI-Workloads bietet.
SDK für Entwickler
Microsoft lädt Entwickler, KI-Start-ups und Wissenschaftler dazu ein, mit dem neuen Maia-200-Software Development Kit (SDK) frühzeitig die Optimierung von Modellen und Workloads zu untersuchen. Das SDK umfasst den Triton Compiler, Unterstützung für PyTorch, Low-Level-Programmierung in NPL sowie einen Maia-Simulator und einen Kostenrechner, um die Effizienz bereits in einer frühen Phase des Code-Lebenszyklus zu optimieren.
Lucas Ropek von TechCrunch zufolge bezeichnet Inferenz den Rechenprozess zur Ausführung eines Modells, im Gegensatz zu der Rechenleistung, die für dessen Training erforderlich ist. Mit der zunehmenden Reife von KI-Unternehmen sind die Inferenzkosten zu einem immer wichtigeren Bestandteil ihrer gesamten Betriebskosten geworden, was zu einem erneuten Interesse an Möglichkeiten zur Optimierung dieses Prozesses führt.
Maia 200 lässt sich nahtlos in Azure integrieren, und Microsoft bietet nun eine Vorschau auf das Maia SDK mit einem vollständigen Werkzeugsatz zur Erstellung und Optimierung von Modellen für Maia 200 an. Dies ermöglicht Entwicklern bei Bedarf eine fein abgestufte Kontrolle und zugleich die einfache Portierung von Modellen zwischen heterogenen Hardwarebeschleunigern.
