Microsoft plant, die Azure-Maia-Familie ab 2027 auf Installationen im Umfang mehrerer Gigawatt auszubauen und als zentrale Inferenzinfrastruktur für seine Produkte und Dienste einzusetzen. Im selben Jahr soll der Produktionseinsatz von Maia 300 beginnen. Das Unternehmen hat sie für Schlussfolgerungen über lange Kontexte, latenzkritische Gespräche und länger laufende, mehrstufige Aufgaben von KI-Agenten konzipiert.
Maia 200 betreibt bereits Microsoft Copilot
Der Ausbauplan knüpft an den Betrieb der vorherigen Generation an. Maia 200 verarbeitet bereits produktive Workloads, darunter Microsoft Copilot, und unterstützt das MAI-Team bei der Entwicklung der nächsten Modellgeneration. GitHub Copilot und Microsoft Foundry sollen bis Ende 2026 auf dieser Infrastruktur folgen.
Microsoft zufolge laufen bei diesen Aufgaben Modelle von OpenAI, eigene MAI-Modelle und führende Open-Source-Modellfamilien auf Maia 200. Die Systeme werden in den USA, Europa und Australien ausgerollt. Für integrierte KI-Funktionen in Microsoft Teams, Copilot und Cowork nennt das Unternehmen eine bis zu 1,7-fache Token-Ausbeute pro Watt gegenüber führender GPU-Infrastruktur.
Mehrstufige Agenten und latenzkritische Gespräche
Microsoft richtet Maia 300 auf drei Arten von Workloads aus: Schlussfolgerungen über lange Kontexte, latenzkritische Konversationsdienste und länger laufende Agentenaufgaben mit mehreren Schritten. Für GitHub plant das Unternehmen, beide Maia-Generationen zur effizienteren Ausführung mehrstufiger Programmieragenten einzusetzen.
Ein weiterer geplanter Einsatz ist die Bereitstellung unterschiedlicher Modellarchitekturen und Bereitstellungsumgebungen in Microsoft Foundry. Dem MAI-Team sollen beide Generationen für Inferenz und Datengenerierung dienen. Bei Dragon Copilot sieht Microsoft die Unterstützung latenzkritischer Interaktionen vor, die Arbeitsabläufe skalieren und den Verwaltungsaufwand für medizinisches Personal verringern sollen.
Vergleich mit GPU-Systemen und der Vorgängergeneration
Microsoft erwartet, dass Maia 300 gegenüber führenden GPU-basierten Systemen 40 % mehr Token pro Megawatt liefert. Diese Erwartung bezieht sich auf die höhere Effizienz des Gesamtsystems, nicht allein auf die Leistung eines einzelnen Beschleunigers.
Gegenüber Maia 200 nennt Microsoft einen bis zu siebenfachen Token-Durchsatz auf Rack-Ebene. Die Angabe gilt für eine vollständige Maia-300-Konfiguration mit 96 Beschleunigern.
Weniger Datenbewegung und größere Kontexte
Den Weg zu höherer Effizienz beschreibt Microsoft als gemeinsame Optimierung von Datenfluss und Rechenkernels. Maia 300 verbindet einen softwaredefinierten Datenfluss mit KI-gestützter Kernel-Optimierung. Diese Mechanismen sollen Datenbewegungen reduzieren, Daten näher am Verarbeitungsort halten und Rechen-, Speicher- sowie Netzwerkressourcen besser auslasten.
Laut dem Unternehmen unterstützt das System auch fortgeschrittene Zahlenformate mit niedriger Präzision, darunter enhanced MXFP4. Sie sollen den Bedarf an Speicher und Speicherbandbreite sowohl bei Berechnungen als auch bei der Speicherung des KV-Cache senken. Microsoft verbindet damit größere Kontextfenster, höheren Durchsatz und einen effizienteren Modellbetrieb bei gleichem Leistungsbudget.
HBM4 und Arbeitsspeicher direkt auf dem Chip
Das Speichersystem von Maia 300 umfasst acht HBM4-Stacks mit einer Spitzenbandbreite von 18,0 TB/s bei einer TDP von 950 Watt. Microsoft verbindet diese Konfiguration mit der effizienten Verarbeitung großer Modelle und Aufgaben mit langen Kontexten. Spezialisierte Rechenkernels nutzen zudem SRAM direkt auf dem Chip als softwareverwalteten Zwischenspeicher, um HBM zu entlasten.
Von 96 Beschleunigern bis zum gesamten Rechenzentrum
Ein Maia-300-Rack bündelt Microsoft zufolge 96 Beschleuniger innerhalb eines Leistungsbudgets von 167 Kilowatt. Es bietet insgesamt 27,6 TB HBM-Speicher und eine aggregierte HBM-Bandbreite von 1,7 PB/s. Nach Angaben des Unternehmens soll diese Konfiguration mehr gleichzeitige KI-Interaktionen und größere Workloads pro Rack bewältigen.
Microsoft hat die Verbindungen zwischen den Beschleunigern für Tensorparallelismus optimiert. Ein eigener KI-Kommunikationstransport nutzt Ethernet-basierte Infrastruktur und soll die Kommunikation zwischen Beschleunigern und Racks ermöglichen. Diese Netzwerkarchitektur soll vom einzelnen Rack bis zu Installationen im Maßstab eines gesamten Rechenzentrums skalieren.
