Qualcomm hat gerade angekündigt, im kommenden Jahr den KI-Chip AI200 und 2027 dann den AI250 auf den Markt zu bringen. Diese Beschleuniger wurden speziell für künstliche Intelligenz in Rechenzentren entwickelt, wo sie sich auf Inferenz konzentrieren, also auf den Betrieb bereits fertiggestellter KI-Modelle. Das Unternehmen, das sich bislang hauptsächlich auf Chips für Mobilgeräte und drahtlose Netzwerke konzentriert hat, drängt nun in einen Bereich, der von Nvidia mit einem Marktanteil von mehr als 90 % beherrscht wird. Die Qualcomm-Aktie sprang nach der Ankündigung um 11 % nach oben.
Durga Malladi, General Manager für Rechenzentren und Edge Computing bei Qualcomm, erklärte, dass die Chips auf der Hexagon-NPU-Technologie basieren, die das Unternehmen bereits erfolgreich in Smartphones eingesetzt hat. „Zunächst haben wir uns in anderen Bereichen bewährt, und dann war es einfach, dies auf Rechenzentren zu übertragen“, sagte Malladi auf einer Pressekonferenz. Qualcomm bietet diese Chips in vollständig ausgestatteten Rack-Systemen mit Flüssigkeitskühlung an, in denen bis zu 72 Einheiten als ein einziger Computer zusammenarbeiten können. Jedes dieser Racks verbraucht 160 Kilowatt Energie, was mit einigen Systemen von Nvidia vergleichbar ist.
Vorteile bei Speicher und Energieverbrauch
Einer der Hauptvorteile der Chips AI200 und AI250 ist ihre Unterstützung für 768 Gigabyte LPDDR-Speicher pro Karte, womit sie die Angebote von Nvidia und AMD übertreffen. Diese hohe Kapazität ermöglicht es, riesige KI-Modelle effizienter und mit geringerem Energieverbrauch sowie niedrigeren Gesamtbetriebskosten zu verarbeiten. Qualcomm gibt an, dass seine Lösung im Vergleich zu bestehenden Alternativen eine bis zu zehnmal höhere Bandbreite bietet, wodurch die Inferenz großer Sprachmodelle beschleunigt wird.
Das Unternehmen konzentriert sich eher auf Inferenz als auf das Training von Modellen, bei dem Nvidia dominiert. OpenAI etwa, das Nvidia-GPUs zum Trainieren seiner GPT-Modelle in ChatGPT verwendet, kündigte kürzlich Pläne zum Kauf von AMD-Chips und für eine mögliche Beteiligung an diesem Unternehmen an. Qualcomm sieht seine Chance gerade darin, dass die Inferenz einen großen Teil des Cloud-Betriebs ausmacht, und bietet seine Chips als günstigere und energieeffizientere Alternative an. Malladi fügte hinzu, dass Qualcomm die Chips auch einzeln verkauft, sodass Kunden wie Hyperscaler – große Cloud-Dienste – ihre eigenen Racks entwerfen können. Er deutete sogar an, dass auch Nvidia oder AMD bestimmte Komponenten von Qualcomm kaufen könnten, beispielsweise dessen CPUs.
Marktprognosen
Qualcomm hat bereits einen Kunden in Form des saudi-arabischen Unternehmens Humain gewonnen, mit dem es im Mai eine Partnerschaft einging. Humain hat sich verpflichtet, Qualcomm-Systeme mit einer Kapazität von bis zu 200 Megawatt in Rechenzentren einzusetzen. Das bedeutet einen massiven Ausbau in einer Region, in der die Nachfrage nach KI-Infrastruktur wächst.
Nach einer Schätzung von McKinsey werden bis 2030 insgesamt 6,7 Billionen US-Dollar (rund 157 Billionen CZK) in Rechenzentren investiert, wobei der Großteil in Systeme mit KI-Chips fließen wird. Nvidia hat dank seiner GPU-Verkäufe eine Marktkapitalisierung von mehr als 4,5 Billionen US-Dollar (rund 106 Billionen CZK), doch der Wettbewerb nimmt zu. Neben AMD entwickeln auch Google, Amazon und Microsoft eigene KI-Beschleuniger für ihre Cloud-Dienste. Qualcomm versucht, sich einen Marktanteil zu sichern, indem es flexible Lösungen anbietet, bei denen Kunden die Komponenten je nach Bedarf „mischen und kombinieren“ können.
Die Zukunft in Rechenzentren
AI200 und AI250 wurden für den Einsatz auf Rack-Ebene entwickelt, was bedeutet, dass das gesamte Server-Rack als einheitliches System arbeitet. Qualcomm hat weder die Preise der Chips, Karten oder vollständigen Racks noch die genaue Anzahl der NPUs in einem Rack bekannt gegeben. Das Unternehmen betont jedoch die Vorteile beim Energieverbrauch und einen neuen Ansatz für die Speicherverwaltung, wodurch die Gesamtkosten für Cloud-Betreiber sinken sollen.
Dieser Schritt von Qualcomm bringt frischen Wind in einen Markt, auf den sich derzeit die größten Technologieunternehmen konzentrieren. Angesichts der wachsenden Nachfrage nach KI wird erwartet, dass solche Innovationen dazu beitragen werden, fortschrittliche Modelle für eine breitere Nutzung verfügbar zu machen.
Quellen: qualcomm.com und cnbc.com
