Konkurrenz für Nvidia? Positron Atlas, eine GPU, die Energie spart und hohe Geschwindigkeit bietet

Stellen Sie sich eine Welt der künstlichen Intelligenz vor, in der Leistung nicht mit einem enormen Energieverbrauch einhergeht. Das Unternehmen Positron AI präsentiert den Atlas-Beschleuniger (GPU), der nach eigenen Angaben den Nvidia H200 bei der Inferenz übertrifft und dabei nur 33 % der Energie verbraucht. Dieser Artikel beleuchtet die Details aus den verfügbaren Quellen, einschließlich Leistungsvergleichen und technischen Spezifikationen, um Ihnen einen klaren und anschaulichen Überblick über diese Neuheit zu geben.

Atlas vs. Nvidia H200

Der Atlas-Beschleuniger von Positron AI erreicht bei der Arbeit mit dem Modell Llama 3.1 8B eine Leistung von etwa 280 Token pro Sekunde und Nutzer – und das bei einem Verbrauch von 2000 W. Das System mit 8 Nvidia DGX H200 erreicht hingegen rund 180 bis 182 Token pro Sekunde und Nutzer, benötigt dafür jedoch bis zu 5900 W. Das bedeutet, dass Atlas bei ähnlichen oder besseren Ergebnissen bei Transformer-Inferenzaufgaben ungefähr ein Drittel der Energie des Nvidia H200 verbraucht. Laut internen Benchmarks von Positron AI und ersten Tests durch Dritte bietet Atlas ein 3- bis 4,5-mal besseres Verhältnis von Leistung zu Watt und ein 3- bis 3,1-mal besseres Preis-Leistungs-Verhältnis. Diese Zahlen zeigen das Potenzial, die Kosten von Rechenzentren bei vergleichbaren KI-Aufgaben um bis zu die Hälfte zu senken.

Technische Details und Architektur

Atlas wurde speziell für die Inferenz entwickelt, im Gegensatz zum Nvidia H200, der eine vielseitigere GPU für KI-Anwendungen ist. Seine maßgeschneiderte, FPGA-basierte Architektur erreicht eine Auslastung der Speicherbandbreite von mehr als 93 %, was deutlich über den bei typischen GPUs üblichen 10 bis 30 % liegt. Dieser Ansatz ermöglicht einen höheren Durchsatz und eine geringere Latenz bei großen Sprachmodellen. Atlas unterstützt alle Transformer-Modelle von Hugging Face und bietet eine mit OpenAI kompatible API, was die Integration in bestehende Systeme erleichtert. Er ist jedoch nicht für das Training von KI oder andere universelle Berechnungen vorgesehen, bei denen Nvidia weiterhin dominiert.

Verfügbarkeit und praktischer Einsatz

Atlas wird bereits an Unternehmens- und Cloud-Kunden ausgeliefert, darunter Cloudflare, das ihn bereits in einer frühen Phase eingesetzt hat. Diese Spezialisierung auf Inferenz bringt Vorteile bei der Energieeinsparung mit sich – bei vergleichbarer Leistung liegt der Verbrauch um 66 bis 70 % niedriger. Es ist wichtig zu erwähnen, dass diese Angaben überwiegend auf internen Tests von Positron AI beruhen und noch nicht umfassend von unabhängigen Testern überprüft wurden. Dennoch deutet dies auf einen vielversprechenden Fortschritt im Bereich effizienter KI-Berechnungen hin.

Diese Entwicklung von Positron AI könnte dank der Kombination aus Geschwindigkeit, Einsparungen und einfacher Integration verändern, wie Unternehmen mit großen KI-Modellen arbeiten. Wenn Sie nach Möglichkeiten suchen, Ihre KI-Abläufe zu optimieren, ist Atlas einen Blick wert.