Google arbeitet angeblich an der Entwicklung eines eigenen Chips, in den ein Teil der Architektur seines KI-Modells Gemini eingebrannt werden soll. Intern trägt er den Namen Frozen v2 und soll nach den bisher durchgesickerten Informationen um ein Vielfaches effizienter und energiesparender arbeiten. Und was wissen wir noch?
Frozen v2 als Antwort auf Probleme
Als Erstes berichtete die Website The Information über den neuen Chip Frozen v2 und berief sich dabei auf Personen, die direkt an diesem Projekt beteiligt sind. Laut den Websites Tom's Hardware und TechCrunch, die diese Informationen aufgegriffen haben, soll der neue Chip pro verbrauchter Energieeinheit sechs- bis zehnmal so viele Token generieren wie die aktuellen Chips von Google (sogenannte TPUs). Seine Markteinführung ist für das Jahr 2028 geplant.
Und warum gerade jetzt? Googles Eile ist kein Zufall. Tom's Hardware zufolge handelt es sich möglicherweise auch um eine Reaktion auf den aktuellen Mangel an Rechenleistung für KI. Dieser soll so gravierend gewesen sein, dass Google Cloud zeitweise sogar Aufträge externer Kunden ablehnen musste.
Gemini in Silizium eingefroren
Herkömmliche TPU- oder GPU-Chips führen jedes Modell aus, das auf sie geladen wird. Während der Ausführung müssen sie jedoch eine ganze Reihe von Entscheidungen treffen und mit enormen Datenmengen arbeiten. Das bedeutet einen hohen Energiebedarf.
Frozen v2 umgeht dies jedoch. Ein Teil der Gemini-Architektur, der diese Entscheidungen steuert, wird direkt in seinen Transistoren „eingefroren“. Dadurch führt der Chip weniger Schritte aus und überträgt bei der Verarbeitung jeder Anfrage eine geringere Datenmenge. Genau das kann die Reaktionszeit erheblich verkürzen und den Energieverbrauch senken. Möglicherweise sogar so stark, dass sich dadurch der Weg zu völlig neuen Anwendungen öffnet.
Von konkreten Daten zur allgemeinen Architektur
Die ursprüngliche Version von Frozen, deren Entwicklung laut Tom's Hardware vom leitenden Wissenschaftler des Unternehmens Google DeepMind Jeff Dean geleitet wurde, sollte noch weiter gehen und die Daten eines konkreten Gemini-Modells direkt in den Chip einbrennen. Davon nahm Google letztlich jedoch Abstand und entschied sich, nur dessen allgemeine Architektur in den Chip zu integrieren. Der Grund dafür ist, dass an eine konkrete Modellversion gebundenes Silizium zwar noch schneller und effizienter wäre, jedoch eine sehr kurze Lebensdauer hätte.
Frozen v2 „friert“ daher nur die Architektur ein, also eine Art Gerüst des Modells. So bleibt der Chip über mehrere Gemini-Versionen hinweg einsetzbar. Allerdings gilt auch das nur so lange, bis Google die grundlegende Architektur ändert.
Google schweigt, die Investoren sind zufrieden
Google hat sein Projekt bislang weder offiziell bestätigt noch dementiert. Laut TechCrunch erklärte das Unternehmen lediglich, dass es kontinuierlich neue Innovationen erforsche. Der Markt reagiert darauf jedoch auf seine eigene Weise. Nach der Veröffentlichung des Berichts stiegen die Alphabet-Aktien am Montag um rund 3 %. Google plant, in diesem Jahr für die Entwicklung von KI 180 bis 190 Milliarden US-Dollar auszugeben, und muss zeigen, dass sich die Investitionen lohnen.
Google ist nicht allein
Die Idee, ein Modell fest in einen Chip „einzubrennen“, ist nicht neu. Tom's Hardware verweist auf das kanadische Start-up Taalas, das bereits im Februar den HC1-Chip mit dem dauerhaft integrierten Modell Llama 3.1 8B vorgestellt hat.
Auch andere KI-Unternehmen gehen ihren eigenen Weg. OpenAI stellte laut TechCrunch im Juni seinen ersten maßgeschneiderten Jalapeño-Chip vor, und Anthropic verhandelt mit Samsung über die Fertigung von Chips. Sie alle verbindet dieselbe Motivation: energieeffizienter zu arbeiten und unabhängig von den Chips des Unternehmens Nvidia zu werden, das derzeit den gesamten Markt dominiert.
Quelle: Tom's Hardware, TechCrunch
