Google stellt die Vollversion von Gemma 3n vor: eine neue Ära mobiler KI-Modelle

Google DeepMind hat im Juni 2025 offiziell die Vollversion von Gemma 3n veröffentlicht, einem revolutionären Modell künstlicher Intelligenz, das speziell für mobile Geräte und Edge Computing entwickelt wurde. Nach der erfolgreichen Einführung der Preview-Version im Mai erhalten Entwickler nun Zugriff auf die neuesten multimodalen Fähigkeiten, die KI direkt auf Mobiltelefone, Tablets und Laptops mit handelsüblicher Rechenleistung bringen.

Das erste Gemma-Modell wurde Anfang 2024 veröffentlicht und hat sich seitdem eine starke Position in der Entwickler-Community aufgebaut. Gemmaverse verzeichnete mehr als 160 Millionen Downloads und umfasst über ein Dutzend spezialisierter Modelle für verschiedene Anwendungen – von Sicherheitslösungen bis hin zum medizinischen Einsatz. Zu den inspirierenden Beispielen zählen die Arbeit des Unternehmens Roboflow, das Gemma für Computer Vision im Unternehmensbereich nutzt, sowie das Institute of Science Tokyo, das leistungsstarke japanische Varianten der Gemma-Modelle entwickelt hat.

Wichtige technische Innovationen und Fähigkeiten

Gemma 3n unterstützt nativ Bild-, Audio-, Video- und Texteingaben mit Textausgabe, was gegenüber den Vorgängerversionen einen bedeutenden Fortschritt darstellt. Das Modell ist in zwei Größen verfügbar, die auf effektiven Parametern basieren: E2B und E4B. Während die tatsächliche Anzahl ihrer Parameter 5 beziehungsweise 8 Milliarden beträgt, ermöglichen architektonische Innovationen den Betrieb mit einem Speicherbedarf, der mit traditionellen 2B- und 4B-Modellen vergleichbar ist. E2B benötigt lediglich 2 GB Speicher, während E4B mit 3 GB Speicher auskommt.

Das Herzstück von Gemma 3n ist die bahnbrechende MatFormer-Architektur (Matryoshka Transformer), die eine elastische Inferenz ermöglicht. Ähnlich wie eine Matrjoschka (Schachtelpuppe) enthält das größere Modell kleinere, vollständig funktionsfähige Versionen seiner selbst. Während des Trainings des Modells mit 4 Milliarden effektiven Parametern (E4B) wird gleichzeitig das Submodell mit 2 Milliarden effektiven Parametern (E2B) optimiert, wodurch Entwickler bei der Bereitstellung je nach verfügbaren Geräteressourcen flexibel bleiben.

Das Modell nutzt die Innovation Per-Layer Embeddings (PLE), die die Modellqualität erheblich verbessert, ohne die Anforderungen an den Hochgeschwindigkeitsspeicher des Beschleunigers zu erhöhen. Ein erheblicher Teil der Parameter kann effizient auf der CPU geladen und verarbeitet werden, während lediglich die grundlegenden Transformer-Gewichte im stärker begrenzten Speicher des Beschleunigers abgelegt werden müssen.

Multimodale Fähigkeiten für reale Anwendungen

Für die Audioverarbeitung nutzt Gemma 3n einen fortschrittlichen Audio-Encoder, der auf dem Universal Speech Model (USM) basiert. Der Encoder erzeugt für jeweils 160 Millisekunden Audio ein Token (etwa 6 Token pro Sekunde), wodurch automatische Spracherkennung (ASR) und automatische Sprachübersetzung (AST) direkt auf dem Gerät möglich werden. Besonders starke Ergebnisse beobachtete Google bei Übersetzungen zwischen Englisch und Spanisch, Französisch, Italienisch sowie Portugiesisch.

Für die visuelle Verarbeitung enthält Gemma 3n den neuen MobileNet-V5-300M-Encoder, der eine erstklassige Leistung für multimodale Aufgaben auf Edge-Geräten bietet. Er unterstützt Auflösungen von 256x256, 512x512 und 768x768 Pixeln und verarbeitet auf einem Google Pixel bis zu 60 Bilder pro Sekunde. Gegenüber den Vorgängerversionen bietet er mit Quantisierung eine 13-fache Beschleunigung, benötigt 46 % weniger Parameter und weist einen viermal kleineren Speicherbedarf auf.

Das Modell unterstützt mehr als 140 Sprachen für die Textverarbeitung und multimodales Verständnis in 35 Sprachen. Gemma 3n E4B erreicht einen LMArena-Score von über 1300 und ist damit das erste Modell mit weniger als 10 Milliarden Parametern, das diesen Benchmark erreicht hat.

Verfügbarkeit und Unterstützung für Entwickler

Google hat eine breite Unterstützung für beliebte Tools und Plattformen sichergestellt, darunter AMD, Axolotl, Docker, Hugging Face, llama.cpp, LMStudio, MLX, NVIDIA, Ollama, RedHat, SGLang, Unsloth und vLLM. Omar Sanseviero, Staff Developer Relations Engineer, und Ian Ballantyne, Senior Developer Relations Engineer, die hinter der Vorstellung des Modells stehen, betonen die Ausrichtung auf die Bedürfnisse der Entwickler-Community.

Gemma 3n ist über Google AI Studio für direkte Experimente sowie über Hugging Face und Kaggle zum Herunterladen der Modellgewichte verfügbar und bietet eine umfassende Dokumentation für eine schnelle Integration. Das Modell unterstützt die Bereitstellung über die Google GenAI API, Vertex AI, SGLang, vLLM und den NVIDIA API Catalog.

Um Innovationen zu fördern, hat Google die Gemma 3n Impact Challenge mit Preisen im Gesamtwert von 150.000 US-Dollar ins Leben gerufen. Ziel ist es, die einzigartigen On-Device-, Offline- und multimodalen Fähigkeiten von Gemma 3n zu nutzen, um ein Produkt für eine bessere Welt zu entwickeln.

Gemma 3n ist ein bedeutender Fortschritt im Bereich mobiler KI-Modelle und kombiniert die Leistungsfähigkeit cloudbasierter Modelle mit der für Edge Computing erforderlichen Effizienz. Mit der Unterstützung multimodaler Eingaben und fortschrittlichen architektonischen Innovationen eröffnet es Entwicklern neue Möglichkeiten, KI-Anwendungen der nächsten Generation direkt auf handelsüblichen Mobilgeräten zu entwickeln.