EmbeddingGemma 2: Googles Winzling bringt RAG aufs Gerät

Berlin, 7. Oktober 2026 – Künstliche Intelligenz muss nicht immer im Rechenzentrum laufen. Mit EmbeddingGemma 2 hat Google ein offenes Modell vorgestellt, das Text, Bilder, Video, Audio und Code in numerische Vektoren übersetzt – jene Zahlenreihen, mit denen Such-, Empfehlungs- und Wissenssysteme Ähnlichkeiten zwischen Inhalten finden.^[The Decoder – Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size – url: https://the-decoder.com/google-claims-embeddinggemma-2-outperforms-rival-embedding-models-twice-its-size/]

Ein Winzling, der mit doppelt so großen Modellen mithält

Mit 740 Millionen Parametern sei es das kompakteste Modell seiner Art, so Google – und übertreffe in multimodalen Embedding-Benchmarks Konkurrenten mit bis zu doppelter Größe. Im „Massive Text Embedding Benchmark (Code)" kommt EmbeddingGemma 2 auf 78,68 Punkte, ein Plus von fast zehn Punkten gegenüber dem Vorgänger (68,76). Damit spiele es in derselben Liga wie deutlich größere Modelle.^[The Decoder – Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size – url: https://the-decoder.com/google-claims-embeddinggemma-2-outperforms-rival-embedding-models-twice-its-size/]

Bemerkenswert sind die Anforderungen: Das Modell läuft lokal, ohne API-Schlüssel. Über WebGPU im Browser dauert eine Anfrage etwa 20 bis 70 Millisekunden, der Speicherbedarf liegt bei rund 191 Megabyte. Der lokale Vektorspeicher schrumpft laut Google um bis zu das Sechsfache. Für reine Textaufgaben reicht eine Variante mit 270 Millionen Parametern.^[The Decoder – Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size – url: https://the-decoder.com/google-claims-embeddinggemma-2-outperforms-rival-embedding-models-twice-its-size/]

Offline-RAG ohne Datenabfluss

Zusammen mit kleinen offenen Modellen wie Gemma 4 lassen sich RAG-Anwendungen (Retrieval-Augmented Generation) vollständig offline betreiben, ohne Daten an externe Server zu schicken. Die Gewichte stehen auf Hugging Face und Kaggle bereit, dazu ein Entwicklerleitfaden und eine Dokumentation.^[The Decoder – Google claims EmbeddingGemma 2 outperforms rival embedding models twice its size – url: https://the-decoder.com/google-claims-embeddinggemma-2-outperforms-rival-embedding-models-twice-its-size/]

Der KI-Entwickler Simon Willison hebt vor allem die Lizenz hervor: Er begrüßt, dass EmbeddingGemma 2 unter der Apache-2.0-Lizenz steht.^[Simon Willison – Comment: EmbeddingGemma 2 – url: https://simonwillison.net/2026/Oct/6/hn-49983751/] Bei Embedding-Modellen ergebe ein geschlossenes, nur gehostetes Angebot wenig Sinn: Meist würden Tausende bis sogar Millionen Vektoren berechnet und für den späteren Vergleich gespeichert. Stelle ein Anbieter sein Modell irgendwann ein, müssten Kunden diese Vektoren teuer neu berechnen. Er wolle das Modell zwar nicht selbst hosten, aber die Möglichkeit behalten, im Zweifel die offenen Gewichte selbst zu betreiben oder einen anderen Anbieter zu finden.^[Simon Willison – Comment: EmbeddingGemma 2 – url: https://simonwillison.net/2026/Oct/6/hn-49983751/]

Warum das wichtig ist

Embeddings sind das Rückgrat vieler KI-Anwendungen: Sie entscheiden darüber, wie gut eine Suche relevante Dokumente findet oder wie treffsicher ein Assistent auf firmeneigene Daten zugreift. Läuft die Vektorisierung lokal und quelloffen, sinken Kosten und Abhängigkeit – und sensible Daten müssen das Gerät nicht verlassen. Wie schnell sich solche Offline-Lösungen durchsetzen, dürfte auch davon abhängen, wie gut die kleinen Modelle im rauen Alltag mithalten.