Gemini Nano auf Android: Was lokale KI leistet und wo ihre Grenzen liegen

Gemini Nano ist Googles Modell für bestimmte generative KI-Aufgaben auf Geräten. Unter Android arbeitet es über AICore, einen Systemdienst, der Apps den Zugriff auf das Modell ermöglicht und dessen Bereitstellung und Aktualisierungen verwaltet. Kompatible Apps können so das auf dem Gerät integrierte Modell verwenden, statt all diese Komponenten selbst einbinden zu müssen.

Wird eine unterstützte Aufgabe lokal verarbeitet, muss die Anfrage für diese Inferenz nicht an einen Server gesendet werden. Das kann die Abhängigkeit von einer Verbindung verringern, einige Funktionen offline ermöglichen und die für diesen konkreten Vorgang benötigten Inhalte auf dem Gerät belassen. Das bedeutet nicht, dass alle Gemini-Funktionen oder sämtliche Android-Apps offline arbeiten: Gemeint sind nur Aufgaben, die lokal ausgeführt werden können und von der App integriert wurden.

Die auf AICore aufbauenden GenAI-APIs von ML Kit bieten Entwicklern Funktionen wie Texterstellung, Zusammenfassung, Korrektur und Umformulierung von Nachrichten, Bildbeschreibung und Audiotranskription. Das sind konkrete Funktionen, die eine App integrieren kann – keine Garantie, dass jede komplexe Anfrage auf dem Smartphone bearbeitet wird oder alle Funktionen in jeder App vorhanden sind. Welche Funktionen zur Verfügung stehen, hängt von der Integration ab, die die Entwickler auswählen.

Google weist darauf hin, dass die lokale Inferenz durch die Länge der Anfragen, die Ressourcen des Geräts und die Fähigkeiten des Modells begrenzt ist. Eine App kann Gemini Nano deshalb auf klar umrissene Vorgänge beschränken und ein anderes Modell verwenden, wenn eine Aufgabe mehr Kontext oder Leistung erfordert. Das endgültige Verhalten richtet sich nach dem Entwurf der jeweiligen App: Das lokale Modell kann einen Teil einer Funktion übernehmen, während ein anderer Teil eine andere Lösung benötigt.

Gemini Nano läuft nicht automatisch auf jedem Android-Smartphone. Modell und unterstützte Funktionen richten sich nach Gerät und Softwareunterstützung; allein Android auf dem Telefon garantiert keine lokale Funktion. Die Kompatibilität muss für das konkrete Smartphone und die jeweilige Funktion geprüft werden und lässt sich nicht allein aus dem Namen des Betriebssystems ableiten.

Im Mai 2024 nannte Google das Pixel 8 Pro und die Samsung-Galaxy-S24-Serie als damals mit Gemini Nano und AICore kompatible Geräte. Diese Ankündigung beschreibt den zu diesem Zeitpunkt mitgeteilten Stand, nicht eine vollständige und aktuelle Liste für 2026. Wer wissen möchte, ob eine Funktion auf einem bestimmten Smartphone läuft, sollte die konkrete Kompatibilität prüfen und berücksichtigen, dass die Unterstützung je nach Modell und Software variieren kann.

Wird eine Anfrage auf dem Smartphone verarbeitet, kann dadurch vermieden werden, dass ihr Inhalt für diese Inferenz an einen Server übertragen wird. Google zufolge isoliert AICore Anfragen und bewahrt deren Eingaben und Ausgaben nach der Verarbeitung nicht auf. Diese Aussage bezieht sich auf diesen Verarbeitungsweg, nicht auf sämtliche Daten einer App oder andere Funktionen, die mit externen Diensten kommunizieren können.

Eine App kann lokale Funktionen mit entfernten Diensten kombinieren, für die eine andere Datenverarbeitung gilt. Daher sollte man unterscheiden, welche Aufgabe auf dem Gerät ausgeführt wird und welche Funktionen von der Cloud abhängen; innerhalb derselben App kann das je nach Funktion unterschiedlich sein. „Lokale KI“ bezeichnet den Ort einer Inferenz, nicht unbedingt den gesamten Weg der Informationen.

Google sieht hybride Inferenz für Fälle vor, in denen Gemini Nano nicht verfügbar ist oder nicht ausreicht. Mit der Firebase AI Logic Hybrid API können Entwickler Anfragen an Cloud-Modelle wie Gemini Flash oder Gemini Pro weiterleiten lassen. Diese Ausweichmöglichkeit kann die Fähigkeiten erweitern, wenn eine Aufgabe die Grenzen des lokalen Modells überschreitet; sie erfordert jedoch eine Verbindung und bedeutet, dass ein entfernter Dienst die Anfrage verarbeitet.

Wie sich das für Nutzer auswirkt, hängt davon ab, wie die jeweilige App den Wechsel handhabt und welchen Weg sie für die einzelnen Aufgaben wählt. Eine lokale Aufgabe ist auf einem nicht kompatiblen Gerät möglicherweise nicht verfügbar; eine an die Cloud gerichtete Anfrage lässt sich ohne Verbindung nicht abschließen. Bei Apps, die beide Wege kombinieren, können Verarbeitungsort und Datenbehandlung je nach verwendeter Funktion variieren.

Wer eine KI-Funktion unter Android beurteilen möchte, sollte drei Punkte prüfen: Unterstützt das Gerät die Funktion? Arbeitet sie offline? Kann die App manche Anfragen an entfernte Dienste senden? Der Name Gemini Nano beantwortet diese Fragen nicht von selbst: Er bezeichnet das Modell, nicht die Kompatibilität jedes Smartphones oder die vollständige Datenrichtlinie einer App. Diese Unterscheidung hilft zu erkennen, was lokal ausgeführt wird und wofür eine Verbindung nötig sein könnte.

Für Entwickler verwaltet AICore auf unterstützten Geräten den Modellzugriff und Aktualisierungen, während ML Kit APIs für bestimmte Aufgaben bereitstellt. Die Entscheidung für lokale, Cloud- oder hybride Verarbeitung sollte zur Komplexität der Aufgabe, zur verfügbaren Verbindung und zur Sensibilität der Daten passen. Jede Möglichkeit bringt einen anderen Zielkonflikt mit sich: zwischen Leistungsumfang, Offlinebetrieb und dem Ort, an dem die Anfrage verarbeitet wird.