Gemini Nano sur Android : capacités et limites de l’IA locale

Gemini Nano est le modèle de Google destiné à certaines tâches d’intelligence artificielle générative sur les appareils. Sur Android, il fonctionne par l’intermédiaire d’AICore, un service système qui permet aux applications d’accéder au modèle et qui gère sa distribution et ses mises à jour. Les applications compatibles peuvent ainsi utiliser le modèle intégré à l’appareil, sans devoir intégrer elles-mêmes tous ces composants.

Lorsqu’une tâche compatible est traitée localement, la requête n’a pas besoin d’être envoyée à un serveur pour effectuer cette inférence. Cela peut réduire la dépendance à une connexion, permettre à certaines fonctions de marcher hors ligne et laisser sur l’appareil le contenu nécessaire à cette opération précise. Cela ne signifie pas que toutes les fonctions de Gemini ou toutes les applications Android fonctionnent sans connexion : seules sont concernées les tâches exécutables localement et intégrées par l’application.

Les API GenAI de ML Kit, fondées sur AICore, proposent aux développeurs des fonctions comme la génération de texte, le résumé, la correction et la reformulation de messages, la description d’images et la transcription audio. Il s’agit de capacités précises qu’une application peut intégrer, et non de la promesse que toute demande complexe sera traitée sur le téléphone ou que chaque application les proposera toutes. Les fonctions disponibles dépendent de l’intégration choisie par ses développeurs.

Google souligne que l’inférence locale est limitée par la longueur des requêtes, les ressources de l’appareil et les capacités du modèle. Une application peut donc réserver Gemini Nano à des opérations circonscrites et utiliser un autre modèle lorsqu’une tâche demande davantage de contexte ou de capacité. Le comportement final dépend de la conception de chaque application : le modèle local peut traiter une partie d’une fonction, tandis qu’une autre partie fait appel à une solution différente.

Gemini Nano ne fonctionne pas automatiquement sur tous les téléphones Android. Le modèle et les fonctions compatibles dépendent de l’appareil et de sa prise en charge logicielle ; le simple fait d’avoir Android ne suffit pas à garantir qu’une fonction locale sera disponible. Il faut vérifier la compatibilité du téléphone et de la fonction concernés, plutôt que de se fier au seul nom du système d’exploitation.

En mai 2024, Google a cité le Pixel 8 Pro et la série Samsung Galaxy S24 parmi les appareils alors compatibles avec Gemini Nano et AICore. Cette annonce décrit la situation communiquée à l’époque ; elle ne constitue pas une liste complète et à jour pour 2026. Pour savoir si une fonction marchera sur un téléphone donné, il faut vérifier sa compatibilité précise et tenir compte des variations possibles selon le modèle et le logiciel.

Traiter une requête directement sur le téléphone peut éviter que son contenu soit envoyé à un serveur pour cette inférence. Google indique qu’AICore isole les requêtes et ne conserve ni leurs entrées ni leurs réponses une fois le traitement terminé. Cette propriété concerne ce parcours de traitement, et non l’ensemble des données gérées par une application ni les autres fonctions susceptibles de communiquer avec des services externes.

Une application peut associer des fonctions locales à des services distants soumis à un traitement différent des données. Il est donc utile de distinguer les tâches exécutées sur l’appareil de celles qui dépendent du cloud ; la réponse peut varier d’une fonction à l’autre au sein d’une même application. « IA locale » indique où se déroule une inférence, pas nécessairement le parcours complet de l’information.

Google prévoit une inférence hybride lorsque Gemini Nano n’est pas disponible ou ne suffit pas. Avec l’API Firebase AI Logic Hybrid, les développeurs peuvent configurer l’envoi de requêtes à des modèles dans le cloud, comme Gemini Flash ou Gemini Pro. Cette solution de repli peut étendre les capacités pour une tâche dépassant les limites du modèle local, mais elle exige une connexion et implique le traitement de la requête par un service distant.

L’expérience dépend de la façon dont chaque application gère le changement et du parcours qu’elle applique à chaque tâche. Une tâche locale peut être indisponible sur un appareil incompatible ; une requête dirigée vers le cloud ne peut pas être traitée sans connexion. Dans les applications qui combinent les deux parcours, le lieu de traitement et la gestion des données peuvent varier selon la fonction utilisée.

Pour évaluer une fonction d’IA sur Android, il est utile de vérifier trois points : si l’appareil la prend en charge, si elle fonctionne hors ligne et si l’application peut envoyer certaines requêtes à des services distants. Le nom Gemini Nano ne répond pas à lui seul à ces questions : il désigne le modèle, pas la compatibilité de chaque téléphone ni l’ensemble de la politique de données d’une application. Cette distinction aide à comprendre ce qui est exécuté localement et ce qui peut nécessiter une connexion.

Pour les développeurs, AICore gère l’accès au modèle et ses mises à jour sur les appareils compatibles, tandis que ML Kit fournit des API pour des tâches précises. Le choix entre traitement local, cloud ou hybride doit tenir compte de la complexité de la tâche, de la connexion disponible et de la sensibilité des données. Chaque option implique un compromis différent entre capacités, fonctionnement hors ligne et lieu de traitement de la requête.