Gemini Nano su Android: cosa fa l’IA sul dispositivo e quali sono i limiti

Gemini Nano è il modello di Google pensato per alcune attività di intelligenza artificiale generativa sui dispositivi. Su Android opera tramite AICore, un servizio di sistema che consente alle app di accedere al modello e ne gestisce la distribuzione e gli aggiornamenti. Le app compatibili possono quindi accedere al modello integrato nel dispositivo tramite le API di AICore.

Quando un’attività supportata viene elaborata localmente, non è necessario inviare la richiesta a un server per eseguire l’inferenza. Questo può ridurre la dipendenza dalla connessione, consentire ad alcune funzioni di operare offline e mantenere sul dispositivo i contenuti necessari per quella specifica operazione. Non significa che tutte le funzioni di Gemini o tutte le app Android funzionino senza connessione: riguarda solo le attività eseguibili localmente e integrate nell’app.

Le API GenAI di ML Kit, basate su AICore, offrono agli sviluppatori funzioni come generazione di testo, riepilogo, correzione e riscrittura dei messaggi, descrizione delle immagini e trascrizione audio. Sono capacità specifiche che un’app può integrare, non la promessa che ogni richiesta complessa venga gestita dal telefono o che tutte siano presenti in ogni app. Le funzioni disponibili dipendono dall’integrazione scelta dagli sviluppatori.

Google segnala che l’inferenza locale ha limiti legati alla lunghezza delle richieste, alle risorse del dispositivo e alle capacità del modello. Per questo un’app può riservare Gemini Nano a operazioni circoscritte e usare un altro modello quando un’attività richiede più contesto o capacità. Il comportamento finale dipende dalla progettazione di ogni app: il modello locale può occuparsi di una parte di una funzione, mentre un’altra parte può richiedere un’alternativa diversa.

Gemini Nano non è automaticamente disponibile su tutti i telefoni Android. Il modello e le funzioni supportate dipendono dal dispositivo e dal supporto software; avere Android non basta per presumere che una funzione locale sia disponibile. La compatibilità va verificata per il telefono e la funzione specifici, non dedotta soltanto dal nome del sistema operativo.

Nel maggio 2024, Google ha citato Pixel 8 Pro e la serie Samsung Galaxy S24 tra i dispositivi allora compatibili con Gemini Nano e AICore. L’annuncio descrive la situazione comunicata in quel momento e non costituisce un elenco completo e aggiornato al 2026. Per capire se una funzione funzionerà su un determinato telefono, occorre controllare la compatibilità specifica e considerare che il supporto può variare in base al modello e al software.

Elaborare una richiesta sul telefono può evitare che il suo contenuto venga inviato a un server per quella specifica inferenza. Google afferma che AICore isola le richieste e non ne conserva gli input o gli output dopo l’elaborazione. Questa caratteristica riguarda quel percorso di elaborazione, non una garanzia generale su tutti i dati gestiti da un’app o sulle altre funzioni che possono comunicare con servizi esterni.

Un’app può combinare funzioni locali con servizi remoti che trattano i dati in modo diverso. È quindi utile distinguere quali attività vengono eseguite sul dispositivo e quali dipendono dal cloud: la risposta può cambiare da una funzione all’altra all’interno della stessa app. “IA sul dispositivo” indica dove avviene un’inferenza, non necessariamente l’intero percorso delle informazioni.

Google prevede l’inferenza ibrida nei casi in cui Gemini Nano non sia disponibile o non sia sufficiente. Con la Firebase AI Logic Hybrid API, gli sviluppatori possono configurare l’invio delle richieste a modelli cloud come Gemini Flash o Gemini Pro. Questa alternativa può ampliare le capacità per un’attività che supera i limiti del modello locale, ma richiede una connessione e comporta l’elaborazione della richiesta tramite un servizio remoto.

L’esperienza dipende da come ogni app gestisce il passaggio e dal percorso scelto per ciascuna attività. Un’attività locale potrebbe non essere disponibile su un dispositivo non compatibile; una richiesta inviata al cloud non può essere completata offline. Nelle app che combinano entrambi i percorsi, il luogo di elaborazione e il trattamento dei dati possono variare a seconda della funzione utilizzata.

Per valutare una funzione di IA su Android, conviene verificare tre aspetti: se il dispositivo la supporta, se funziona offline e se l’app può inviare alcune richieste a servizi remoti. Il nome Gemini Nano, da solo, non risponde a queste domande: identifica il modello, non la compatibilità di ogni telefono né l’intera politica sui dati di un’app. Questa distinzione aiuta a capire cosa viene eseguito localmente e cosa potrebbe richiedere una connessione.

Per gli sviluppatori, AICore gestisce l’accesso al modello e i suoi aggiornamenti nei casi compatibili, mentre ML Kit offre API per attività specifiche. La scelta tra elaborazione locale, cloud o ibrida dovrebbe essere adeguata alla complessità dell’attività, alla connessione disponibile e alla sensibilità dei dati. Ogni opzione comporta un equilibrio diverso tra capacità, funzionamento offline e luogo in cui viene elaborata la richiesta.