Gemini Nano no Android: o que a IA local faz e quais são seus limites

O Gemini Nano é o modelo do Google destinado a determinadas tarefas de inteligência artificial generativa nos dispositivos. No Android, ele funciona por meio do AICore, um serviço do sistema que oferece aos aplicativos uma forma de acessar o modelo e gerencia sua distribuição e suas atualizações. Assim, aplicativos compatíveis podem usar o modelo integrado ao dispositivo, sem precisar incorporar todos esses componentes por conta própria.

Quando uma tarefa compatível é processada localmente, a solicitação não precisa ser enviada a um servidor para essa inferência. Isso pode reduzir a dependência da conexão, permitir que alguns recursos funcionem sem internet e manter no dispositivo o conteúdo necessário para aquela operação específica. Isso não significa que todos os recursos do Gemini ou todos os aplicativos Android funcionem off-line: refere-se apenas às tarefas que podem ser executadas localmente e que o aplicativo integrou.

As APIs GenAI do ML Kit, criadas com base no AICore, oferecem aos desenvolvedores recursos como geração de texto, resumo, correção e reescrita de mensagens, descrição de imagens e transcrição de áudio. São capacidades específicas que um aplicativo pode integrar, não uma promessa de que toda consulta complexa será resolvida no telefone ou de que todos esses recursos estarão presentes em cada aplicativo. A disponibilidade depende da integração escolhida pelos desenvolvedores.

O Google alerta que a inferência local tem limites relacionados ao tamanho das solicitações, aos recursos do dispositivo e às capacidades do modelo. Por isso, um aplicativo pode reservar o Gemini Nano para operações delimitadas e usar outro modelo quando uma tarefa exigir mais contexto ou capacidade. O comportamento final depende do projeto de cada aplicativo: o modelo local pode cobrir parte de um recurso, enquanto outra parte pode precisar de uma alternativa diferente.

O Gemini Nano não funciona automaticamente em todos os telefones Android. O modelo e os recursos compatíveis dependem do dispositivo e do suporte de software; ter Android não basta para presumir que um recurso local estará disponível. É preciso avaliar a compatibilidade para o telefone e o recurso específicos, em vez de considerar apenas o nome do sistema operacional.

Em maio de 2024, o Google citou o Pixel 8 Pro e a série Samsung Galaxy S24 entre os dispositivos então compatíveis com o Gemini Nano e o AICore. Esse anúncio descreve a situação comunicada naquela época, não uma lista completa e atualizada para 2026. Para saber se um recurso funciona em determinado telefone, verifique sua compatibilidade específica e considere que o suporte pode variar conforme o modelo e o software.

Processar uma solicitação no próprio telefone pode evitar que seu conteúdo seja enviado a um servidor para aquela inferência. O Google informa que o AICore isola as solicitações e não conserva suas entradas nem suas respostas depois do processamento. Essa característica se refere a esse caminho de processamento, não a uma garantia geral sobre todos os dados tratados por um aplicativo ou sobre outros recursos que possam se comunicar com serviços externos.

Um aplicativo pode combinar recursos locais com serviços remotos que tratam os dados de outra forma. Por isso, vale distinguir quais tarefas são executadas no dispositivo e quais dependem da nuvem; a resposta pode mudar de um recurso para outro dentro do mesmo aplicativo. “IA local” descreve onde ocorre uma inferência, não necessariamente todo o percurso das informações.

O Google prevê a inferência híbrida para situações em que o Gemini Nano não está disponível ou não é suficiente. Com a Firebase AI Logic Hybrid API, os desenvolvedores podem configurar o envio de solicitações a modelos na nuvem, como Gemini Flash ou Gemini Pro. Essa alternativa pode ampliar as capacidades para uma tarefa que ultrapassa os limites do modelo local, mas exige conexão e implica processar a solicitação por meio de um serviço remoto.

A experiência depende de como cada aplicativo administra essa mudança e de qual caminho aplica a cada tarefa. Uma tarefa local pode não estar disponível em um dispositivo incompatível; uma solicitação direcionada à nuvem não pode ser concluída sem conexão. Em aplicativos que combinam os dois caminhos, tanto o local do processamento quanto o tratamento dos dados podem variar de acordo com o recurso usado.

Para avaliar um recurso de IA no Android, vale verificar três pontos: se o dispositivo é compatível, se ele funciona sem internet e se o aplicativo pode enviar algumas solicitações a serviços remotos. O nome Gemini Nano, por si só, não responde a essas perguntas: ele identifica o modelo, não a compatibilidade de cada telefone nem a política completa de dados de um aplicativo. Essa distinção ajuda a entender o que é executado localmente e o que pode exigir conexão.

Para os desenvolvedores, o AICore gerencia o acesso ao modelo e suas atualizações nos casos compatíveis, enquanto o ML Kit oferece APIs para tarefas específicas. A escolha entre processamento local, na nuvem ou híbrido deve levar em conta a complexidade da tarefa, a conexão disponível e a sensibilidade dos dados. Cada alternativa envolve um equilíbrio diferente entre capacidade, funcionamento off-line e o local onde a solicitação é processada.