TOPS de uma NPU: o que dizem — e o que não dizem — sobre IA local num portátil

Uma NPU (Neural Processing Unit) é um bloco de processamento especializado em certas operações comuns nas redes neuronais. Num portátil, funciona em conjunto com a CPU e, quando existe, com a GPU: a escolha da unidade que executa cada tarefa depende do modelo, da aplicação e do suporte de software. Isso não significa que todas as funcionalidades descritas como «IA» sejam executadas automaticamente na NPU.

Na prática, trata-se de uma divisão por especialização, não de uma hierarquia universal. A CPU trata das tarefas gerais e coordena o sistema; a GPU pode executar trabalho paralelo em grande escala; a NPU foi concebida para acelerar cargas compatíveis com a sua arquitetura, mantendo o consumo controlado. Uma NPU mais potente não torna o computador inteiro mais rápido, e a sua presença não garante que uma determinada aplicação a utilize.

A vantagem potencial é executar certas inferências no próprio dispositivo, em vez de depender sempre de um servidor remoto. Isso pode ajudar na latência, na conectividade e no processamento local de dados, mas não significa que o portátil consiga executar qualquer modelo sem ligação e com a mesma qualidade. A capacidade de memória, o tamanho do modelo e a implementação da aplicação continuam a ser determinantes.

TOPS significa trillions of operations per second, ou seja, biliões de operações por segundo na escala longa. Enquanto unidade, exprime um fluxo teórico de operações. As fichas técnicas usam-na para caracterizar aceleradores de IA, mas um valor isolado não especifica que operações são contabilizadas, que precisão numérica é usada nem em que condições se obtém o máximo.

A Qualcomm explica que a interpretação de TOPS depende, entre outros fatores, da frequência e da precisão de cálculo. Por isso, dois valores TOPS não são necessariamente comparáveis de forma direta sem esclarecer o método e o componente a que dizem respeito. Além disso, o máximo anunciado para a NPU não deve ser confundido com um resultado medido numa aplicação em produção.

TOPS também não é uma unidade de energia. Não indica quantos watts o sistema consome, quanta energia uma tarefa concreta exige ou quantas horas durará a bateria. Um valor elevado pode indicar maior capacidade máxima em determinadas condições, mas não prova, por si só, que o portátil seja mais eficiente ou mantenha esse ritmo durante uma sessão prolongada.

As páginas e os documentos dos fabricantes mostram por que vale a pena ler a designação completa. A Qualcomm indica uma NPU de 45 TOPS para a série Snapdragon X e relaciona esse valor com o seu guia sobre métricas de IA. No anúncio de 2024, a Microsoft estabeleceu um limiar de 40 TOPS de NPU para a categoria Copilot+ PC. Esse requisito define uma categoria de compatibilidade; não é uma medida universal da qualidade da experiência.

Na Intel, as especificações variam consoante a geração e o processador, e a documentação pode apresentar separadamente o desempenho da NPU e o dos outros componentes. Por exemplo, a ficha da Lenovo para o ThinkBook 14 G8 IAL distingue os TOPS da NPU dos valores da GPU e do total da plataforma. Não se devem somar nem comparar totais da plataforma como se fossem TOPS da NPU sem verificar que unidades estão incluídas no valor.

No caso da AMD, as referências genéricas à família Ryzen AI não bastam para atribuir um número a todos os processadores: é necessário identificar o modelo exato e consultar a respetiva documentação. Uma fonte técnica secundária explica o conceito de Ryzen AI, mas o material fornecido não inclui uma ficha oficial da AMD que permita uma comparação numérica homogénea entre gerações. Por isso, não é apresentada aqui uma tabela com valores da Intel, AMD e Qualcomm como se resultassem de uma única metodologia.

Uma NPU pode ser concebida para executar determinadas cargas com eficiência, mas isso não permite deduzir a autonomia do equipamento. A bateria alimenta o sistema inteiro: ecrã, memória, armazenamento, conectividade e outros componentes, além da CPU, GPU e NPU. Também importa durante quanto tempo e com que intensidade cada unidade permanece ativa. TOPS não prevê as horas de autonomia.

A temperatura também não pode ser inferida a partir desse valor. O desenho térmico, a potência configurada pelo fabricante, o chassis, a ventilação e as cargas simultâneas influenciam o comportamento sustentado. As fontes disponíveis não apresentam medições comparáveis de consumo, temperatura ou duração da bateria ao executar o mesmo modelo e a mesma aplicação em sistemas Intel, AMD e Qualcomm. Por isso, não é possível afirmar que plataforma mantém melhor o desempenho nesse cenário.

Há ainda uma diferença entre o máximo do chip e o resultado na utilização real: a inferência pode ser limitada pela memória, pela largura de banda, pela conversão do modelo ou por operações que não são executadas na NPU. Se parte do trabalho passar para a CPU ou GPU, a distribuição da carga e o consumo total também mudam. O estrangulamento pode estar fora da NPU, mesmo quando o valor TOPS parece suficiente.

Para uma tarefa de IA local, é preciso começar por confirmar que a aplicação e o modelo suportam o acelerador específico. A existência de uma NPU não implica que o sistema operativo ou cada programa a utilizem. O fornecedor de execução, os controladores e as versões das ferramentas também podem influenciar o resultado; sem uma cadeia de software compatível, o valor da ficha técnica pode ter pouca relevância para o fluxo de trabalho do utilizador.

O requisito de 40 TOPS para Copilot+ PC, anunciado pela Microsoft em maio de 2024, ilustra a diferença entre cumprir um limiar e medir uma experiência. Serve para delimitar uma classe de equipamentos e funções associadas, mas não garante que qualquer modelo local funcione, que uma aplicação utilize a NPU ou que as respostas sejam mais rápidas do que noutra configuração.

Antes de comprar, defina a carga de trabalho real: por exemplo, transcrição, efeitos de câmara, geração de imagens ou execução de um modelo local. Depois, confirme os requisitos de hardware e software para essa tarefa. Se a utilização depender de uma aplicação profissional específica, a respetiva lista de compatibilidade e os resultados com o modelo pretendido são mais úteis do que uma comparação de TOPS sem contexto.

Ao avaliar uma ficha técnica, separe as especificações do processador das afirmações sobre o portátil completo. Confirme se o número é atribuído expressamente à NPU, se corresponde ao modelo e à geração exatos e se não foi combinado com os TOPS da CPU ou da GPU. Se o fabricante não indicar a precisão ou as condições de medição, trate o valor como uma capacidade máxima de alcance limitado.

Para decidir a compra, verifique também a memória disponível, as aplicações compatíveis, os modelos suportados e a possibilidade de executar a tarefa sem ligação. Se a autonomia e o ruído forem importantes, procure testes independentes do mesmo equipamento com uma carga equivalente; não extrapole uma prova geral de bateria para uma sessão de IA prolongada. As fontes reunidas aqui não oferecem um teste comparativo desse tipo.

Uma verificação rápida pode evitar conclusões erradas:

• Identifique o modelo exato do processador e do portátil, não apenas a família comercial.
• Confirme se os TOPS publicados dizem respeito à NPU ou à plataforma completa.
• Procure informação sobre precisão, frequência e condições de medição, quando disponível.
• Verifique se a aplicação e o modelo pretendido conseguem utilizar essa NPU.
• Para autonomia e temperatura, exija resultados de testes comparáveis, não um valor TOPS.

A conclusão útil é simples: TOPS serve como dado de contexto sobre o potencial de cálculo, não como substituto de um teste de desempenho, eficiência ou autonomia. Ao escolher um portátil para IA local, a compatibilidade com a carga concreta e o comportamento medido do equipamento pesam mais do que um número isolado.