Quand le cloud intervient
Apple présente le traitement sur l’appareil comme un élément central de la sécurité et de la confidentialité des données. Lorsqu’une requête avancée d’Apple Intelligence nécessite le traitement de données complexes et de modèles de fondation plus importants, le système peut faire appel à Private Cloud Compute (PCC), le service cloud conçu par l’entreprise pour ces tâches.
En pratique, la différence tient au lieu où la requête est traitée : sur l’appareil lorsque celui-ci peut accomplir la tâche, ou sur des nœuds PCC lorsqu’Apple Intelligence a besoin de modèles plus importants. Apple affirme que l’entreprise elle-même ne peut pas accéder aux données personnelles envoyées à PCC. Il s’agit d’une garantie déclarée par Apple, étayée, selon ses explications, par des mesures techniques, et non d’une promesse qu’un système quelconque serait invulnérable.
L’architecture décrite par Apple
Apple décrit les nœuds PCC comme des serveurs dotés d’un silicium personnalisé et de technologies de sécurité matérielle également employées dans l’iPhone, notamment Secure Enclave et Secure Boot. Ils utilisent un système d’exploitation renforcé, fondé sur les bases d’iOS et de macOS et adapté aux charges d’inférence des modèles de langage.
L’architecture exclut les outils d’administration à usage général, tels que les shells distants et les mécanismes étendus d’introspection. À la place, Apple dit utiliser des composants conçus pour fournir un ensemble limité de mesures opérationnelles. La pile d’apprentissage automatique a été conçue avec Swift on Server ; l’entreprise attribue la sécurité mémoire aux couches de contrôle et de répartition de l’inférence écrites en Swift, ainsi qu’à l’isolation entre espaces d’adressage.
La requête doit être accessible au nœud qui réalise l’inférence : Apple explique que le chiffrement de bout en bout ne peut empêcher ce nœud d’accéder aux données nécessaires pour répondre. Sa conception vise à chiffrer la requête depuis l’appareil jusqu’aux nœuds PCC validés, afin que les composants situés hors de cette limite de confiance ne puissent pas la déchiffrer.
Ce qu’il advient des données de la requête
Apple définit PCC comme un système de traitement sans état des données personnelles. Selon l’entreprise, les données servent exclusivement à répondre à la requête, restent sur les nœuds qui la traitent jusqu’au renvoi de la réponse et ne sont pas conservées ensuite, y compris au moyen de journaux ou du débogage.
L’entreprise décrit également des mécanismes destinés à réduire la possibilité de persistance des données. Secure Enclave renouvelle de manière aléatoire les clés de chiffrement du volume de données à chaque redémarrage, de sorte que les données écrites sur celui-ci ne puissent pas être conservées après ce redémarrage. En outre, le processus d’inférence supprime les données associées à une requête lorsqu’elle est terminée et recycle périodiquement les espaces d’adressage qui les traitent.
Ces mesures décrivent la conception que Apple attribue au service ; il convient de les distinguer d’une garantie de risque nul. La documentation présente des contrôles destinés à limiter l’accès, la conservation et l’exposition, et non une affirmation selon laquelle les données ne pourraient jamais être affectées par une vulnérabilité.
Transparence et outils de recherche
Apple affirme publier les mesures des logiciels PCC dans un journal de transparence protégé par des moyens cryptographiques et mettre à disposition des images des versions de production à des fins d’inspection. Selon l’entreprise, les appareils n’envoient des requêtes qu’aux nœuds capables d’attester qu’ils exécutent un logiciel inscrit publiquement dans ce journal. Il devient ainsi possible de comparer le logiciel inspecté à celui qu’Apple dit utiliser en production.
Le Virtual Research Environment (VRE) permet d’étudier PCC depuis un Mac équipé d’une puce Apple. Apple indique qu’il exécute le logiciel des nœuds dans une machine virtuelle avec des modifications mineures et qu’il comprend un processeur Secure Enclave virtuel. Parmi les tâches possibles figurent l’examen des versions, la vérification de la cohérence du journal, le lancement d’une version virtualisée et l’exécution d’inférences avec des modèles de démonstration.
L’annonce de recherche d’Apple situait le VRE dans la version préliminaire de macOS Sequoia 15.1 disponible au moment de sa publication et précisait les exigences matérielles. Cette référence est liée à une date : elle ne suffit pas, à elle seule, à établir la disponibilité actuelle. L’entreprise propose également, sous une licence d’utilisation limitée, le code source de certains composants PCC, tels que CloudAttestation et Thimble.
Réduire le risque d’attaques ciblées
La conception de PCC comprend une propriété qu’Apple appelle target diffusion : l’objectif est d’empêcher un attaquant d’orienter les requêtes d’une personne donnée vers des nœuds choisis en fonction de son identité ou de leur contenu. À cette fin, les métadonnées visibles hors de la limite de confiance excluent les informations permettant d’identifier une personne et ne contiennent que le contexte limité nécessaire au routage.
Apple explique également que les requêtes transitent par un relais OHTTP exploité par un tiers, qui masque l’adresse IP d’origine avant leur arrivée dans l’infrastructure PCC. L’entreprise indique que, pour orienter le trafic en fonction de cette adresse IP, un attaquant devrait compromettre à la fois le relais et l’équilibreur de charge. Cet effet précis ne signifie pas que le relais empêche toute forme d’association ou d’attaque.
Le système utilise aussi des justificatifs à usage unique fondés sur des signatures RSA aveugles pour autoriser les requêtes sans les associer à une personne précise. Apple présente ces mesures comme des défenses qui limitent la possibilité de sélectionner des utilisateurs et réduisent l’impact de la compromission d’un nœud, et non comme une garantie rendant toute attaque ciblée impossible.
Récompenses et interprétation des garanties
Apple a élargi son programme Apple Security Bounty afin d’inclure les vulnérabilités qui compromettent les protections fondamentales de PCC. Dans le tableau publié par l’entreprise, la récompense maximale d’un million de dollars concerne l’exécution de code à distance avec des privilèges arbitraires dans la catégorie des attaques visant les données de requête. Les autres types de défauts sont associés à des montants maximaux différents.
Pour interpréter ces garanties, il est utile de distinguer trois éléments : l’architecture décrite par Apple, les protections techniques que l’entreprise dit avoir intégrées et la possibilité pour les spécialistes d’examiner le logiciel et de signaler leurs découvertes. Le journal de transparence et le VRE facilitent ces recherches, mais ne remplacent pas l’évaluation de chaque vulnérabilité et ne transforment pas les déclarations du fabricant en garantie d’un risque nul.
En bref, PCC est la voie cloud conçue par Apple pour certaines requêtes avancées d’Apple Intelligence. L’entreprise affirme limiter l’accès aux données et leur conservation, et propose des ressources pour examiner sa mise en œuvre ; pour évaluer une requête précise, il faut garder à l’esprit que les informations présentées ici décrivent le système, et non une liste de fonctions ou de conditions d’utilisation applicable à chaque appareil.