Recall : le projet IA de Microsoft pour enregistrer TOUT ce que vous ferez sur votre PC (pour mieux détruire votre liberté ?)

Atlantico : Microsoft a dévoilé la nouvelle fonctionnalité de Windows : "Recall". Basée sur l’intelligence artificielle, elle permet de récupérer les activités passées sur son ordinateur. Comment cela fonctionne-t-il ?

Benoît Grunemwald : La fonctionnalité Recall utilise l’IA Copilot et s’appuie sur les capacités matérielles de la machine pour le traitement. Des copies de l'écran de l'utilisateur sont effectuées à intervalle régulier. Ces images « instantanées » sont chiffrées et sauvegardées sur le disque dur du PC, dans session de l’utilisateur. Ces données permettent de remonter le temps en utilisant une barre chronologique qui permet de naviguer dans ces « instantanés ». Une fois le moment choisi, les images prises à cet instant sont soumises à l’IA qui les analyse pour définir un contexte et une situation. Ceci fonctionne très bien. Lorsque nous soumettons une image à une IA générative, celle-ci décrit avec précision, les éléments visibles et l’IA se permet même d’extrapoler. Nous avons réalisé deux essais, dont les résultats sont livrés ci-dessous. En se basant sur les commandes tapées dans le terminal, l’IA a déterminé que la machine est un mac et non un PC sous Windows sur la copie d’écran fournie pour analyse.

Les usages sont infinis, cette fonction permet de revenir en arrière. Il est ainsi possible de retracer sa journée complète, rechercher dans ses réunions visio, ou même retrouver un document effacé par erreur. Recall permet d’aller très loin avec une fonctionnalité alimentée par l'IA qui transcrit et traduit la parole.

Quel problème en termes de sécurité de données ce nouveau système peut-il poser ?

Le principal problème de sécurité que ce système peut poser concerne la collecte et le stockage des instantanés de l'écran. Ces instantanés peuvent contenir des informations sensibles ou personnelles, telles que des mots de passe, des données financières, ou des discussions privées. Si ces données sont compromises, les conséquences sont préjudiciables pour les utilisateurs, comme la divulgation de données privée. Plus encore, si la personne en question est un journaliste ou des personnes dont les activités sont sensibles. Imaginons maintenant que plusieurs personnes partagent un ordinateur et utilisent le même compte Windows. Ceci est valable pour une famille ou un ordinateur partagé dans un cyber café ou une bibliothèque. Il serait ainsi possible de voir toutes les activités récentes sur le PC. Ceci pose question quant au respect de la vie privée, au sein d’un famille, sans même parler d’un accès illégal et frauduleux d’un logiciel malveillant contrôlé par un pirate ou un maitre chanteur.

Quelles sont les mesures mises en place par Microsoft pour répondre à cette problématique et seront-elles efficaces ?

Pour répondre à ces problèmes de sécurité, Microsoft a mis en place plusieurs mesures :

• Les instantanés sont chiffrés et sauvegardés localement sur l'appareil de l'utilisateur (ce qui voudrait dire qu’ils ne sontpas envoyés à Microsoft ou dans un cloud)

• Les images sont liées à un compte utilisateur spécifique.

• Microsoft assure que les instantanés ne sont pas partagés avec d'autres utilisateurs.

• D’ailleurs Microsoft affirme ne pas être en mesure de les consulter, par conséquence, de ne pas pouvoir les utiliser pour des publicités ciblées. 

• Les utilisateurs peuvent mettre en pause, arrêter ou supprimer le contenu capturé, et exclure des applications ou sites web spécifiques.

• Pour finir, Recall ne prend pas d'instantanés des sessions de navigation privée dans Microsoft Edge ou du contenu protégé par DRM.

Cependant, malgré ces mesures, il reste légitime de se préoccuper quant à l'efficacité de ces mesures. La sécurité des données dépendra de la robustesse du système de chiffrement utilisé et de la sécurité générale de la machine et du comportement de l'utilisateur. De plus, Recall ne cache pas activement les informations sensibles comme les mots de passe et les numéros de comptes financiers qui apparaissent à l'écran, ce qui peut toujours poser un risque. Les mesures mises en place par Microsoft sont donc une étape importante pour protéger la vie privée des utilisateurs, mais elles ne peuvent pas complètement éliminer tous les risques potentiels.

C’est un outil intéressant sur le plan théorique, qui apporte assurément des avantages potentiels pour les employés, mais il incombe à l’utilisateur, ou à l’entreprise, de comprendre et maitriser les implications de cet outil, ainsi que les conséquences de son utilisation en arrière-plan, sur une période prolongée.