Quand l’IA s’invite dans nos smartphones à l’insu de notre plein gré

Atlantico : Comment l'introduction non sollicitée de fonctionnalités d'IA affecte-t-elle l'expérience quotidienne des utilisateurs de smartphones ? Quels sont les bénéfices potentiels et les inconvénients rencontrés par les consommateurs ? 

Benoit Grunemwald :Il est difficile de qualifier l’intelligence artificielle, qui est utilisée dans l’industrie logicielle depuis de très nombreuses années, comme non sollicitée. Depuis son apparition, l’intelligence Artificielle (IA) est utilisée majoritairement de manière invisible pour l’utilisateur. En effet, les premiers développements ont servi à traiter de grands volumes de données s’appuient sur des algorithmes accessibles uniquement aux développeurs. Puis, peu à peu, arrivent les interactions directes avec l’utilisateur rendues possibles par l’amélioration et la démocratisation de nouvelles catégories d’IA (Traitement automatique du langage naturel ou NLP). Ainsi nous utilisons, ou sommes l’utilisateur, depuis longtemps de l’IA au travers des moteurs de recherches, de la publicité ciblées ou encore l’optimisation de la consommation de nos batteries de notre smartphone. L’IA apporte de nombreux bénéfices, elle améliore notre productivité et le niveau de personnalisation de nos applications. D’ailleurs un domaine bénéficie largement des avancées de l’IA et de ses applications, il s’agit de la cyber sécurité. ESET, utilise les réseaux de neurones (1) depuis 1997 pour détecter à l’époque les macrovirus (2). Plus généralement, compte tenu du volume croissant de logiciels et comportements malveillants, l’IA permet de traiter rapidement et automatiquement un large volume d’attaques. L’IA dans le domaine de la cybersécurité apporte d’autres plus-values, la reconnaissance faciale ou encore la détection de fraudes ou de spam n’existeraient pas sans l’IA. 

Les données sont au cœur du fonctionnement de l’IA. Pour être pertinente celle-ci s’appuie sur les données créées ou stockées par les utilisateurs, par exemple leurs habitudes de navigations et leurs interactions avec leurs applications. Parmi ses données se trouvent des données personnelles, telles que définies par la CNIL (3) : Une donnée personnelle est toute information se rapportant à une personne physique identifiée ou identifiable. C’est-à-dire qui permet directement (nom, prénom…) ou indirectement (numéro de sécurité sociale, numéro de téléphone…) d’identifier une personne. Assurer leur sécurité revêt plusieurs challenges, que l’on peut classer en deux grandes catégories : la fuitent ou l’accès illégale à ces données, l’usage à mauvais escient, tel qu’un ciblage excessif ou des manipulations (4). 

Les entreprises comme Google, Microsoft et Apple intègrent des fonctionnalités d'IA dans leurs appareils sans consentement explicite des utilisateurs. Comment cette pratique impacte-t-elle la confiance des consommateurs envers ces entreprises ? Quelles mesures pourraient être prises pour améliorer la transparence et obtenir un consentement éclairé ?

Nous validons régulièrement des contrats sous diverses formes, comme l’acceptation des « Conditions Générales d’Utilisation » et de « contrat de licence de logiciels ». Ainsi à la première mise en service de notre smartphone, lors des mises à jour ou à l’installation de nouvelles applications, nous donnons notre consentement à ces contrats. Bien qu’essentiels, ils ne sont peu très peu lus, mais acceptés mécaniquement. Pourtant, ils régissent nos relations avec les applications ou les smartphones que nous utilisons. Ainsi nous consentons à l’usage de données selon le bon vouloir des contrats. Au-delà des ambitions et des politiques de gestion des données de chaque entreprise proposant des services reposants, ou non, sur l’intelligence artificielle, un cadre législatif protège tout de même le consommateur. D’une part le RGPD s’applique. En France la CNIL veille au respect des règles et propose des orientations pour le développement d’intelligence artificielle, conciliant innovation et respect des droits des personnes (5). D’autre part, en cours de finalisation, l’IA act vise à encadrer les Intelligences Artificielles. Ce travail a débuté le 21 avril 2021, la Commission Européenne a publié une proposition visant à réglementer l'intelligence artificielle dans l'Union européenne. L’aboutissement de ce travail prendra effet en juin ou juillet 2024. La loi classe les applications de l'IA dans trois catégories de risque. Premièrement, les applications et les systèmes qui créent un risque inacceptable, tels que les systèmes de notation sociale gérés par le gouvernement, comme ceux utilisés en Chine, sont interdits. Deuxièmement, les applications à haut risque, comme un outil de balayage de CV qui classe les candidats à l'emploi, sont soumises à des exigences légales spécifiques. Enfin, les applications qui ne sont pas explicitement interdites ou répertoriées comme présentant un risque élevé.

Quelle posture adopter face à la recrudescence de l’IA dans nos smartphones et autres applications ? C’est à chacun de mesurer le niveau de partage d’informations personnelles qui lui convient, car la majorité des applications utilisent l’IA et il est souvent impossible de désactiver les fonctions liées à celle-ci. Nous recommandations sont les suivantes : 

• Considérez les conditions que vous acceptez, 

• Vérifiez les permissions données aux applications ainsi qu’à leur étendue : une application de retouche photo à elle besoin d’accéder à vos contacts ?

• Limitez ou révoquez les droits des applications. Utilisez une suite de sécurité pour analyser les droits des applications (6).

• Activez si possible le mode privé, identique à la navigation privée sur votre navigateur quand celui-ci est disponible et vous ne souhaitez pas partager votre activité avec l’IA.

Existe-t-il des exemples historiques de technologies ou de tendances qui ont été imposées aux consommateurs de manière aussi "agressive" que les fonctionnalités d'IA actuelles dans les smartphones ? Quels enseignements pouvons-nous tirer de ces précédents pour mieux gérer l'introduction de nouvelles technologies à l'avenir, à l'instar de l'acceptation des conditions générales d'utilisation ?

En février 2021, lorsque WhatsApp annonce des mises à jour de ses conditions d’utilisation, une levée de bouclier s’opère. Les tenants et aboutissants sont présentés à plusieurs reprises aux utilisateurs. Pour autant, en 2023 selon Statista (7), la messagerie WhatsApp est toujours la plus utilisée à travers le monde. La transparence et une bonne communication sont les clefs de voute de l’acceptation de nouvelles technologies. Bien entendue, il est impératif que les utilisateurs y trouvent un avantage.

Références :

1.https://fr.wikipedia.org/wiki/R%C3%A9seau_de_neurones_artificiels

2. https://help.eset.com/glossary/fr-FR/viruses.html?machine_learning.html

3. https://www.cnil.fr/fr/definition/donnee-personnelle#:~:text=Une%20donn%C3%A9e%20personnelle%20est%20toute,doivent%20en%20conserver%20la%20ma%C3%AEtrise.

4. https://fr.wikipedia.org/wiki/Scandale_Facebook-Cambridge_Analytica

5. https://www.cnil.fr/fr/ia-la-cnil-publie-ses-premieres-recommandations-sur-le-developpement-des-systemes-dintelligence

6. https://play.google.com/store/apps/details?id=com.eset.ems2.gp&hl=fr

(7) https://fr.statista.com/statistiques/564407/applis-de-messagerie-mobiles-les-plus-populaires-dans-le-monde-en/