Bienvenue dans l’ère de la transparence forcée : comment vivre dans un monde où l’intelligence artificielle et la reconnaissance faciale sont capables de détecter nos moindres émotions ?

Atlantico : Plusieurs start-ups ont créé des algorithmes qui permettent de lire certaines émotions, mieux que les êtres humains ne peuvent le faire. Les technologies de reconnaissance faciale décryptent en effet les micro-expressions et détectent toutes les nuances de la joie, la tristesse, la colère, etc.  A cela s'ajoutent les bracelets connectés, qui analysent également des signaux physiques (rythme cardiaque, pression artérielle...) permettant de déterminer un profil émotionnel dans son ensemble. Quels sont selon vous les principaux dangers politiques et sociétaux de ces technologies?

Yvon Moysan : La détection des émotions humaines est un champ assez mature de l’IA. La reconnaissance des émotions dans le visage à partir de caméras a ainsi été standardisée par le système de description Facial Action Coding System, créé en 1978 par les psychologues américains Paul Ekman et Wallace Friesenen. L’objectif peut être de mieux connaître votre comportement dans un magasin, dans la rue, ou en privé, mais aussi de pouvoir humaniser les interactions avec les robots. C’est le cas par exemple des robots Nao et Pepper dotés de « capacités perceptives », soit une capacité à lire notre comportement et nos émotions via une série de capteurs et de logiciels. Les risques sociétaux associés sont très variés. On peut citer l’évolution des robots et assistants virtuels qui ne sont plus seulement "intelligents", ils peuvent en effet désormais devenir « votre ami » en engageant la conversation ou en simulant des émotions, grâce à des lumières, des sons, des mouvements. Capables de reconnaître leurs propriétaires et d'interpréter leurs émotions, ces robots sont capables de répondre de façon adaptée pour influencer les émotions dudit propriétaire. On peut s’attendre à ce que certains propriétaires de robots développent des comportements d’attachement forts, semblables à ceux des propriétaires de chats et de chiens. Pour autant, il ne faut pas oublier les bénéfices potentiels dans l'e-santé par exemple. Santé et bien-être restent un énorme marché pour le secteur technologique, avec notamment des exemples d'utilisation de la réalité virtuelle ou de divers capteurs, jusque dans les voitures, capables de mesurer le rythme cardiaque, le stress, voire d'appeler les secours en cas de malaise du conducteur. Autant de données médicales précieuses qui permettent aussi d'anticiper les malaises ou affections diverses. En terme de risques politiques, le problème aujourd'hui est plus lié à mon sens à la souveraineté et au fait que ces grands acteurs prennent de plus en plus à leur charge dans le monde ce qui relevait des attributs traditionnels des états, les fonctions régaliennes. Par exemple pour la sécurité et la reconnaissance faciale. Quels acteurs peuvent le faire aujourd'hui ? Les réseaux sociaux puisqu'on leur donne toutes les photos, les données.

Les acteurs économiques de ce marché du "neuromarketing" ont commencé à utiliser ces technologies pour traquer les émotions des consommateurs en situation d'achat, au prétexte de les "aider dans leurs choix". Ebay a ainsi créé à Londres le premier magasin "emotionally-powered" à choisir leurs cadeaux de Noël pour "diminuer leur stress". Au-delà des arguments avancés, ces expériences intrusives peuvent-elles être régulées? Ou bien est-ce déjà trop tard?

Yvon Moysan : Le premier domaine d’application est en effet le commerce de détail. Généralement les caméras de surveillance des entreprises sont transformées en véritable outil d’analyse du comportement des clients. Les flux vidéos sont soumis à des algorithmes qui après analyse permettent au commerçant de déterminer qui passe devant quel produit (sexe, tranche d’âge…), si la personne s’y attarde ou non tout en connaissant l’émotion associée positive ou négative. Le magasin peut alors être optimisé en fonction des résultats. On ne fait pour autant que reproduire dans le monde offline ce qui existe déjà dans l’écosystème online en complétant le tableau de bord Google Analytics par des données supplémentaires venant du magasin. Nous tendons ainsi vers une vue d’ensemble du comportement des clients au quotidien. En terme de régulation, l’analyse de ces flux vidéo est considéré comme un traitement biométrique et est donc encadrée par la Commission Nationale de l’Informatique et des Libertés (CNIL). Pour être légale, les images ne doivent pas être vues par aucun humain, elles ne doivent pas être conservées une fois traduites en données, et aucune donnée biométrique (la mesure de la forme du nez, du menton, l’écartement des yeux, qui permettent d’identifier une personne) ne doit être récupérée. En d’autres termes, il ne doit pas être possible que l’algorithme utilisé par le magasin puisse être capable de déterminer votre identité, même si cela est techniquement possible. Des expérimentations ont ainsi déjà été menées pour mettre au point des systèmes de surveillance qui scannent par exemple les supporters présents dans les gradins afin de repérer ceux qui sont interdits de stade.

Si ces technologies se répandent, quelles peuvent être les conséquences psychiques sur les individus? Peut-on vivre sans intimité et sans pouvoir cacher ses émotions? 

Marie Klocker : Au 18e siècle, l’encyclopédie de Diderot et D’Alembert était la seule source d’information et de connaissance. Cette encyclopédie se basait sur des observations. A l’heure actuelle, la diversité des informations sur internet nous oblige à développer une nouvelle forme d’analyse afin de déceler le vrai du faux. C’est un exercice difficile qui pousse certains individus à la surcharge cognitive. L’arrivée d’Internet dans les années 1995-2000 est significative de disruption. Son développement rapide et constant nous amène à nous demander s’il existe réellement une fin. Les Millenials, nés entre 1981 et 2000, comptent aujourd’hui pour 1.3 millions de la population française. Ils sont nés avec Internet et ont suivi son évolution constante. Leur vie est rythmée par les technologies et les objets connectés. Ils participent à la collecte de Big Data, parfois même sans en être conscient. Collecter, stocker, analyser, et partager; voici le processus d’analyse de Data. Voici comment chaque petit détail de la vie d’un individu sur internet est enregistré dans des “Data Warehouse”. Cela pose il un problème ? Non, vivre sans intimité semble être une norme aujourd’hui. Nous sommes connectés en permanence avec nos pairs. Or, il existe des limites et des personnes telles que Charlie Brooker, le réalisateur de la série « Black Mirror », ou Mario Miscione et Michael Nardelli, réalisateurs de la série « Dark Net », qui dénoncent les abus d’Internet. Nous avons tous déjà réfléchis à comment sera le monde dans 50 ans mais surtout quelle place aura la technologie dans nos vies. Elle est si importante aujourd’hui que nous en sommes dépendants. Pensez à l’angoisse que vous ressentez lorsque vous n’avez plus que 5% de batterie sur votre téléphone. Que faire sans son téléphone ? Comment trouver son chemin ? Comment communiquer avec ses pairs ? Tout cela paraît absurde mais ce ne sont que des problèmes mineurs. Dans « Dark Net », certains individus deviennent des objets connectés eux-mêmes. Comment est-ce possible ? Ils pratiquent ce qu’on appelle le « Biohacking ». Certains intégrent une puce RFID dans leur main afin d’être connectés en permanence, d’autres remplacent un de leur œil par une caméra qu’on pourrait confondre avec un véritable œil. Bien sur ce sont des exemples extrêmes mais qui nous amènent à nous demander si vivre sans intimité est réellement un problème aujourd’hui. 72,5 millions, c’est le nombre de cartes SIM en France en 2016, soit plus que la population française. Concrètement, nous avons besoin de la technologie. Même s’il existe un réel impact psychique et émotionnel, comme toute addiction, seuls les abus engendrent des effets néfastes pour la santé. La déconnection est le seul moyen de nous préserver. Dans le milieu professionnel, elle en a même fait l’objet d’une loi. Ce qu’il faut retenir avec le développement des technologies c’est que ce sont des innovations disruptives, exceptionnelles, mais qu’il est de l’ordre de chaque individu de trouver ses limites afin de préserver sa santé.