A la merci du Big data ? Comment vivre dans un monde où les objets (et les sociétés qui les produisent) en savent plus sur nous que nous-mêmes

Atlantico : Dans votre dernier ouvrage, "le jour où mon robot m'aimera, Vers l’empathie artificielle", vous constatez l'omniprésence des robots et de l'intelligence artificielle. Récemment, une équipe de chercheurs de l'université de Columbia à New York s'est lancée dans l'évaluation d'un programme informatique visant à détecter les facteurs de risques d'un épisode schizophrénique à venir chez les sujets suspects. "Nous sommes à l’aube de la psychiatrie préventive" a analysé le docteur Gourion à ce propos dans un article du Monde (voir ici). Plus globalement, peut-on faire le constat d'un monde où l'analyse des données comportementales nous rapprocherait d'un monde tel qu'imaginé dans le film de Steven Spielberg "Minority report", où les capacités de prédictions permettent d'empêcher tous les crimes de survenir ?

Serge Tisseron : Les robots sont porteurs de formidables espoirs, notamment dans le domaine de la santé et de l’éducation, mais ils vont apporter en même temps des problèmes inédits. J’en vois trois principaux : le risque de confusion entre l’homme et la machine, la modification de nos attentes et de notre tolérance vis-à-vis de nos semblables, et enfin les menaces sur la vie privée. Ce logiciel que vous évoquez en fait parti. Il est en effet possible d’analyser toutes les données personnelles de chacun sur Internet et de proposer à certains d’entre nous de consulter pour « risque dépressif » ou « risque schizophrénique ». Est-ce que ce serait acceptable ? Oui, à condition que cette possibilité soit présentée comme un choix et non comme une obligation. De façon générale, l’enjeu majeur des démocraties au XXI ème siècle sera de garantir la liberté de chacun de débrancher les machines qu’il possède, d’ôter les puces RFID des objets qui lui appartiennent, d’utiliser des systèmes en open source, et évidemment d’être le propriétaire de ses données personnelles.

Les grandes firmes de la Silicon Valley investissent beaucoup dans des technologies destinées à prédir nos comportements. Récemment, Amazon a annoncé le lancement d'Alexa, un boitier présenté comme un assistant vocal, et dont la fonction serait de tout savoir de ses utilisateurs pour répondre à "n'importe laquelle de ses questions". Quelles sont les spécificités d'une relation avec des robots, comparativement avec un humain ? 

Pour comprendre les dangers que peuvent faire courir les robots, pensez à ces deux technologies que sont la télévision et Internet. Pour simplifier, disons que la télévision se propose de répondre à nos attentes, et qu’Internet nous propose d’entrer en relation avec ceux qui s’intéressent aux mêmes choses que nous. Un robot domestique pourra proposer à une personne qui s’ennuie de jouer avec elle, de regarder un film ou de réaliser une recette de cuisine, et tout cela sera présenté comme une manière d’aider cette personne à conserver le plus longtemps possible ses capacités mentales et physiques. Ce sera un bon modèle de robots d’assistance, mais avec le risque qu’il se transforme en support de promotion publicitaire et même qu’il crée une forme de « robot-dépendance » comme on parle aujourd’hui de « Cyberdépendance ».

Mais un robot pourra aussi proposer à la même personne de raconter les souvenirs d’un événement important qu’elle a vécu, de le mettre sur Internet et de l’aider à rencontrer d’autres personnes intéressées par les mêmes choses qu’elle. Ce modèle est beaucoup plus intéressant : c’est un robot socialisant. Le problème est qu’il n’est pas un aussi bon support de promotion publicitaire que le premier. Et les programmeurs payés par les industriels qui souhaiteront rentabiliser leurs robots en les associant à des campagnes publicitaires choisiront évidemment le premier de ces deux modèles !

Comment, à l'échelle individuelle, cette capacité offerte par les nouvelles technologies -et particulièrement les objets connectés - modifient-elles nos comportements, notre rapport à l'intime, etc ? Comment vit-on dans un monde qui en sait potentiellement plus que soi ?

Ceux qui voudront abandonner leurs données intimes le pourront toujours, mais il est essentiel que des mesures législatives protègent ceux qui le refusent. Et aussi qu’elles soient complétées par des mesures éducatives. Nous devrons apprendre à considérer tous les nouveaux objets interconnectés à la fois comme des amis possibles et comme des mouchards permanents de nos faits et gestes, et même de nos pensées. Et il nous faudra éduquer nos enfants dans ce sens : s’ils ne débranchent pas leurs objets de proximité, ils seront surveillés, et évidemment aussi manipulés en permanence.

Ces modifications sont-elles déjà perceptibles aujourd'hui ? A l'échelle collective, en quoi ces nouveaux éléments modifient-ils profondément la société ?

Le grand problème des robots, c’est le projet économique qu’ils sont censés porter : un robot par maison, voire par personne, dans le but de créer un nouveau dynamisme économique. Mais des robots conçus pour être vendu en aussi grand nombre risquent d’être ce que j’appelle des robots « Nutella » c’est-à-dire conçus dans l’unique but de nous plaire. Or il faut bien comprendre que les technologies finissent toujours par modifier notre fonctionnement psychique et nos attentes sociales. Internet et le téléphone mobile nous ont rendus intolérants à l’attente. Avec les robots « Nutella », nous finirons par attendre de nos semblables qu’ils soient pareils et ne nous contredisent jamais. Nous devons être conscients des dangers considérables que certains choix de programmation des robots feraient peser sur nous et nous mobiliser pour obtenir des robots qui favorisent les liens entre les personnes et l’humanisation de tous.