Est-il encore possible d’échapper à cet enfer numérique dans lequel nous nous sommes laissés enfermer ?

Atlantico : Les changements évoqués par la Cour suprême de la loi sur l'avortement aux Etats-Unis poussent les cliniques à se pencher sur la confidentialité numérique. Certains employés de cliniques disent qu'ils adoptent des applications de messagerie cryptées et des réunions Zoom pour laisser moins de traces écrites si Roe v Wade étaient révoqué. A quel point cela rend-il compte de la réalité de la situation ?

Fabrice Epelboin : Ça rend compte d’une réalité on ne peut plus froide : à partir du moment où l’avortement serait illégal, on pourrait imaginer une action de justice exigeant de récupérer de la data permettant d’attraper ceux qui font cette chose illégale. C’est la loi. C’est aussi une opportunité incroyable de se rendre compte que toutes les plateformes à qui l’on donne nos données numériques sans véritablement réfléchir aux conséquences, se paient avec notre liberté. Cela fait dix ou quinze ans que beaucoup d’activistes du numérique le clament, mais cela restait jusqu’à présent assez abstrait. Désormais tout le monde ou presque le réalise, mais c’est bien trop tard. Car il n’y a pas que cette façon d’identifier un femme qui cherche à avorter ou qui l’a fait, loin de là, ces dernières laissent des traces numériques à foisons qui permettent de caractériser cela. Il y a quelques années, une famille avait reçu des promotions pour des couches culottes, sans comprendre pourquoi, avant de réaliser que l’une des filles âgées de 16 ans était enceinte, ce qui avait été identifié par le système marketing à partir des traces numériques laissées par celle-ci. L’IA avait comparé son profil à des centaines de milliers d’autres qui, elles, étaient enceintes et extrapolé cela. Donc il est très bien que les cliniques prennent ces mesures pour minimiser les traces numériques de leurs clients, mais cela ne suffira pas, d’autant qu’on a appris récemment que de nombreux établissements hospitaliser aux USA partageaient leurs données avec Facebook. Il y aura 1000 autres façons de les traquer. C’est valable pour l’avortement comme pour tous les sujets. Si j’ai un cancer du foie et que je consulte des sites qui utilisent Google analytics, google va finir par en déduire que j’ai un cancer du foie. La prochaine étape, c’est que rien n’empêchera Google de donner ces informations à des assurances qui refuseront dès lors de fournir une assurance santé. Et le pire est que cela ne viole pas nécessairement mes données personnelles. Depuis le RGPD, les data brokers ont trouvé des moyens de contourner le règlement.  

Est-il possible de changer de trajectoire et de sortir de cette situation ?

Aujourd’hui, il n’est plus vraiment possible de faire machine arrière, mais il est possible de regarder les choses en face et de peut-être, avoir une prise de conscience collective. Et le droit à l’avortement qui vascille aux USA me semble une opportunité fantastique pour cette prise de conscience. Le droit des femmes est un sujet sensible et cela va forcer à regarder la réalité en face sur le monde dans lequel nous vivons depuis plus de quinze ans. Cela va sans doute se traduire par un recul des droits des femmes américaines, après tout, cette menace vient des USA et ils est légitimes que les citoyens américains en soient les premières victimes, mais c’est sans doute l’une des dernières occasions qui nous est offerte de prendre conscience du monde dans lequel nous sommes entrés de plain-pied. Cela fait plus d’une décennie que nous y sommes de plain-pied. Ces entreprises sont plus puissantes que la plupart des Etats. Il faut simplement en prendre conscience, il est trop tard pour lutter contre. Au mieux on peut peut-être esquisser des solutions, sans doute en regardant du coté du renforcement de la lutte contre la corruption.

A quel point est-ce qu’aux Etats-Unis et en France ces techniques sont déjà utilisées ?

Nous n’en savons absolument rien. Ce qui est certain, c’est que la plupart des GAFAM se dirigent vers l’assurance. Le Health Data Hub, l’entrepôt où sont stockées toutes nos données santé a ainsi été confié à Microsoft. Microsoft a investi des sommes colossales pour acheter une entreprise spécialisée dans le prédictif de santé sur la base de données de santé et s'intéresse à l’assurance. Demain, inévitablement, la complémentaire santé sera déterminée par nos traces numériques. Le système d’état providence actuel va régresser, c’est hélas inéluctable, au profit d’assurances privées, que tous ne pourront pas s’offrir, pas nécessairement du fait d’un manque de moyen, mais également du fait d’une inégalité biologique face aux problèmes de santé qu’une IA sera en mesure d’identifier afin de n’assurer que les clients rentables. Cet exemple je l’utilise depuis longtemps, sans grad effet. Mais là, l’avortement, c’est bien réel.

L’utilisation des données personnelles à des fins judiciaires est-elle déjà en place ?

Lorsque Mila se fait harceler, on récupère les données de ses harceleurs. Cela fonctionne encore assez mal en France car les GAFAM coopèrent très peu avec la justice qui, de son coté, est restée au XXe siècle et ne sait pas interagir avec les GAFAM. Mais poursuivre quelqu’un sur la base de la dissémination de ses données personnelles est très courant.

Y-a-t-il possibilité d’échapper à ce système ?

Individuellement, il y a deux voix, totalement opposées, pour le faire. Soit arrêter d’utiliser tout outil numérique, ceci dit, face à l’absence de données, les assurances ne prendront sans doute pas le risque de vous assurer. La deuxième, c’est de comprendre finement ce que l’on fait et comment on dissémine ses données. Ce n’est hélas qu’à la portée d’une petite élite. Celle-ci peut mentir, tricher, segmenter son profil, et tromper les IA. Lorsqu’on a vraiment compris comment on dissémine ses données personnelles, on a ce pouvoir, mais c’est d’une complexité absolue.

Collectivement, c’est foutu, les gouvernements ont de toute manière abdiqué face aux GAFAM. La souveraineté numérique n’est plus du ressort des Etats, en dehors de la Chine et de la Russie, d’un point de vue numérique, le reste du monde est pour ainsi dire une colonie américaine. Nos grands services d’hébergement, de Orange à Atos en passant par Thalès, sont devenus des franchisés des GAFAM sous le premier quinquennat Macron. Et c’est irrémédiable.

Du côté des entreprises, le problème c’est que les services fournis par les GAFAM sont pratiques, efficaces, professionnels, et souvent offerts. A court terme, c’est un très bon calcul, parfaitement compatible avec le besoin impérieux d’afficher un rapport annuel qui booste un cours de bourse. A long terme, cela consiste à s’enfermer dans des technologies qui finiront par aspirer tout profits futur à travers des licences qui finiront inexorablement par exploser. L’alternative, c’est d’investir des ressources humaines, techniques et financières pour garantir son indépendance, mais très peu d’entreprises le font, et ce n’est absolument pas envisageable pour les entreprises cotées en bourse. 

Qu’est-ce qui a fait qu’on s’est laissé enfermer dans cette situation ?

L’illettrisme numérique. Les dirigeants d’entreprise, les dirigeants politiques et la plupart des journalistes ne comprennent strictement rien aux enjeux du numérique. Il est très facile de mentir, de manipuler, de diffamer les lanceurs d’alertes, de façon à imposer les solutions des GAFAM et faire passer ceux qui alertent des dangers pour des complotistes.

Dans quelle mesure les populations ont accepté la situation ?

Je ne crois pas qu’elles aient accepté la situation. Elles ne la comprennent pas. On vit dans un monde où l’état de droit a énormément reculé. Beaucoup de lois sont transgressées. Mais si demain un gouvernement décide de rétablir l’état de droit en s’appuyant sur les données personnelles, ce sera un carnage. On serait en mesure, si on le souhaitait vraiment – ce qui n’est pas le cas -, d’appréhender la plupart des fraudeurs fiscaux grâce à leurs données personnelles.

L’hypothèse d’une révolte publique si le contrôle social devenait plus prégnant est une possibilité ?

Je ne pense pas, il y aura d’autres raisons de se révolter, plus prégnantes qui arriveront bien avant. Ce système de contrôle social est bien plus insidieux que d’autres, comme celui qu’on trouve en Chine, par exemple. Et dans une certaine mesure, nous avons déjà accepté une certaine forme de contrôle social mis en place par les réseaux sociaux. On sait confusément ce qu’il s’y passe. Depuis l’affaire Cambridge Analytica, la plupart des gens ont réalisé qu’un système aussi efficace pour nous vendre des produits pouvait tout aussi bien nous vendre des idées, et le nudge, qui est au cœur de la manipulation orchestrée par Cambridge Analytica, est pratiqué à outrance par le gouvernement français, sans que cela ne choque personne. 

La Chine est toujours citée comme l’exemple du pays où le contrôle social est le plus fort. Pouvons-nous imaginer un état occidental agir comme Pékin ?

Tous les allocataires de la CAF ont déjà une forme de crédit social. On peut aussi parler du credit rating aux Etats-Unis. Un embryon de crédit social existe déjà en France, aux Etats-Unis ou encore au Japon, qui sont toutes trois des démocraties. Il ne faut pas voir la Chine comme une exception mais comme une avant garde qui a pour elle d’être relativement honnête et claire sur ses intentions quant à l’usage des technologies à des fins de contrôle social, mais l’occident n’est pas en reste. Le projet INDECT qui date d’une dizaine d’années avait le contrôle et la stabilité sociale comme objectif, et là encore, cela n’a pas choqué grand monde. D’un point de vue numérique, tout le monde, dictatures comme démocraties, va dans la même direction. La Chine l’assume quand la France le fait discrètement, c’est tout. Au pire, on pourrait dire qu’on est en retard.