Surveillance de masse: le Parlement européen approuve à la majorité la volonté de la Commission d’obliger les fournisseurs de services d’e-mails, de messagerie et de chat à traquer et signaler tous les éléments potentiellement illégaux de nos conversations

Atlantico : Visant officiellement la lutte contre la pédopornographie en ligne, le Parlement européen s'est récemment prononcé pour que les fournisseurs de services de messagerie en ligne soient obligés de diffuser à la police en cas de suspicion d'illégalité les correspondances virtuelles concernées. Comment marcherait ce contrôle et quelles en seraient les conséquences concrètes sur le droit à la vie privée des citoyens européens ?

Cédric Levieux : Dans le cadre des mails, une partie de la population sait plus ou moins consciemment comment ça marcherait, lecture du contenu que ce soit par les fournisseurs de mail émetteur et récepteur qui ont le message "en clair".

C'est comme cela que GMail réagit au contenu de vos mails, ça ne veut pas dire qu'il y a de l'humain mais il y a eu une lecture. Cette lecture s'accompagnerait alors d'une nouvelle étape "vérification du contenu pour alerter les forces de police sur suspicion de pédopornographie". 

Pour les autres messageries, ça fonctionnerait de manière similaire. Avec malgré tout un gros bémol, certaines d'entre-elles proposent du chiffrement de bout-en-bout permettant le secret des échanges. Cela voudrait donc dire qu'il faudrait qu'elles proposent des chiffrements avec des "backdoor", ce qui est dangereux car, par construction, accessible à tout le monde, ou qu'elles renoncent à ce chiffrement, ce qui affaiblirait énormément leur plus-value "commerciale" : Si elles sont intéressantes pour le client, c'est parce qu'elle proposent un chiffrement. Dès lors qu'elles n'en proposent plus, qu'ont-elles de différent avec la concurrence ?

Cela signifie aussi pour les citoyens européens qu'au moins une première vérification sera faite par des robots, puis en cas de doute, par des humains, sur tous les contenus privés, que ce soit nos échanges avec notre famille ou nos échanges plus intimes, nos devis, nos angoisses, notre état de santé...

Les algorithmes sont-ils suffisamment efficaces pour détecter efficacement les contenus illégaux dans des conversations et uniquement ceux-ci ? 

Cette question est d'autant plus intéressante qu'elle est posée aujourd'hui (lundi 15 mars) où le simple mot "Memphis" a fait bannir de Twitter un certain nombre de comptes ce week-end. Depuis cela a été corrigé, mais dans le cadre de la législation qui autoriserait la surveillance de nos messages, combien seraient passés pour des faux positifs ?

Et même avec un faible taux de faux positifs, d'un pour mille par exemple, en face de la quantité de mails (300 milliards par jour dans le monde), de messages privés échangés au quotidien, cela ferait 300 millions de messages à traiter une deuxième fois. Est-ce qu'on remet ce travail entre des mains humaines ? Combien en faudra-t-il ? Combien de personnes accéderont à nos échanges privés ?

Et tout cela, c'est sans compter les biais algorithmiques des développeurs ou l'entrainement d'intelligences artificielles, et sans compter non plus que les pédocriminels pourront construire des réseaux de discussions hors du contrôle de cette législation...

La mise en place d'un tel système va-t-elle nécessairement conduire à des dérives ? 

Si vous nous demandez si les dérives sont possibles, la réponse est oui. Est-ce que c'est une fatalité ? Avec le dernier décret que vient de publier le Gouvernement sur le détournement de la vidéosurveillance pour vérifier le port du masque dans les transports en commun, qui n'est que la dernière pierre à la construction de la surveillance de masse en utilisant numérique, il est difficile de croire le contraire. Et ici, on ne parle que des dérives de l'État et non de celles des prestataires de services qui seraient dans l'obligation de lire le contenu, mais dont les allégeances ne vont pas à l'Union Européenne et auraient par ce biais et par "inadvertance" connaissance de "secrets", de propositions commerciales, de notre correspondance, de notre intimité...

Quelle serait la bonne méthode pour lutter contre les contenus illégaux en ligne ? 

La première question est plutôt "qu'est-ce qu'un contenu illégal ?" Si ici la question est la pédopornographie, je vous répondrais que la réponse est dans l'humain, mettre des moyens dans la justice pour que les affaires soient traitées rapidement mais aussi dans les services d'investigations sur ce sujet sensible et leurs équipes de soutien devant l'horreur du sujet. Cela vaut pour tous les sujets qui servent aujourd'hui d'appel d'air à ce genre de législation : la pédopornographie, le terrorisme, la lutte contre la haine et le harcèlement en ligne...

La priorité pour les personnes qui seraient amenées à prendre des décisions sur les questions numériques est surtout d'avoir une véritable compréhension des mécanismes, du fonctionnement des réseaux, de la cryptographie pour ne pas tomber dans la facilité du technosolutionnisme.

Cédric Levieux est porte-parole du Parti Pirate