Forcer WhatsApp et autres messageries à espionner vos photos pour lutter contre la pédocriminalité : juste cause, dangereuse méthode

Atlantico : Que pensez-vous de cette proposition de réglementation européenne qui obligerait les messageries comme WhatsApp à inspecter les photos des utilisateurs pour lutter contre la pédocriminalité ?

Pierre Beyssac, candidat sur la liste du Parti Pirate : Le projet est extrêmement dangereux, et dénote une méconnaissance complète du droit au secret des correspondance, établi depuis l'existence du courrier postal. Par le scan systématique des contenus photographiques et vidéo qu'il exige, il constitue un précédent sans équivalent en matière de surveillance de masse.

On peut habituellement faire confiance à l'UE, plutôt pondérée en matière de légifération sur le numérique, mais c'est ici l'exception.

Cependant, en raison des nombreuses controverses qu'il a soulevées, le projet, que la présidence belge voudrait boucler avant la fin de son mandat (fin juin 2024), pourrait rester bloqué, voire être remisé au placard, selon le site Euractiv.

En particulier, il existe des soupçons de conflit d'intérêt avec l'ONG Thorn, une association de protection de l'enfance, qui pourrait avoir un intérêt commercial au scan d'images en ligne , et qui a été l'un des influenceurs de ce projet.

Quels sont les principaux risques de détournement de procédures et d’erreurs associés à cette méthode de surveillance des messageries ?

Le système proposé inclut 2 moyens de détection :

- La simple détection d'échange d'images déjà "connues par la police", qui nécessite cependant bien entendu une rupture du secret des correspondance.

- La détection de nouvelles images par IA, procédé extrêmement peu fiable, qui va donc donner lieu à de nombreux "faux positifs" qui, ou bien devront être filtrés par les services compétents (perte de temps), ou bien donneront lieu à des sanctions injustifiées auprès d'utilisateurs innocents. Voulons-nous vraiment que nos communications privées soient soudain à la merci d'erreurs de robots-délateurs ?

Les "bavures" d'un système de scan par IA détectant à tort des pédocriminels auraient de graves conséquences sur les personnes injustement mises en cause.

Le principe même de scanner l'intégralité des contenus échangés consiste déjà, en soi, à suspecter l'ensemble de la population : jusqu'ici, les "écoutes" ne sont ciblées que sur des personnes suspectées par ailleurs de se livrer à des comportements répréhensibles.

La loi et même les droits humains élémentaires considèrent que tout citoyen a droit au respect de son intimité. Personne n'a à s'en justifier, même s'il n'a "rien à cacher".

Le procédé n'étant pas jugé acceptable par les parlementaires, Bruxelles a proposé une pirouette juridique : demander un "consentement de scan" à l'utilisateur, en l'échange duquel celui-ci serait en droit d'envoyer des photos et vidéos. Il s'agit bien sûr d'un faux consentement puisqu'il serait arraché par la force, comme condition pour utiliser le service, cachée au fond de quelques dizaines de pages de conditions d'utilisation que personne ne lit.

Dans quelle mesure pensez-vous que cette approche pourrait réellement être efficace pour lutter contre la pédocriminalité en ligne ?

Patrick Breyer, eurodéputé Pirate allemand, en pointe dans la lutte contre ce projet, a démontré que la surveillance de masse de ce type n'est pas nécessaire ni utile dans la lutte contre la pédocriminalité. Les moyens d'enquête classique sont largement suffisants, à condition que les services qui effectuent les enquêtes soient suffisamment dotés.

Comment évaluer la proportionnalité entre l’atteinte aux libertés publiques et l’efficacité attendue de cette mesure, et quels critères devraient être pris en compte pour garantir un équilibre acceptable ?

L'idée même de scanner systématiquement l'ensemble de nos échanges privés pour y détecter des contenus problématiques est sans précédent.

L'équivalent dans la "vie réelle" serait un droit de perquisition perpétuel de la police dans nos domiciles. Accepterions-nous d'avoir chez nous une descente de police à tout bout de champ pour vérifier que ce que nous avons dans nos placards ne contrevient pas à la loi ?

On ne parle pour l'instant que des cas les plus graves propres à émouvoir l'opinion (pédocriminalité), mais les mesures de restrictions sont toujours étendues au fil du temps à de simples délits, comme on l'observe en France sur les blocages de sites sans juge, par exemple : la loi SREN (sécuriser et réguler l'espace numérique) applique désormais aux simples arnaques en ligne des blocages qu'on nous avait initialement promis de ne limiter qu'à la pédocriminalité ou au terrorisme.

Il ne fait donc aucun doute qu'un scan de nos messageries privées serait élargi au fil des années pour inclure de plus en plus d'infractions de plus en plus mineures.

Les États lorgnent depuis longtemps sur les séduisantes et immenses possibilités de surveillance qu'offre la technologie numérique pour le maintien de l'ordre. Le KGB de l'ex URSS en aurait rêvé.

Nous devons désormais nous battre contre cette tentation qui nous emmènerait vers une société "à la chinoise".

Les élections européennes sont un moment idéal pour que les citoyens s'expriment sur ce sujet par leur vote pour défendre leurs droits, et décider de la société future qu'ils appellent de leurs vœux.