Pourquoi le plan gouvernemental de lutte contre le harcèlement et la haine en ligne sous-estime les difficultés technologiques pour y parvenir

Atlantico : Vous pointez du doigt avec ironie l'idée que le gouvernement accède aux alogrithmes facebook pour "réguler la haine" sur Internet. Au niveau purement technique, cette volonté de vouloir réguler les réseaux sociaux via une IA est-elle seulement crédible ?

Fabrice Epelboin : Il n'y a pas que le gouvernement à vouloir faire ça. Facebook en a l'ambition mais les premiers à vouloir faire ça sont les Chinois. Et les Chinois en sont encore à une approche humaine. Derrière les projets d'intelligence artificielle, ce que vous trouvez principalement c'est une armée de "petites mains", le tout supervisé par des algorithmes. On appelle ça des IA mais il s'agit en réalité de programmes de "deep-learning", donc une sous-catégorie, qui observent le travail des "petites mains" pour apprendre et un jour les remplacer.

On remarque ce cas de figure dans de nombreux secteurs d'activité comme les banques par exemple. Le projet est de remplacer de nombreuses professions par le deep-learning. Pour certains métiers cela fonctionnera très probablement, pour d'autres il faut être plus circonspect. Mais une chose est certaine, ça n'est pas pour un avenir proche et l'on va d'abord passer par un traitement humain, et c'est le cas pour les réseaux sociaux.

Concernant cette volonté de lutte contre la haine, au milieu de plusieurs polémiques, quel est l'objectif principal du gouvernement selon vous ?

C'est assez drôle que cela survienne au moment de la polémique de la Ligue du Lol. On s'aperçoit que cette haine a été notamment construite au cours des années par des gens qui travaillent aux Inrocks ou à Libération. Nous sommes dans une situation où la haine a été instillée par les deux camps et on veut lutter contre ça à travers une loi qui se profile comme une loi de censure. Cette loi va faire en sorte qu'il y ait une autorité administrative qui décidera d'un point de vue arbitraire (car la décision ne sera pas judiciaire mais administrative) de supprimer la liberté d'expression à certains.  

Est-ce qu'on va supprimer "la haine" ou est-ce qu'on va supprimer des adversaires ? Pour l'instant l'usage qui a été fait par ce camp de ce genre de pouvoir ne laisse pas présager que l'on s'attaque principalement à la haine. Pour l'instant on ne fait que l'instrumentaliser.

L'objectif est une loi de censure. La volonté est que l'Etat français, à défaut de la justice, soit en mesure de revenir sur ce qui se discute sur Internet et notamment les réseaux sociaux pour pouvoir, sur des critères plus ou moins transparents, supprimer la parole de certains.

La supprimer d'avantage que simplement ce qui tomberait sous le coup de la loi ?

Il n'y a pas de justice dans ce processus, il n'y a donc pas de loi. Il n'a pas de juge ou de procédure. Nous sommes dans la situation d'Hadopi mais en plus dangereux. Car autant, il est aisé de déterminer que vous téléchargez un MP3 de manière illégale sur une plateforme de peer-to-peer, autant déterminer la haine c'est bien plus discutable. Un juge peut le faire, nous sommes dans une démocratie, mais pas une autorité administrative.

Selon vous, la judiciarisation de toutes ces démarches serait-elle la solution ? Les moyens nécessaires (humains et économiques) ne seraient-ils pas disproportionnés ?

Sans même parler que nous n'avons pas les ressources humaines, non ça ne serait pas une solution non plus. Évidemment dans une volonté démocratique, ça serait la solution idéale mais nous n'en avons pas les moyens.

Si toutes les solutions proposées sont inapplicables, comment lutter contre ces phénomènes que sont par exemple le cyberharcèlement ?

En luttant contre ça, on lutte hélas contre une caractéristique humaine contemporaine. L'idée que le politique pourrait terraformer la société d'un simple coup de baguette magique a vécu. Selon moi il faudrait avant tout comprendre comment nous en sommes arrivés là. C'est une opportunité unique. La Ligue du Lol vient de sortir mais ça n'est pas la seule organisation de ce type, au contraire. Il y a 10 ans, Twitter était le Far-West. Twitter a donné à tout ça une amplitude énorme. Le harcèlement, les carrières détruites, les gens poussés au suicide, ça a toujours existé, ça n'est pas un problème lié spécifiquement à Twitter.

Ce type de comportement est-il lié intrinsèquement à Internet ?

Pas du tout. C'est une caractéristique des sociétés humaines et une caractéristique de ce qu'on appelle les pervers narcissiques. Ces technologies ont permis à cette perversité de résonner et de s'enfermer au sein de groupes pour attaquer des personnes, avec souvent un intérêt personnel en ligne de compte.
Je fais personnellement de l'activisme et les techniques que l'on emploie peuvent être les mêmes. Simplement les cibles changent, nous on s'attaque aux puissants. C'est la grande différence.

Quelles solutions possédons-nous à ce problème ?

Je n'ai pas de solution miracle à ce qu'il se passe en ce moment mais il faudrait avant tout commencer par comprendre et mettre au jour le cheminement de la construction de la haine en France. Les responsables de la haine ne sont pas forcément dans le seul camp des "méchants".

Un exemple frappant est le cas du community-manager de la campagne d'Emmanuel Macron. Il fait partie de la Ligue du Lol ! C'est absolument incroyable, nous avons affaire à un  Benalla du numérique. L'experte social-média de Hanouna, qui est aussi chroniqueuse dans ses émissions, est une ancienne de la Ligue du Lol ! On ne peut que remarquer à quel point Hanouna est capable de faire des "trending-topics" (sujets tendances) tous les soirs et déclencher des "raids" avec ses fans. On remarque une certaine similitude et un certain savoir-faire… D'où a-t-il hérité ce savoir-faire ? La réponse parait évidente aujourd'hui.

C'est ce genre de questions qu'il faut se poser et regarder notre société en face. Le numérique a apporté une puissance de feu considérable et a complètement transformé notre société. Il est temps de changer de prisme "camp du bien/camp du mal" et de voir la "Big Picture" dans son ensemble.