Modération biaisée : derrière le cas Mila, ces questions gênantes auxquelles refusent de répondre les réseaux sociaux | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Mila et son avocat Richard Malka lors de l'audience, en juin 2021, où treize personnes font face à des accusations de harcèlement en ligne et de menaces de mort contre l'adolescente.
Mila et son avocat Richard Malka lors de l'audience, en juin 2021, où treize personnes font face à des accusations de harcèlement en ligne et de menaces de mort contre l'adolescente.
©BERTRAND GUAY / AFP

Censure

Modération biaisée : derrière le cas Mila, ces questions gênantes auxquelles refusent de répondre les réseaux sociaux

La jeune femme harcelée depuis 2 ans sur les réseaux sociaux comme dans la réalité pour s’être rebellée contre des musulmans qui l’agonisaient d’insultes homophobes peine toujours à se voir traiter de manière impartiale par nombre de géants du web.

Fabrice Epelboin

Fabrice Epelboin

Fabrice Epelboin est enseignant à Sciences Po et cofondateur de Yogosha, une startup à la croisée de la sécurité informatique et de l'économie collaborative.

Voir la bio »

Atlantico : Mila, harcelée pendant presque deux ans, peine à se voir traiter de manière impartiale par les réseaux sociaux. Son compte Twitter a notamment été suspendu en mars 2021. Le réseau social a rapidement fait marche arrière, évoquant une « erreur ». Comment expliquer que son compte soit censuré et pas ceux des personnes qui l’ont insultée et menacée de mort ? Est-ce lié au fonctionnement des algorithmes ?

Fabrice Epelboin : Un algorithme ne peut pas reconnaître ce que l’on définit comme une « menace de mort ». Il repère en revanche des taux d’engagement, de conversion, un certain temps passé sur tel ou tel produit … Ils permettent d’exercer une modération en se basant sur le retour des utilisateurs. Si un grand nombre de personnes tombent sur une publication de Mila et décident de la signaler, le système prendra en compte ces signalements et la publication sera automatiquement retirée. 

A l’inverse, un compte isolé qui profère des menaces de mort envers une seule et unique personne ne sera pas signalé par un grand nombre d'individus. Il ne sera donc pas supprimé. C’est tout le problème des algorithmes, et ce phénomène existe depuis une dizaine d’années.

Lorsqu’intervient une décision humaine pour arbitrer ces signalements, elle peut alors décider de revenir sur la décision. Ces arbitrages se font au cas par cas. 

Certaines personnes, notamment certains groupes militants sont-ils plus enclins à effectuer des signalements ?

Il existe des niveaux de maturité très disparates sur ces questions au sein des différents groupes militants. 

En premier lieu, il y a ce que l’on appelle vulgairement les « fachos ». A la fin des années 1990, ces personnes ont été exclues des médias traditionnels et se sont emparées d’internet, puis des réseaux sociaux. Ils ont une génération d’avance sur les autres et connaissent tous les codes du militantisme en ligne : comment défendre ses idées, comment attaquer le clan adverse … 

À Lire Aussi

Affaire Mila : les failles et le silence (coupable) de l’Etat

Il y a ensuite toute la population maghrébine qui a vécu le printemps arabe par procuration sur les réseaux sociaux. Ayant vécu la révolution tunisienne à travers le prisme de Facebook, cette population a perdu toute forme de confiance envers les médias. En tant que groupe social, ces personnes se sont forgé une solide connaissance des réseaux sociaux et de leur usage à des fins politiques.

Quelques années plus tard, les militants de gauche proches du mouvement de la France Insoumise ont commencé à investir ces milieux. Ils ont fait de nombreuses expériences et ont appris de leurs échecs. Ils savent parfaitement mener une guerre des idées sur internet. 

Enfin, la droite républicaine et la République en Marche ont longtemps considéré l’usage des réseaux sociaux comme un « gadget ». Ils se sont intéressés assez tard à ces questions.

Le niveau d’acceptabilité de certains discours peut-il varier d’un pays à l’autre ?

Le discours français sur la laïcité est considéré comme raciste aux États-Unis. A l’inverse, le discours racialisant qui vient des États-Unis, ou la race est considéré comme un élément identitaire, est totalement inacceptable en France. Même si nos cultures nous semblent proches, il y a un cultural gap important, ce que les algorithmes ne parviennent pas à comprendre. A titre d’exemple, sur les chaînes américaines, on peut voir des émissions « pour les noirs » ou « pour les latinos », ce qui parait impensable en France. 

Certaines photos publiées sur le compte TikTok de Mila ont été censurées sous prétexte qu’elles présenteraient un caractère pornographique, ce qui n’est de toute évidence pas le cas. Même son de cloche lorsque la jeune femme fait appel de la décision et qu’une personne vérifie physiquement les contenus. Comment expliquer cette censure ?

À Lire Aussi

Dépression en ligne : la modération par les réseaux sociaux des contenus dangereux pour la santé mentale pourrait être pire que le mal

Si des milliers de personnes dénoncent ces photos et décrètent qu’elles présentent un caractère pornographique, alors l’algorithme agira en tant que tel. 

Il faut surtout se demander où a été réalisée la modération humaine, et dans quelles conditions. Lorsque Twitter ou TikTok font appel à un service de modération francophone, ils ne peuvent pas le trouver en France car le coût du travail est beaucoup trop élevé. De plus, on sait que ces métiers peuvent engendrer de lourdes conséquences psychologiques sur les travailleurs. 

Pour modérer les contenus en français, les géants du numérique cherchent donc un pays francophone, avec un faible coût de la main d'œuvre et qui présente peu de contraintes relatives au droit du travail. Ils se dirigent donc souvent vers les pays du Maghreb, ou Mila est très connue. Cette situation peut donc poser un véritable problème dans cette affaire. 

À Lire Aussi

#JeSuisMila ou #JeSuisWoke : radioscopie des rapports de force dans la génération Z

Le sujet vous intéresse ?

Mots-Clés

Thématiques

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !