TikTok encore plus dangereux pour les adolescents que ce qu’on imaginait : c’est ce qu’établit une nouvelle étude britannique

Atlantico : Une nouvelle étude suggère que l'algorithme de TikTok propose aux adolescents des contenus relatifs à l’automutilation, aux troubles alimentaires ou encore au suicide quelques minutes après qu'ils aient exprimé leur intérêt pour ces sujets. Comment est-elle arrivée à de telles conclusions ? 

Anthony Poncier : Généralement, de telles études sont réalisées suite à des plaintes. Pour la mener à bien, il faut créer de faux profils types pour voir comment le réseau agit par la suite. Ce qui fait justement la force de TikTok, c’est que l’algorithme est très réactif. Contrairement à d’autres plateformes, il fait remonter des sujets quasiment instantanément. De plus, contrairement aux réseaux comme Twitter, les contenus TikTok sont générés en fonction des centres d'intérêt et pas de la communauté. Si une personne indique un intérêt pour l’automutilation ou le suicide, l’algorithme fait donc remonter des contenus qui correspondent. 

Comment expliquer la promotion de tels contenus auprès de jeunes potentiellement fragiles ?

Tomber sur de tels sujets pose problème car normalement, ces contenus sont interdits par les conditions générales d’utilisation. En réalité, la politique de modération de TikTok est bel et bien responsable. Un enquête de la CNIL pointe d’ailleurs la mauvaise performance de TikTok en la matière.  

En somme, si TikTok ne pousse pas un contenu plus qu’un autre, le réseau social devrait avoir un rôle de garant et appliquer une mission, protéger les plus jeunes. On peut donc se demander si cette mission fait réellement partie de leurs préoccupations : il n’y a pas aujourd’hui de réelle politique de modération pour empêcher ces sujets problématiques de remonter.  

Ces contenus représentent-ils « le cauchemar de tous les parents », comme l’indique le directeur général du Center for Countering Digital Hate, qui a mené l’étude ? Dans quelle mesure faut-il s’en inquiéter ?

Depuis toujours, et c’est encore plus vrai avec Internet, la question du contrôle des parents s’est posée. TikTok étant une plateforme extrêmement virale, la question se pose d’autant plus. La diffusion de contenus va beaucoup plus vite que sur d’autres réseaux sociaux. Tout comme Snapchat, TikTok s’adresse surtout à des jeunes qui connaissent ces réseaux et pour qui il devient compliqué de mettre en place un certain contrôle. Ce phénomène existe depuis une dizaine d’années, même s’il y a plus de contenus violents sur TikTok. En somme, si la création de contenus devient de plus en plus compliquée à réguler, il n’y a rien de nouveau en soi.  

Comme vous le faites remarquer, les directives de TikTok interdisent les contenus qui encouragent les comportements pouvant mener au suicide et à l’automutilation. Faudrait-il aller plus loin ? Comment ? 

La vraie question est de savoir comment est-il possible de modérer un contenu. Peut-on avoir un certain nombre de personnes pour les visionner ? Humainement, cela pose de nombreux problèmes, notamment en termes de santé mentale pour ces modérateurs. De plus, l’algorithme est censé bloquer des contenus problématiques mais il a beaucoup de mal à agir correctement. Enfin, ces plateformes étant mondiales, le rapport à la liberté d’expression se pose. En France par exemple, certaines instances peuvent bloquer les contenus litigieux. En revanche, on sera plus à l’aise avec des photos de nus mais « L’origine du monde » de Gustave Courbet sera tout de suite bloquée sur Facebook. Cette question de liberté est donc à géométrie variable et dépend de la région dans laquelle on se trouve.  

Il y a une logique commerciale qui se retrouve en opposition avec la logique éthique. Il faut donc trouver un juste milieu et je ne suis pas très optimiste à ce sujet.