Censure non avouée et algorithmes défaillants : à quoi joue Twitter - X ?

Atlantico : Sur X (ex-Twitter), vous avez récemment révélé avoir été “ghosté”, ce qui rend vos réponses invisibles et empêche toute interaction avec votre compte. X pourrait-il volontairement ghoster, ou censurer certains comptes ?

Pierre Beyssac : Oui, X a même de plus en plus besoin de le faire pour lutter contre les "bots", ces robots qui viennent déposer du contenu indésirable, du "spam", propagande politique, publicitaire, etc. Ils sont aujourd'hui omniprésents sur Twitter et, bien qu'Elon Musk le propriétaire ait promis de lutter contre eux, il semble avoir beaucoup de mal à les endiguer.

Depuis plusieurs semaines, sans aucune raison, Twitter a identifié à tort mon usage comme "anormal", me confondant avec un bot, et restreignant donc ma visibilité comme il le ferait pour éviter qu'un bot importune d'autres utilisateurs.

Ainsi, en particulier, toutes mes réponses apparaissent aux autres usagers comme "Ce post n'est pas disponible", comme si mon message avait été jugé illicite ou problématique et supprimé par la plateforme.

Malgré une période initiale avec avertissement me prévenant que mon compte était passé en mode restreint car identifié comme ayant un usage anormal, tout semblait résolu depuis. La situation de blocage est réapparue récemment sans nouvel avertissement.

Il n'y a aucun moyen direct de m'en apercevoir, tout semble normal dans mon propre usage. J'ai simplement découvert le pot aux roses en réalisant que plus personne ne me répondait.

Pire, il n'existe aucun moyen de recours, malgré les dispositions du nouveau Digital Services Act qui exige que les grandes plateformes mettent en place des procédures d'appel pour gérer ce genre de "balle perdue".

Je suis loin d'être le seul utilisateur dans ce cas. En pleine campagne électorale, cette situation est très pénalisante.

Pour X, existe-t-il des lignes à ne pas franchir afin de rester visible aux yeux de tous ? Existe-t-il un manque de pluralisme au sein de la plateforme ?

Il existe des lignes à ne pas franchir, mais elles ne sont pas explicitées par Twitter. On peut donc les violer sans en avoir conscience.

En outre, ces lignes varient manifestement suivant les comptes utilisateurs. Les comptes payants ne sont pas soumis aux mêmes règles de blocage et de visibilité que les autres, ce qui est une façon pour Musk de pousser à payer.

Les règles sont très nombreuses et peuvent varier suivant le nombre d'abonnés, d'abonnements, le ratio entre les deux, etc.

Différents signaux sont utilisés, probablement tout ou partie de :
        - le nombre d'abonnés
        - le nombre d'abonnements
        - le volume de messages par l'utilisateur
        - le volume de nouveaux abonnements
        - le volume de rediffusions, de likes
        - le volume de signalements par d'autres utilisateurs
        - la nature des messages : liens web, photos, mots clés
          particuliers (pornographie, complotisme, politique, etc)
        - etc

Les algorithmes de X peuvent-ils également être en cause ? Le manque de contrôle et de main humaine peut-il expliquer la situation actuelle de la plateforme ?

Bien entendu. Les algorithmes sont conçus pour nécessiter le minimum d'intervention humaine. Cependant, ils peuvent être mal calibrés et déclencher à tort des mesures de rétorsion (faux positifs).

Les modérateurs humains, beaucoup plus coûteux et lents à mettre en œuvre, ne sont sollicités que dans les cas où l'algorithme le juge utile, ce qui est défini par les programmeurs de la plateforme. Solliciter trop souvent les humains provoquerait un engorgement de leurs tâches, ou serait économiquement intenable pour la plateforme.

Là aussi l'opacité règne, aussi bien dans les règles algorithmiques que dans celles appliquées par les humains.

Certaines règles ont été publiées, ce qui fut à l'initiative et à porter au crédit de Musk. Ce sont principalement celles concernant le volume de visibilité appliqué aux contenus. En effet il existe certains critères pour rendre moins visibles les liens externes (qui font perdre de l'audience à Twitter en envoyant les utilisateurs
sur d'autres sites), ou certains sujets. Il en découle des stratégies toxiques pour en profiter, comme ces comptes qui recopient des informations issues de sites de presse, mais sans en donner le lien source.

Les détails publics de l'algorithme sont ici : https://github.com/twitter/the-algorithm

Au détour des pages, on voit apparaître des règles liées à des mots-clés comme Ukraine, Covid, pornography :

https://github.com/search?q=repo%3Atwitter%2Fthe-algorithm%20ukraine&type=code
https://github.com/search?q=repo%3Atwitter%2Fthe-algorithm+covid&type=code
https://github.com/search?q=repo%3Atwitter%2Fthe-algorithm+pornography&type=code

qui induisent des variations de visibilité données aux contenus associés.

Les parties concernant les mesures de protection ne sont pas divulguées, afin de ne pas donner d'information aux auteurs de bots leur permettant d'échapper à leur détection.

Le compte X d’Atlantico gagne des followers tous les jours, avant d’en perdre un nombre équivalent. Beaucoup de comptes sont-ils dans une situation similaire ? À quoi cela pourrait-il être dû ?

Il faut observer la variation du nombre d'abonnés sur le long terme. Depuis la mise en place des comptes payants, les comptes non payants sont défavorisés et voient leur croissance "naturelle" réduite.

Cette situation peut être normale. Il existe des salves d'abonnements venant de bots ou faux comptes qui sont quelques heures après détectés et détruits par Twitter, provoquant des pertes d'abonnés. Les bots s'abonnent pour essayer de se faire passer pour des humains. Twitter considère donc comme anormal un nombre élevé d'abonnements en rafale. Épisodiquement, Twitter prévient d'un "nettoyage général" qui va aboutir pour tous à des pertes notables d'abonnés.

Il existe donc une "course aux armements" permanente entre les bots et leurs détecteurs.

Espérons que les bots ne sont pas en train de la gagner. Pour l'instant, il est assez frustrant de voir de nombreux bots pulluler impunément alors que de nombreux comptes d'humains comme le mien sont bloqués à leur place.