L'UE appelle à davantage de vérification des faits sur les médias sociaux

La Commission européenne a demandé aux grandes entreprises technologiques d'intensifier la vérification des faits dans toute l'UE, en particulier en Europe centrale, et d'introduire des systèmes d'identification qui étiquetteraient les textes et les images générés par l'IA dans le but de lutter contre la désinformation, a révélé la vice-présidente de la Commission Věra Jourová à une conférence de presse le lundi 5 juin.

Plus tôt dans la journée, le vice-président pour les valeurs et la transparence, ainsi que le commissaire au marché intérieur Thierry Breton, ont rencontré les représentants de 44 entreprises et organisations, dont Microsoft, Google, Meta, TikTok et Twitch, qui ont signé le code de l'UE . of Practice on Disinformation , un ensemble d'engagements volontaires pour coopérer avec Bruxelles dans ses efforts pour lutter contre les contenus préjudiciables sur les réseaux sociaux. Seul Twitter manquait, car la société s'est retirée du Code à la fin du mois dernier.

"La désinformation n'est pas nouvelle, mais [elle] a acquis de nouvelles forces dans le monde numérique", a déclaré Jourová, avant de souligner les dangers de la subversion russe dans les espaces en ligne européens, qui, selon elle, ont considérablement augmenté depuis le début de la guerre et visent affaiblir le soutien des Européens à l'Ukraine.

Par conséquent, Jourová a demandé aux entreprises d'intensifier considérablement leurs pratiques de «vérification des faits» et la surveillance des contenus trompeurs sur les réseaux sociaux, «en particulier dans les petits États membres et les langues», a déclaré le commissaire. Elle a souligné :

Nous avons besoin que [les entreprises de médias sociaux] disposent de capacités suffisantes dans tous les États membres et dans toutes les langues, en particulier les pays d'Europe centrale et orientale, [qui] sont constamment attaqués par des sources de désinformation, en particulier russes, et nous avons besoin que la vérification des faits soit effectuée correctement.

En outre, Jourová a appelé les entreprises à partager davantage de données qu'elles collectent grâce à la modération de leur contenu avec les chercheurs de la Commission afin de pouvoir brosser un tableau plus précis de la nature de la désinformation russe, qui pourrait faire le plus de dégâts dans les problèmes liés à la sécurité. et l'intégrité électorale. Encore une fois, en particulier en Europe centrale. Comme elle l'a souligné,

Il s'agit de… comprendre les raisons pour lesquelles, dans certains États membres, il existe un terreau nourricier - ou un terrain préparé - pour [l']absorption d'[une] grande partie de la désinformation.

À l'ère de l'intelligence artificielle, la vérification régulière des faits ne suffit plus, a souligné le commissaire plus tard, appelant les signataires du Code à mettre en œuvre de nouvelles mesures pour s'assurer que la technologie de l'IA n'est pas utilisée pour générer de la désinformation.

L'UE prépare actuellement la loi sur l'IA , son paquet législatif phare unique en son genre pour réglementer les applications à haut risque de cette technologie relativement nouvelle. Cependant, certains aspects de l'adoption de plus en plus généralisée de l'intelligence artificielle ont incité la Commission à aller droit au but avant que le processus législatif ne soit finalisé. 

L'un des défis les plus préoccupants est présenté par les modèles de langage ou les chatbots d'IA générant du texte, tels que ChatGPT d'OpenAI ou Bard de Google (qui pourraient cracher des messages très convaincants lorsqu'ils sont intégrés à des robots de médias sociaux), ainsi que des "deepfakes" - hyper -des images réalistes générées par l'IA, réalisées à l'aide de Stable Diffusion, Midjourney ou d'autres programmes similaires, dont la Commission craint qu'elles ne soient de plus en plus utilisées pour rendre la désinformation en ligne plus crédible.

"Ainsi, aujourd'hui, j'ai demandé aux signataires de créer une piste distincte dédiée au sein du Code pour discuter [des défis de l'IA]. Aujourd'hui, le Code ne couvre pas ce type d'outils », a déclaré Jourová, ajoutant que les entreprises devraient « mettre en place une technologie pour reconnaître le contenu [généré par l'IA] et l'étiqueter clairement aux utilisateurs ».

Un bon exemple des capacités de ces outils était une image générée par l'IA du pape François dans une veste bouffante qui est devenue virale sur Internet pour avoir fait croire aux utilisateurs qu'elle était réelle pendant une brève période. 

Alors que la modélisation de Francis pour Balenciaga n'était clairement qu'une blague, la même chose pourrait être facilement reproduite avec n'importe quelle personnalité publique bien connue, et pour des raisons bien plus malignes aussi. Ajoutez à cela les technologies génératrices de vidéo AI en évolution rapide ainsi que les synthétiseurs vocaux AI déjà crédibles, et vous pourriez faire des images scandaleuses de n'importe quel Eurocrate ou fonctionnaire du gouvernement qui laisseraient certainement une tache sur leur réputation.

"Aujourd'hui, c'est surtout un jeu, mais demain, vous pourriez voir du faux porno avec un candidat", a déclaré un responsable européen anonyme à Politico avant la réunion.