Après les fake news, la menace des faux textes ?

Atlantico : Le logiciel de création de faux textes GPT-2 inquiète ses créateurs dans le sens où la technologie employée pourrait être utilisée à des fins de propagation de fausses informations en ligne. Concrètement quels sont les risques d'un détournement d'un tel outil ?

Alexandre Alaphilippe : Le scénario noir serait une combinaison de textes écrits, de synthétisation de voix qui peuvent ressembler à de la voix d'hommes politiques ou de personnalités connues pour leur faire dire des choses qui n'existent pas et les faire circuler sur les réseaux sociaux. C'est un risque nouveau avec une technologie nouvelle qui pourrait avoir un impact négatif mais aujourd'hui rien n'est certain. Derrière ce scénario toutefois se pose la question de la labellisation des contenus publiés en ligne. L'évolution des technologies de l'intelligence artificielle pousse à se poser la question de la possibilité d'indentification des contenus qui seraient artificiels. Ces réflexions doivent être entamées dès aujourd'hui. Aujourd'hui et comme l'explique le Guardian, il est possible d'identifier facilement les contenus produits par GPT-2. Mais ces contenus seront de moins en moins identifiables à l'avenir avec le développement de l'IA car le but est d'arriver à quelque chose qui soit indétectable pour ne plus faire de distinction entre hommes et machines.

Les deep fakes (fausses vidéos) d'abord, maintenant GPT-2… ces nouveaux risques inquiètent de manière grandissante les autorités mais ne sommes-nous pas en train de prendre le problème par le mauvais bout ? A-t-on raison de se focaliser à ce point sur l'aspect technologique du problème des fausses informations ?

Il convient de distinguer deux choses. D'abord le cadrage très marketing de toutes les entreprises qui veulent produire de l'intelligence artificielle. Les grosses sociétés américaines ou européennes sont en train de montrer ce qu'il est possible de faire avec cette dernière en vue de futures perspectives commerciales.

Ensuite, même si ces technologies présentent des risques qu'il est important de ne pas minorer, il faut garder en tête qu'elles ne représentent pas aujourd'hui le gros du problème. Nous ne voyons pas de propagations massives de vidéos produites par l'intelligence artificielle. Le cœur du problème reste la malveillance ou l'inattention humaine. Pas besoin de technologies pour propager des rumeurs ou sortir des phrases hors de leur contexte afin de nuire.

Il suffit de prendre l'exemple de l'incendie de Notre-Dame pour s'en rendre compte. Une vingtaine de minutes après que l'incendie de soit déclaré, de nombreuses rumeurs faisaient déjà état d'un acte criminel voire terroriste. Photos très pixélisées à l'appui présentées comme des preuves (alors qu'il s'agissait des statues de la cathédrale.

Les technologies qui permettent les deep fakes ne sont pas à la portée de n'importe qui aujourd'hui. Peut-être à l'avenir et c'est pour cela qu'il est nécessaire de les étudier mais il serait une erreur d'étudier le phénomène de la propagation des fausses informations uniquement par le prisme des nouvelles technologies.

Une étude "Ipsos global advisor" publiée hier montre qu'un Français sur deux pense que les journaux et magazines véhiculent de fausses informations et à l'inverse la seule source d'information qui inspire encore confiance se trouve dans les relations de proximité: plus d'un Français sur 5 (26%) reconnait faire davantage confiance à une information délivrée par une personne qu'il connaît personnellement. Si le constat peut inquiéter, n'est-il pas aussi une possible solution dans la lutte contre les fausses informations ?

Complètement. L'étude Ipsos confirme ce que l'école de Palo Alto a théorisé au début des années 1960 sur la théorie de la communication avec le phénomène des leaders d'opinion.

Ne nous y trompons pas, le vrai problème aujourd'hui est bien la défiance des citoyens envers les politiques et les médias. C'est sur ce terreau fertile que la propagation des fausses informations peut se faire. C'est bien cette quête d'une proximité retrouvée et d'une confiance restaurée qui doit être le centre des politiques de lutte contre les rumeurs et les manipulations de l'opinion.

Cette crise de défiance s'accompagne aussi d'une réelle remise en question par les médias sur leur mode de fonctionnement. On voit un retour à l'investigation et un vrai développement du fact-checking. Cela va dans le bon sens mais la lutte contre les fausses informations est loin d'être gagnée.