Vidéos trafiquées : les deepfakes deviennent de plus en plus faciles à produire et de plus en plus crédibles

Atlantico.fr : Comment expliquer la facilité et le degré d'élaboration avec lesquelles les deepfakes sont réalisées aujourd'hui comparativement à il y a 10 ans ?

Alexander Polonsky : Il y a deux facteurs évidents :

- d'une part, les progrès des logiciels d'analyse d'images et d'audio ont considérablement réduit la barrière d'entrée nécessaire pour générer les deepfakes ;

- d'autre part, la montée exponentielle des médias sociaux a créé un excellent canal de diffusion pour les fausses informations en général, et pour les deepfakes en particulier.

Chez Bloom, nous avons développé des approches uniques pour détecter les fausses informations sur les réseaux sociaux. Bien que nous n'ayons pas vu beaucoup de deepfakes jusqu'à présent dans notre travail, nous nous attendons à ce que cela change dans un proche avenir.

Quels sont les outils qui permettent de les détecter ?

La détection des deepfakes est un domaine de recherche actif, avec des algorithmes en constante amélioration. Cependant, c'est une course aux armements sans fin : les améliorations dans la création et la détection de deepfakes vont de pair. Tout comme avec les virus informatiques, le but ici est de rendre les deepfakes indétectables suffisamment coûteux à créer afin de réduire leur prévalence.

Déjà aujourd'hui, il existe des outils de détection des deepfakes clé en main disponibles pour les organisations et le grand public, tels que deepware.ai ou serelay.com.

Comment pouvons nous protéger les populations les plus fragiles, en particulier les adolescents, des dangers de la diffusion de ce type de fausse information ?

La stratégie de défense est similaire à la lutte contre la diffusion de fausses informations en général :

1. identifier et supprimer en permanence les comptes malveillants

2. dans la mesure du possible, identifier et sanctionner les organisations ou les individus derrière ces comptes

3. promouvoir le développement et l'utilisation de technologies efficaces pour la détection des deepfakes

4. promouvoir des initiatives éducatives qui apprennent à la population à détecter les fausses informations en général, et les deepfakes en particulier

5. obliger les logiciels de création de deepfakes à baliser ces contenus de manière normée pour faciliter leur détection.