Les applications utilisant l’intelligence artificielle pour dénuder les femmes sur les photos se multiplient

Atlantico : Selon Graphika, une société d'analyse des réseaux sociaux, il y a de plus en plus d'applications Nudify qui utilisent l'IA pour déshabiller les femmes sur les photos. Comment marchent ces applications? Que peut-on vraiment faire avec ? Sont-elles légales ?

Alexander Polonsky : Ces applications utilisent deux techniques :

1) les algorithmes d'IA générative pour analyser les images et générer une version modifiée qui simule le déshabillage,

et/ou

2) les techniques de deep learning pour créer des "deepfakes" (images ou vidéos manipulées de manière réaliste) en superposant des images des corps nues anonymes avec les visages des cibles. Leurs capacités (image, vidéo..) et la qualité varient beaucoup d'une application à l'autre.

La cadre légal dépend de l'usage. La diffusion publique d'images "déshabillées" peut être considéré comme une injure ou une diffamation et puni d’une amende de 12 000 € (art. 32 de la Loi du 29 juillet 1881), selon la CNIL.

Cette montée en puissance correspondrait à la sortie de plusieurs modèles de diffusion Open Source, ou intelligence artificielle, capables de créer des images bien supérieures à celles crées il y a quelques années à peine. Qu'est-ce que ça veut dire ? Des produits de meilleure qualité sont accessibles à tous ?

La mise à disposition de modèles de génération d'images en open source signifie que ces technologies sont plus largement accessibles. D'un côté, les développeurs et les chercheurs peuvent utiliser, étudier et améliorer ces modèles. De l'autre côté, l'accessibilité accrue de ces technologies comporte des risques, comme l'utilisation abusive de la génération d'images pour des activités illégales ou nuisibles, comme les deepfakes.

Ces applications font partie d'une tendance inquiétante de développement et de diffusion de pornographie non consensuelle, la deepfake pornographie. Chacun peut se retrouver nu sur Internet sans le savoir ?

Effectivement, n'importe qui peut être ciblé : leur visage peut être superposé sur des contenus pornographiques et puis diffusé sans le consentement des victimes, avec des conséquences graves sur leur vie personnelle et professionnelle.

En septembre 2023, 24 millions de personnes ont visité des sites web de déshabillage. Comment se protéger d'un deepfake pornographique ?

Voici quelques conseils pour se protéger :

- Minimisez le partage public des ses photos et vidéos pour réduire la qualité des deepfakes

- Utilisez des alertes Google pour surveiller votre nom en ligne et être informé si de nouvelles informations vous concernant apparaissent sur Internet.

Si vous découvrez que vous êtes la victime d'un deepfake pornographique sur une plateforme en ligne :

- Signalez immédiatement le contenu aux modérateurs de la plateforme ;

- Portez plainte auprès du commissariat de police, de la gendarmerie ou du procureur de la République auprès du tribunal judiciaire ;

- Pour des enfants ou adolescents, contactez le numéro national pour les victimes de violences numériques : 3018.