Pédophilie : l’IA ravive le cauchemar de la prolifération d’images d’abus sexuels

Atlantico : Il y a une recrudescence d'utilisation de l'intelligence artificielle pour générer de fausses images d’enfants et d'abus sur des enfants générés par l'IA. Quelles sont les nouvelles formes de dérives et de perversions sur Internet liées aux abus sexuels ?

Fabrice Epelboin : Ce n’est pas tant une recrudescence que l’apparition d’un phénomène lié à l’arrivée des IA génératives, mais pour ce qui est de la dépiction graphique d’actes de pédophilie, vous avez toute une littérature lolicon au Japon qui est là depuis bien longtemps. Ces IA telles que Dall-E ou Midjourney ont cette capacité extraordinaire de donner corps, pour peu qu’on sache s’en servir, aux images que vous avez dans la tête, il était inévitable que ce type d’utilisation apparaisse tôt ou tard.

Les prédateurs, les pédophiles ou les personnes déviantes utilisent-elles des moyens techniques comme le dark web ou le deep web pour justement partager des images générées avec l'intelligence artificielle ?

Il convient d’abord de démystifier un peu le dark web. C'est vraiment un mythe qui fait beaucoup fantasmer les journalistes, mais qui ne correspond pas à la réalité ou au fonctionnement de ces parties cachées d’Internet.

Le dark web est un système qui n'est accessible qu'à travers certaines technologies comme Tor et qui permet d'accéder à des serveurs qu'on ne peut pas localiser. Ce mécanisme est utilisé pour une multitude de choses. Initialement, cela a plutôt été pensé pour permettre, typiquement, à des militants dans des régimes autoritaires de partager de l'information, mais c’est aussi utilisé à des fins illégales, comme la vente d'armes, la vente de drogue, ou effectivement pour la pédopornographie.

Il est important d'insister sur le fait que le dark web est avant tout quelque chose d’utile et constitue un outil qui peut aussi protéger face à des régimes autoritaire, typiquement face à ce qu’il se passe en Iran de nos jours.

Ceci étant dit, l’utilisation du Darkweb pour le trafic d’image pédopornographique n’a rien de nouveau, j’ai participé à un livre publié en 2008 qui faisait un point détaillé sur l’usage d’internet pour ce trafic qui montrait comment dès le début des années 2000, anticipant le filtrage du web, ces trafiquants avait déménagé leur business dans le darkweb.

Est-ce que, malheureusement, les progrès technologiques tels que l'IA s'accompagnent aussi d'une recrudescence de perversité et de dérives pédopornographiques sur Internet ?

Une recrudescence, certainement pas, il suffit de se pencher sur les années 70 pour réaliser que la pédophilie a, si ce n’est reculé depuis, du moins que son acceptabilité sociale est en très net recul. Il y a dix ans à peine, Gabriel Matzneff était encore fréquentable et Roman Polanski célébré. A la fin des années 70, une quantité de personnalités et d’intellectuels signaient dans Libération une tribune réclamant la dépénalisation de la pédophilie. Force est de constater à quel point la société française a fait d’immense progrès sur ce plan. Si internet a eu un rôle là dedans, c’est au contraire de permettre aux victimes de parler et de faire en sorte que cette tolérance envers la pédophilie recule de façon considérable. 

Avec les prouesses de la technologie, est-ce que les enquêteurs qui traquent justement les pédophiles vont-ils pouvoir mieux débusquer les délinquants sexuels et les pédophiles grâce à ces images générées par IA et partagées sur le dark web ?

Avec une qualité qui rend la distinction entre une véritable photo et une image synthétique, l’arrivée de cette pédopornographie de synthèse va poser un énorme problème à ceux qui luttent contre la pédophilie, en noyant les véritables images qui permettent aux enquêteurs de remonter des pistes afin de porter secours aux victimes au milieu d’une quantité sans cesse croissante d’images de synthèse. Rappelons cependant que la simple détention d’images pédopornographique est un délit et que le juge ne fera pas la distinction entre une véritable image et une image synthétique, et ce dans bon nombre de législation dont la France.

Il y a également la crainte qu'au- delà des images, il y ait l'utilisation de fausses vidéos. Là aussi, est- ce que ça ne pose pas un problème éthique aux concepteurs de l'IA comme OpenAI, qui voient leurs outils détournés de manière illicite ?

Pour ce qui est de Dall-E d'OpenAI ou de Midjourney, cela n’est pas possible, il existe, comme pour toutes les autres offres “cloud” des sécurités qui interdisent la production de telles images. Il est impossible de demander à Dall-E de faire des images avec Xi Jinping, le président Chinois, par exemple, et il est hors de question de lui demander de produire de la pédopornographie. 

Par contre, pour les solutions open source que vous pouvez installer sur votre ordinateur, il est aisé de contourner cela. C’est avec ces solutions que l’industrie de la pornographie expérimente de nouvelles voie et que, à la marge, d’autres produisent de la pédopornographie.

Ceci dit, le problème n’est pas nouveau et là encore, pointer du doigt les technologies c’est éviter d’aborder le vrai problème, une société française encore très tolérante qui protège encore bon nombre de pédophile et qui est incapable de regarder enface un passé honteux.

Je peux utiliser Word pour écrire une lettre menaçant de mort quelqu’un, va-t-on accuser Microsoft de complicité pour autant ?

Est- ce qu’il n'y a pas une sécurité, si j'ose dire, liée au fait que peut- être les prédateurs en puissance, les pédophiles ne sont peut- être pas encore habitués à ces technologies, sur le fait de générer des images d’abus sexuels via l’IA ? Est- ce que cela va être un épiphénomène ? Les personnes qui souhaiteraient générer ces images sont-elles peu nombreuses, car peu expérimentées sur le plan informatique ?

Vraiment pas, non. La chasse aux pédophiles sur Internet les a, au contraire, poussés à monter en compétence. Si vous avez en tête que vous êtes confrontés à des individus qui sont moins adeptes de l'informatique que le commun de mortels, vous vous trompez lourdement. Typiquement, l'utilisation du dark net pour faire du trafic d'images pédopornographiques date du début des années 2000, a une époque où personne n'en avait entendu parler en dehors des spécialistes. La nature illégale de leurs activités le a poussé à apprendre à utiliser des outils pour se cacher ou masquer leurs actions.

La production d’image pornographique - pas pédopornographique - n’est certainement pas un épiphénomène, c’est plus, à priori, l’avenir de la pornographie. Les acteurs hollywoodiens qui font grève depuis quelques mois en dénonçant l’arrivée de l’IA arriveront peut-être à freiner l’arrivée de cette concurrence redoutable, mais la pornographie a toujours été en avance de phase dans l’adoption des nouvelles technologie et il est plus que vraisemblable qu’elle adopte rapidement les IA générative afin de fournir des offres ultra personnalisée dans ce qui est déjà depuis un bout de temps un marché constitué d’une multitude de niches. 

L’arrivée des images synthétiques dans la pornographie soulèvera des problèmes inédit, s’il est compliqué d’opposer autre chose de la morale à une production BDSM où tous les participants sont volontaires et consentants, ce consentement n’a aucun sens dans le cas d’images synthétiques, et les limites devront être repensées. La nature mondialisée du réseau internet nous obligera par ailleurs à nous confronter à des “cultural gap” sur lesquels nous fermons les yeux, que ce soit le fossé culturel qui sépare les USA de la France, que les américains surnomment “pédoland” pour sa tolérance à la pédophilie, ou celui qui nous sépare du Japon, où le viol et la pédophilie sont, tant que cela relève du fantasme, totalement intégré dans une vaste production de manga très populaires.

Par ailleurs, pour revenir sur la pédopornographie, il faut garder à l’esprit que le but de la répression est avant tout la protection des enfants. Les pédophiles étant une réalité, on peut légitimement se poser la question de l’usage d’une pédopornographie synthétique comme dérivatif permettant d’éviter le passage à l’acte. C’est un dilemme complexe qu’il faut se garder d’aborder avec de la morale si l’on cherche sincèrement à éviter les abus sexuels sur les enfants, or en France, l’objectif est avant tout de glisser la poussière sous le tapis et d’attendre patiemment que les dernières générations qui ont versé dans de telles abus en toute impunité disparaisse, ce qui n’est pas sans rappeler la façon dont on a géré “les heures sombres” de notre Histoire, évitant le plus longtemps possible de regarder le rôle de la France durant la seconde guerre mondiale, reconnu par Jacques Chirac en 1995, cinquante ans après la fin du conflit.

Par ailleurs, tout comme l’arrivée des images synthétiques menacent l’existence des productions cinématographiques telles que nous les connaissons aujourd’hui, il en est de même pour la pédopornographie synthétique, et pour le coup, on ne peut que se réjouir de cela.

Les développeurs d’intelligence artificielle ont-ils une quelconque responsabilité dans la propagation de ces images ?

Si je vous menace de mort au téléphone, faut-il pour autant incriminer Graham Bell ? Cette façon de pointer du doigt les technologies a parfois du sens, mais dans le cas présent, et particulièrement dans l’un des pays qui fut durant bien longtemps un refuge pour pédophiles, elle est particulièrement choquante. David Hamilton a longtemps fait régulièrement la Une de prestigieux magazines de photo, et la liste des pédophiles célébrée par la société française est un inventaire à la Prévert scabreux. La technologie est un artifice facile et lâche qui permet d’éviter de se poser les vraies questions au sein d’une société qui a longtemps nié le problème et qui n’a jamais consacré de moyens conséquents pour lutter contre la pédophilie.

Depuis moins de dix ans, les langues se délient, entre L’Emprise et La Familia Grande, les élites qui hier apposaient leur signatures dans la tribune de Libération réclamant la dépénalisation de la pédophilie ont été obligées de regarder les choses en face, et les jeunes aujourd’hui ont cessé de se taire comme l’a fait ma génération qui a vécu son adolescence dans un monde où les enfants et les adolescent étaient des objets de fantasme parfaitement assumés.

Il y a dix ans à peine, Gabriel Matzneff recevait le Prix Renaudot, c’est à cela qu’il conviendrait de s’attaquer plutôt que de se jeter sur les technologies en l’instrumentalisant comme un bouc émissaire facile. Ce ne sont pas les technologies qui ont donné en parfaite connaissance de cause l’un des prix littéraires les plus prestigieux à un écrivain ouvertement pédophile, c’est une élite qui a lourdement contribué à fabriquer durant toute la seconde partie du vingtième siècle la culture dans laquelle nous vivons aujourd'hui.