Voulez-vous une fiancée sexy générée par l’IA ? Beaucoup de publicités le proposent désormais

Atlantico : Des milliers de publicités sont diffusées sur les réseaux sociaux de Meta (Facebook et Instagram) faisant la promotion d'applications sexuellement explicites proposant des petites amies générées par l’intelligence artificielle. Ces publicités renvoient vers des chatbots qui proposent des images et du texte sexuellement explicites. Qui est derrière ces applications et publicités ? Comment expliquer ce phénomène de masse sur les réseaux sociaux ?

Fabrice Epelboin : Ces applications sont assez simples. Elles reposent sur des générations d’images à l’aide de l’IA. Les LLM, les intelligences génératives peuvent créer des images à partir d'une requête. L'une des applications permet d'entretenir une relation virtuelle qu'on imagine volontiers érotique avec un avatar qui est purement synthétique et qui correspond exactement aux désidératas du client.

Ces sites et ces applications émanent de sociétés basées aux Etats-Unis ou en Europe. Les deux principaux pôles aujourd'hui de la tech pornographique sont le Canada et les pays d'Europe de l'Est. Ces sociétés sont généralement basées dans un pays qui sera accueillant d'un point de vue législatif et fiscal.

Pourquoi ces publicités prospèrent sur les réseaux sociaux malgré les politiques publicitaires de Meta qui interdisent clairement le contenu réservé aux adultes ? Est-ce que ces technologies et ces applications liées à l’IA sont-elles trop récentes ?

Facebook interdit effectivement la publicité pour adultes. Si ces services proposent une déclinaison adulte avec les profils générés par l’IA, Facebook finira par censurer ces campagnes de publicités et ces applications. Mais cela n’empêchera pas ce genre de service de proliférer.

La rédaction de Wired montre même que les travailleuses du sexe se plaignent d’un deux poids deux mesures auprès de Facebook et d’Instagram. Leurs propres annonces sont censurées sur les réseaux sociaux alors que les annonces pour les applications liées à l’IA pullulent. Les politiques de Meta vont-elles vite agir pour permettre de censurer ces contenus ?

Pour les contenus adultes, Facebook finira par les censurer et les réguler de la même façon mais cela nécessite un temps d'adaptation. Avec ce type de services, il est possible d’arriver par ricochet d'un contenu qui n’est pas interdit aux mineurs à un contenu adulte.

Au sein des groupes comme Meta, y a-t-il des équipes de veille et de régulation pour toutes ces publicités pour des contenus adultes générés par IA ?

Facebook a une communauté de 2 milliards de comptes. En déployant une surveillance à la chinoise pour mener la régulation, il faudrait une masse salariale de l'ordre de 4 millions de modérateurs. Cela n'est pas possible. Il est évident que Facebook va réguler et censurer ces publicités qui donnent effectivement accès à des services adultes. C'est une question de temps. Il est possible de contourner cette contrainte en ne proposant pas sur Facebook des contenus adultes mais en proposant de créer cette petite amie synthétique via l’IA et de proposer de basculer ensuite vers des contenus adultes. Ce contournement et ce détournement via ces applications est beaucoup plus facile que ne peut le faire aujourd'hui l'industrie pornographique.

Ces profils de femmes générées via l'intelligence artificielle peuvent-ils servir de cheval de Troie pour mener des arnaques ? Est-ce que les consommateurs, à part des photos de charme, risquent de tomber sur des escroqueries et être victimes de vol de données ?

Il y a un potentiel énorme pour arnaquer les Internautes. A partir du moment où cela concerne le sexe ou des contenus pour adultes, beaucoup de personnes ne se méfient pas. Ce genre d'applications ou de services peut être la cible d’une multitude d'arnaques.

Les services pornographiques aujourd'hui regorgent de publicités qui mènent à des liens ou à des contenus qui peuvent s'avérer souvent des arnaques.

Les grands groupes comme Google Play ou Meta peuvent-ils être des acteurs qui vont permettre de réguler ces pratiques pour limiter les arnaques et limiter la présence de publicités pour adultes ?

Vous pensez vraiment que la régulation de l'accès aux contenus adultes devrait être régulée par des sociétés californiennes ? Vous ne pouvez pas demander à des plateformes de faire le shérif. Elles essayent de faire le shérif en matière de cybersécurité pour les applications qu'elles proposent dans leur boutique.