
IMITATION GROSSIERE...
1 juillet 2023
Votre enfant vous appelle pour demander de l’aide ? Attention, il pourrait bien s’agir d’une arnaque à la voix manipulée par l'IA
Dès lors qu’il s’agit de dépouiller leurs victimes, les escrocs font preuve d’une inventivité débordante… et sont désormais aidés par des outils particulièrement efficaces. Attention aux arnaques.
Atlantico : Les escroqueries ou spam par mail et messages textes existent depuis très longtemps, pourtant une nouvelle génération arrive avec l’IA. Comment décririez-vous ces nouvelles escroqueries ?
Anthony Poncier : En réalité, les progrès réalisés dans le domaine de l'IA nous permettent d'approcher de plus en plus de la réalité, que ce soit en créant des images manipulées, ce que l'on appelle des deepfake. Il est désormais possible de créer une vidéo dans laquelle une personne semble être quelqu'un de célèbre, alors qu'en réalité, cette vidéo a été générée par une intelligence artificielle. Cette technologie s'étend également à la voix, ce qui signifie que l'on peut également créer de fausses voix. Cela nous rapproche considérablement et de manière très précise du timbre de voix complet d'une personne ou d'une image plus que parfaite. Bien sûr, il existe toujours des moyens de détecter ces manipulations, mais ils deviennent de plus en plus réalistes. Nous sommes passés à une étape supérieure, où il est maintenant possible d'usurper l'identité de quelqu'un. Cependant, il convient de noter qu'une petite nuance doit être apportée à cela : cette technique ne s'applique pas à tout le monde. En effet, pour que l'IA puisse reproduire une voix, elle doit avoir accès à des échantillons de cette voix, tout comme elle a besoin d'accéder à des vidéos existantes pour apprendre à reproduire les intonations, les expressions, et bien d'autres choses encore. À moins d'être une personne connue ou reconnue, ou peut-être un politicien sous surveillance, il est peu probable que Monsieur ou Madame Tout-le-monde puisse voir sa voix circuler sur Internet. Cela peut arriver, mais c'est assez rare. De même, les cibles potentielles de ces manipulations sont donc plus limitées, car il faut accéder à des échantillons vocaux ou visuels d'une célébrité ou de quelqu'un de son réseau, qu'il s'agisse d'amis ou autre. En fin de compte, cela touche moins de personnes au quotidien que d'autres formes d'hameçonnage, que ce soit par e-mail ou par SMS.
La suite de cet article est réservée aux abonnés.
THEMATIQUES
High-techAnthony Poncier est Docteur en Histoire, membre du collectif Réenchanter Internet et expert en transformation digitale et en stratégies collaboratives. En cette qualité, il accompagne les entreprises dans la conception de leurs stratégies médias sociaux, ainsi que dans la création de leurs réseaux internes.
Anthony Poncier est Docteur en Histoire, membre du collectif Réenchanter Internet et expert en transformation digitale et en stratégies collaboratives. En cette qualité, il accompagne les entreprises dans la conception de leurs stratégies médias sociaux, ainsi que dans la création de leurs réseaux internes.
