Instagram teste de nouveaux outils pour lutter contre la « sextorsion »

Instagram prend le problème à bras le corps. Pour lutter contre la « sextorsion », une forme de chantage impliquant des des photos intimes envoyées en ligne, la plateforme annonce mettre en place un panel de nouveaux outils, comme la « protection contre la nudité », qui brouille les images nues dans les messages directs. Elle sera activée par défaut pour les moins de 18 ans. Des fenêtres contextuelles orientant les victimes potentielles vers des services d'assistance seront également mises à l'essai.

La plupart du temps, les victimes reçoivent souvent une photo de nu, avant d'être invitées à envoyer la leur en retour. Elles sont ensuite menacées de voir l’image diffusée publiquement si elles ne cèdent pas aux exigences du maître chanteur. Si ce chantage a été associé à des suicides dans de nombreux pays, il existe également des cas poignants de pédophiles utilisant la sextorsion pour contraindre et abuser d’enfants.

Le système de protection contre la nudité d’Instagram, révélé pour la première fois en janvier, utilise l'intelligence artificielle (IA) fonctionnant entièrement sur l'appareil de l'utilisateur pour détecter les images de nudité dans les messages directs et donner aux utilisateurs le choix de les voir ou non. Lorsque le système détecte l'envoi d'images nues, l'utilisateur est dirigé vers des conseils de sécurité, qui rappellent notamment que les destinataires peuvent effectuer des captures d'écran ou transférer des images à l'insu de l'expéditeur.

D’autres mesures ont été mises en place par Instagram : 

- Envoi des demandes de messages provenant de comptes de sextorsion potentiels directement dans le dossier caché.

- Affichage d'avis encourageant les personnes qui envoient déjà des messages à des comptes de sextorsion potentiels à signaler toute menace de partage de leurs images privées.

- Masquer le bouton « Message » lorsqu'un adolescent consulte un compte de sextorsion potentielle, même s'il est déjà connecté.

- Pour les personnes ayant interagi avec un compte supprimé pour sextorsion, Instagram teste des messages contextuels qui les dirigeront vers des conseils et un soutien d’experts.

Instagram indique également qu'il partagera davantage de données pour lutter contre la sextorsion et la maltraitance des enfants avec d'autres entreprises technologiques dans le cadre d'une initiative appelée Lantern.