Blurred backgroundUn smartphone affichant les icônes de certaines des principales applications d'intelligence artificielle.
See image caption
See copyright

LA MINUTE TECH

Ce texte a-t-il été écrit par une IA ? Pourquoi les détecteurs peuvent vous tromper

Basés sur des calculs probabilistes, les détecteurs de textes générés par IA manquent d'infaillibilité : ils accusent à tort des écrits humains structurés tout en se laissant duper par la personnalisation des requêtes, exigeant de réhabiliter le jugement humain.

4 min de lecture

0:00min
100%

Ce qu'il faut en retenir : 

  • Un outil probabiliste non infaillible : Les détecteurs d'IA sont eux-mêmes des algorithmes statistiques qui cherchent des régularités ; ils ne fournissent aucune preuve absolue mais de simples estimations d'origine.

  • Risque élevé de faux positifs et négatifs : Un style humain très structuré peut être étiqueté comme artificiel, tandis qu'une IA paramétrée pour imiter un style spécifique contourne aisément ces critères de détection.

  • Danger des sanctions automatisées : Traiter le verdict de ces logiciels comme une preuve irréfutable dans l'enseignement ou le travail expose les élèves et professionnels à de graves accusations injustifiées.

  • Nécessité d'une évaluation humaine contextualisée : La vérification fiable exige d'analyser le processus de rédaction, de croiser les indices et d'adapter le jugement selon la connaissance préalable du niveau de l'auteur.

La suite de cet article est réservée aux abonnés.

A PROPOS DES AUTEURS

Benoît Grunenwald est expert en cybersécurité chez ESET. Pour retrouver son compte sur LinkedIn voici