L'IA n'est pas près de développer des sentiments mais nous ferions bien de mesurer le danger qu'il y a à lui en prêter

Atlantico : L'IA de Microsoft, Sydney, a effrayé plusieurs observateurs par ses déclarations passionnées, notamment à un journaliste du NYT, parce qu'elle semblait très humaine. Dans quelle mesure confondons-nous la sensibilité avec la capacité d'imiter l'expression des émotions humaines dans l'IA actuelle ?

Nir Eisikovits : Je pense que nous sommes très enclins à faire cette erreur - nous avons une tendance naturelle à anthropomorphiser les objets, et nous le faisons certainement avec tout ce qui présente des caractéristiques humaines.

Alors oui, il est facile d'attribuer le statut de personne à quelque chose qui semble humain. Et si vous n'êtes pas un professionnel qui comprend exactement comment la technologie fonctionne et qu'elle n'a rien de sensible, vous supposerez (ou serez effrayé) que quelque chose qui semble sensible l'est aussi.

Comme on dit en anglais, si ça marche comme un canard et que ça jacasse comme un canard, c'est que c'est un canard ! Mais ce n'est pas le cas...

Quelle est la distance qui nous sépare de la sensibilité de l'IA ?

Très loin. La technologie actuelle est essentiellement une application de complétion de phrases glorifiée. Elle utilise la vectorisation pour prédire les types de mots/opérations qui cohabitent habituellement. L'effet est troublant, mais il n'a rien à voir avec la sensibilité. Encore une fois, je ne pense pas que le problème soit la sensibilité et il ne le sera pas avant longtemps. La question est de savoir comment nous allons nous comporter avec des machines qui, dans certains contextes limités, nous ressemblent.

Vous mettez en garde, dans une chronique, contre le risque de la tendance à anthropomorphiser l'IA ? Quelle est notre propension à le faire ? Pourquoi ?

C'est l'une des tendances humaines les plus fortes et les plus universelles. Nous le faisons avec des objets qui ne semblent même pas humains (animaux domestiques, voitures). Et nous sommes encore plus susceptibles de le faire avec des objets qui semblent humains. Quant à savoir pourquoi nous le faisons, je n'en suis pas sûr. L'anthropomorphisation présente probablement un avantage évolutif (le fait d'attribuer des intentions à de nombreux aspects de notre environnement nous rend plus conscients et plus attentifs à ce qui se passe autour de nous). Mais je n'ai pas de bonne réponse à la question du pourquoi.

Quels sont les risques de l'anthropomorphisation actuelle de l'IA ? Et de la surestimation de l'IA en tant qu'être humain ?

Comme je l'écris dans l'article, les risques sont liés à l'enchevêtrement psychologique avec l'IA : développer des amitiés avec les machines, développer des dépendances à leur égard, leur demander conseil sur des questions sérieuses, etc.

Que faire pour contrer notre tendance ?

Nous rappeler qu'il s'agit de machines fabriquées par des entités commerciales à des fins commerciales, qu'elles n'ont pas nos intérêts à l'esprit, qu'elles n'ont même pas la possibilité de comprendre quels sont nos intérêts. Nous risquons de devenir plus isolés, déprimés et anxieux si, au lieu de passer du temps avec d'autres personnes, nous commençons à projeter nos préoccupations et nos soins sur des machines.