Article cover
See image caption
See copyright

I, ROBOT

Intelligence artificielle (mais réelle absurdité ?) : Roko’s Basilisk, la légende urbaine qui affole les cerveaux du net

Une intelligence artificielle surpuissante qui voudrait le bien de l'humanité mais punirait tous ceux qui n'auraient pas aidé à son émergence : ce n'est pas le scénario du prochain blockbuster hollywoodien, mais la théorie avancée par un anonyme sur un site internet principalement fréquenté par des scientifiques, et qui a semble-t-il effrayé une bonne partie de ces derniers.

0:00min
100%

Partant du postulat selon lequel l'intelligence artificielle parviendra un jour à un niveau de puissance bien supérieur à celui de l'homme, un membre de la communauté "LessWrong" connu sous le pseudonyme de "Roko" a émis l'hypothèse selon laquelle toute personne n'ayant pas contribué au développement de ladite intelligence, et n'ayant donc ainsi pas œuvré au bien commun, pourrait devoir en subir les conséquences au travers de "punitions" décidées par cette "IA". Cette théorie a provoqué de vives réactions au sein de la communauté LessWrong, au point que son fondateur Eliezer Yudkowsky l'a lui-même commentée, puis a supprimé le fil de conversation, qui reste tout de même consultable sur le site Reddit.com.

Atlantico : Par quel cheminement intellectuel en arrive-t-on à penser qu'une intelligence artificielle pourrait décider de "punir" de manière rétroactive toute personne qui n'aurait pas participé à son développement ?

La suite de cet article est réservée aux abonnés.

A PROPOS DES AUTEURS

Jean-Gabriel Ganascia est professeur à l'université Pierre et Marie Curie (Paris VI) où il enseigne principalement l'informatique, l'intelligence artificielle et les sciences cognitives. Il poursuit des recherches au sein du LIP6, dans le thème APA du pôle IA où il anime l'équipe ACASA .