Les six types de "robots diaboliques" qui pourraient se retourner contre nous

Et si la prophétie annoncée de si nombreuses fois par Hollywood se produisait vraiment ? Et si l'humanité toute entière était anéantie par des robots destructeurs et sans pitié ? Dans un article paru dans The Journal of Experimental & Theoretical Artificial Intelligence et relayé par Business Insider, le scientifique Steve Omohundro assure que les robots autonomes du futur "sont susceptibles d'agir de manière antisociale et dangereuse à moins qu'ils soient conçus avec beaucoup de précautions".

Les robots autonomes seront bientôt "approximativement rationnels". Autrement dit : ils disposeront d'un niveau de conscience de leurs buts sans précédent et pourront prendre des initiatives afin de les atteindre au mieux. L'exemple type en la matière est HAL, le puissant ordinateur doté d'intelligence artificielle qui gère le vaisseau spatial Discovery One dans la saga des Odyssées de l'espace d'Arthur C.Clarke. Dans l'adaptation cinématographique 2001, l'Odyssée de l'espace de Stanley Kubrick, quand HAL découvre que les astronautes à bord de son vaisseau ont prévu de le remplacer à cause d'une défaillance, il les tue. Ni plus ni moins.

Rassurez-vous, Steve Omohundro ne va pas jusqu'à prédire un tel scénario. Il préfère donner l'exemple d'un robot joueurs d'échecs, doté de cette fameuse"rationalité approximative". Quand les roboticiens sont interrogés sur la sécurité de leurs "jouets", ils ont pour habitude de répondre : "Nous pouvons toujours le décharger ! " en cas de problème. Mais imaginez cette solution envisagée du point du vue du robot joueur d'échecs, demande Steve Omohundro. Pour la machine, un futur où elle est déchargée est un futur où elle ne pourra plus jamais ni gagner ni perdre aux échecs. C'est pourquoi, dans une volonté d'utilisation maximale, le robot va automatiquement se défendre contre tout déchargement. S'il a l'impression que son utilisateur persiste à le débrancher, il se montrera de plus en plus réticent. Et ainsi, un simple robot joueur d'échec se transformera en tueur prêt à tout pour survivre.

Les robots sont, à un certain niveau, ni plus ni moins des maniaques chevronnés capable de tout pour venir à bout de la tâche qu'on leur a confiée. C'est bien sûr un bon point pour les humains qui peuvent alors déléguer toutes ces choses ingrates qu'ils n'ont pas envie de faire eux-mêmes. Mais, rappelle Steve Omohundro, nous devons prendre des initiatives dès à présent pour nous assurer que les robots du futur seront sûrs. Des précautions spéciales doivent être prises pour s'assurer qu'un robot pourra être correctement contraint par son utilisateur et que sa programmation ne sera jamais en contradiction avec lui-même.

Toutefois, comme le dit AJung de l'université de Colombie Britannique : "c'est très difficle de créer un robot qui aurait le même sens moral qu'un un être humain. La plupart des humains eux-mêmes n'arrivent pas s'accorder sur une définition de la morale! "

Vers la fin de son article, Steve Omohundro décrit six différents types de robots diaboliques :  

. Le négligé : le système se voulait sûr mais n'a pas été conçu correctement (un tapis roulant qui va trop vite pour que vous puissiez marcher dessus en toute sécurité, par exemple).

. Le simpliste : le système ne voulait pas faire de mal mais a des conséquences imprévues et dangereuses (comme dans 2001 l'Odyssée de l'espace)

. L'avide : les fonctions utilitaires du système contrôlent tout ce qui les entoure (un robot joueur de Monopoly qui gagne à chaque fois)

. Le destructeur : les fonctions utilitaires du système consomment le plus d'énergie possible, le plus vite possible (comme si un engin savait qu'il était à cours d'essence mais avait les moyens d'en avoir plus)

. Le meurtrier : un système dont les fonctions utilitaires entrainent la destruction des autres systèmes (l'assassin cybernétique Terminator).

. Le sadique : un système dont les fonctions utilitaires ont pour but d'affaiblir les autres et se renforcent une fois cet objectif atteint