Intelligence artificielle : Google met le paquet pour concevoir des ordinateurs plus forts que le cerveau humain mais que se passera-t-il s’il y parvient ?

Atlantico : Au cours du mois passé Elon Musk, entrepreneur de la Silicon Valley, a estimé que l'intelligence artificielle représentait un plus grand danger que les armes nucléaires. Quels sont les risques que peut présenter l'intelligence artificielle ?

Daniel Ichbiah : Le risque essentiel vient de gens comme Ray Kurzveil, l’un des gurus de la technologie chez Google et qui est le grand promoteur de la toute puissance supposée de l’Intelligence Artificielle. Il est persuadé que la fusion du corps humain et des puces informatiques va faire émerger une sorte de surhomme, d’une intelligence supérieure, et que nous pourrions même devenir immortel. Nombreux sont ceux qui prennent ces prédictions pour de pures balivernes. Il n’empêche que dans la Silicon Valley, cela a créé un courant de pensée avec pour pendant une véritable adoration pour l’Intelligence Artificielle. Alors oui, Elon Musk – un type remarquable, une sorte de nouveau Steve Jobs - a raison, c’est un vrai danger. Car les tenants de l’Intelligence Artificielle prônent aussi une civilisation où le pouvoir serait complètement donné aux ordinateurs, jugés plus smarts que nous, avec une dé-responsabilisation complète de l’Homme.

Tous ces zélateurs de l’informatique sont des gens qui oublient une chose pourtant fondamentale. Qui a créé qui ? C’est l’homme qui a créé l’ordinateur, pas l’inverse. Qui exploite les résultats de l’ordinateur ? L’homme. 

L’homme a créé cette machine pour qu’elle réponde à ses besoins. Franchement, j’ai tendance à penser que ceux qui déifient l’ordinateur et l’Intelligence Artificielle sont tout de même un peu désaxés…

Ces risques sont-ils véritablement comparables à la menace nucléaire ? Certains opposants de Musk jugent que le danger qu'il dépeint relève de la science-fiction. Qu'en est-il concrètement ?

Non, Musk a raison. Le danger est réel. Car cela induit pas mal d’idée secondaires. En voici une que prône la même bande : notre ADN serait une sorte de logiciel et que donc, si nous accomplissons quelque chose, ce pourrait être la faute de cet ADN. Déjà aux USA, récemment, dans certains procès, on a vu aux USA des prévenus se défendre en disant  : "ce n’est pas moi qui ai tué, c’est mon cerveau... ce n’est pas ma faute, c’est celle de mes gênes". C’est un axe de pensée hyper dangereux. Il ouvre la porte à toutes les dérives.

En 1997, Deep Blue a remporté une victoire historique aux échecs contre Garry Kasparov, champion du monde en titre. A l'époque, l'ordinateur occupait la 259ème place du TOP500 des supercalculateurs. Que faut-il y voir ? L'intelligence artificielle était-elle supérieure à la notre ; et l'est-elle aujourd'hui ?

Mais non… ça me fait toujours drôle les gens qui disent cela. Qui a créé Deep Blue ? IBM. Qui a programmé Deep Blue ? Des programmeurs d’IBM. Donc des humains. Nous avons donc eu en 1997, des humains – les programmeurs d’IBM – qui ont battu un humain – le joueur d’échecs Kasparov. 

En réalité, de tous temps les humains ont créé des outils pour suppléer aux insuffisances du corps. Que ce soit la fourchette, la machine à laver ou l’ordinateur, ce ne sont que des outils créés par les humains, et au service des humains. Je me souviens qu’en 1997 déjà, j’avais été invité à un débat sur ce thème à la radio et j’avais dit : nous serons à armes égales le jour où Deep Blue sera en mesure de créer un bébé humain.

Parallèlement, Google s'est associé avec le physicien John Martinis pour mettre en place un ordinateur quantique, dans l'idée de réaliser des machines capables de penser d'elles mêmes. Comment une telle évolution changerait nos vies ? 

L’ordinateur quantique existe d’ores et déjà – il en existe un qui est produit par D Wave Systems. Sans nul doute, nous allons créer des ordinateurs calculant de plus en plus vite. Cela ne veut pas dire qu’ils vont "penser" au sens où nous l’entendons.

Ce vieux mythe de la machine capable de penser remonte à la science-fiction. Un ordinateur ne ‘pense’ pas. Il exécute des logiciels et certains logiciels peuvent simuler le processus de la pensée humaine de façon hyper bluffante. 

La différence, c’est que, qu’on le veuille ou non, un ordinateur ne sera jamais conscient de sa propre existence. Ça, ça va dans les films à la 2001 Odyssée de l’Espace, c’est un beau jardin d’expérimentation pour des auteurs de fiction. Mais nous n’avons là qu’une machine avec des circuits à l’intérieur. Par quel miracle, l’ordinateur que l’on éteindrait le mardi se réveillerait avec une conscience le mercredi ?

Bref, nous avons là un courant de pensée qui est réellement dangereux car il cherche à nier des éléments fondamentaux de la personnalité humaine : le libre-arbitre et la responsabilité de ses actes.