Pour Stephen Hawking, dans 100 ans les ordinateurs auront dépassé les humains, vraiment ?

Atlantico : Selon Stephen Hawking, "Dans 100 ans les ordinateurs auront dépassé les hommes." Est-ce une vue de l’esprit ou peut-on raisonnablement imaginer que cela soit vrai ? Peut-on dater ce passage de témoin ?

Jean-Gabriel Ganascia : D’une certaine façon, les ordinateurs ont déjà dépassé les hommes. Ils calculent plus vite et mieux que nous lorsqu’il s’agit de faire des additions et des multiplications. Au jeu d’échecs, perçu parfois comme emblématique de l’intelligence, le champion du monde a été battu par un ordinateur en 1997 et depuis aucun ne se hasarde plus, publiquement du moins, à de tels défis. Il en va de même au jeu télévisé Jeopardy! où, en 2011, un programme informatique appelé Watson l’a emporté par trois fois sur les autres candidats. On peut bien évidemment penser qu’avec le temps et les progrès technologiques, les capacités des machines s’accroîtront de sorte qu’elles nous dépasseront partout, dans toutes les activités et qu’elles exécuteront les tâches que nous leur confierons plus vite et plus efficacement que nous.

Ceci étant, la question que pose Stephen Hawking va plus loin : il se demande si les machines prendront le dessus sur les hommes. Autrement dit, si elle nous remplaceront et agiront nous plus en notre nom, mais en leur nom propre. Ceci signifie qu’elles auront une conscience et une volonté autonome. Or, aujourd’hui, même si les ordinateurs progressent considérablement, les principes sur lesquels reposent leur conception et leur programmation ne permettent pas à un scientifique de se prononcer sur ce point.

Qu’est-ce qu'il manque encore aux chercheurs pour atteindre ce point où les ordinateurs seront plus intelligents que les hommes ?

Si on réduit l’intelligenceà un ensemble des capacités cognitives, alors, il y a fort à parier que les machines seront plus intelligentes que nous : en effet beaucoup de facultés cognitives humaines seront bientôt reproductibles sur une machine. Dès à présent, les ordinateurs reconnaissent des visages, comprennent la parole, démontrent des théorèmes de mathématiques, composent des tableaux et des œuvres musicales, etc. Et, bientôt, ils réaliseront toutes ces choses mieux que nous. Toutefois, un être intelligent est plus que la somme des facultés intellectuelles qu’il mobilise dans la réalisation des tâches quotidiennes et dans la résolution des problèmes qui lui sont soumis. Et c’est ce plus qui manque pour que l’on sache faire des ordinateurs susceptibles de prendre le dessus sur les hommes.

Depuis longtemps, cette thèse de l'intelligence artificielle devenant supérieur à l'intelligence humaine a été largement développée dans les récits de sciences fictions. Est-ce qu'elle fait des émules maintenant chez le monde scientifique? Pourquoi?

Dès avant la naissance de l’intelligence artificielle, des scientifiques et des auteurs de science fiction se demandèrent ce qui se passerait si l’intelligence des machines surpassait celle des hommes. Il en est résulté beaucoup de bons romans. Toutefois, les progrès sur lesquels reposaient ces récits demeurent très éloignés de la réalité technologique actuelle. Rien, aujourd’hui, ne permet d’affirmer qu’un jour une machine possèdera effectivement une conscience. Ces fictions relèvent donc de l’ordre de l’imaginaire.

En revanche, avec les techniques d’apprentissage automatique qui opèrent désormais sur de grandes quantités d’information que l’on qualifie parfois de Big Data ("masses de données" en français), les machines se reprogramment continument, en fonction de leurs observations. De ce fait, elles échappent en partie à leur concepteur. Cela ne signifie pas qu’elles sont mues par une volonté propre, mais cela veut dire qu’elles prennent des décisions de façon autonome et que certaines d’entre elles pourraient nous surprendre, voire nous mettre dans l’embarras. Pour éviter ce type de situations, des scientifiques conscients des risques travaillent actuellement sur des techniques qui nous assureraient de la "fidélité" des machines.

En décembre dernier, Stephen Hawking a affirmé que le développement de l’intelligence artificielle "pourrait signifier la fin de l’espèce humaine". En quoi cette intelligence artificielle peut-elle être un danger de mort pour l’espèce humaine ? Faut-il s’y préparer et comment ?

Stephen Hawking est coutumier de ce type de déclaration. En cela, il se présente comme un représentant de la mouvance qualifiée de "Singulariste". Selon lui et quelques autres, dont Ray Kurzweil, un des directeurs de la recherche chez Google, l’évolution exponentielle des capacités de calcul des ordinateurs va se poursuivre et conduire à une explosion de l’intelligence des machines qui vont bientôt nous dépasser.

Deux écoles s’opposent. Pour les pessimistes, cet emballement de la technologie conduira à l’extinction de l’humanité, car les machines agiront pour elle même ; selon les optimistes, l’Homme mettra les technologies qu’il a créées à son profit pour devenir plus puissant, vivre plus longtemps, voire télécharger sa conscience qui, séparée du corps, deviendra immortelle...

En tant que scientifique, je peux affirmer qu’aucun de ces deux scénarios n’est tangible. Aucun des arguments avancés pour justifier l’un ou l’autre ne tient à une analyse rigoureuse. Rappelons que Stephen Hawking est un astrophysicien qui ne possède aucune compétence en intelligence artificielle. Quant aux autres scientifiques qui se prévalent de leur appartenance à de grandes universités pour lancer de telles affirmations, ils ne les justifient pas avec la même rigueur que leurs travaux scientifiques. Bref, les développements de l’intelligence artificielle et la dissémination des ordinateurs partout dans le monde doivent être pris au sérieux. Il existe indubitablement des risques dont on doit se prémunir en les anticipant. En revanche, les inquiétudes "Singularistes" qui voient, dans le développement des machines, soit la fin de l’Homme, soit sa transformation en Cyborg n’ont aucun fondement scientifique sérieux. Il ne s’agit là que de mythologies contemporaines qui ressurgissent régulièrement.