L’intelligence artificielle : une coupure entre l’homme et sa création

– Contre- esprit humain –

Arnaud : L’intelligence artificielle est un concept abstrait pour moi. J’y vois un enjeu économique puisque des acteurs investissent massivement, ce qui au demeurant m’inquiète car ce mimétisme planétaire ne me dit intuitivement rien qui vaille. Partons de la racine de mes doutes. En quoi une intelligence peut être artificielle ? Un artifice je veux bien, qu’il soit l’expression d’un esprit astucieux, habile, rusé, mais pourquoi le confondre avec l’intelligence ? L’illusion est aussi un artifice ! Ce qui est artificiel ne me semble ni vrai ni authentique. Comme si à travers une prouesse qui est une promesse technologique nous prolongions les ombres de la caverne de Platon (La caverne de Platon est une allégorie : des Hommes enchaînés dans une caverne ne voient pas directement le Soleil ; ils ne distinguent que des ombres et tentent alors d’imaginer la réalité).

Catherine : Ouvre le dictionnaire papier, ou électronique, de l’Académie française et lis la définition du mot artificiel : « Qui est dû à la technique de l’Homme, par opposition à ce qui a été créé et s’est développé naturellement. » Ce qui est fabriqué par l’Homme est parfaitement réel et authentique. J’irai même plus loin, une molécule de gaz carbonique, par exemple, produite par la nature est identique à celle développée par la technologie humaine. Artificiel et naturel se confondent parfois. 

Je te concède que le vocable « intelligence artificielle » n’est pas très heureux. C’est une traduction mot à mot de l’anglais dont la signification française diffère de celle de l’expression anglaise. Le vieil adage « traduction trahison » est ici approprié. En français, intelligence artificielle est presque un oxymore car l’intelligence est une fonction mentale complexe alliant savoir, rationalité, imagination, intuition, et on conçoit mal comment une intelligence peut être affublée de l’adjectif qualificatif « artificielle » qui par définition est exempt d’intuition. L’intelligence humaine peut néanmoins bénéficier d’éléments artificiels. 

Que recouvre ce vocable ? En remontant le temps jusqu’au XVIIe siècle, on y rencontre Descartes. Il cherchait à savoir si la pensée rationnelle pouvait s’écrire sous une forme algébrique ou géométrique, comme certains raisonnements le sont. Il n’y est pas parvenu. De nos jours la même question se pose sous une autre forme : la pensée est- elle intégralement numérisable ? La réponse est encore non, et il est heureux que le comportement humain ne se mette pas en équation car ce serait fort ennuyeux.

Cependant notre espèce s’ingénie à s’économiser ; elle a de tout temps cherché à automatiser des tâches. Avec les progrès gigantesques accomplis en informatique ces dernières décennies, on voit se réduire à peu d’effort des travaux que l’Homme exécutait autrefois à grand-peine. La robotique, les véhicules autonomes, les drones, l’imagerie, la traduction automatique, l’analyse et la gestion de grandes bases de données, les applications médicales… sont alors devenus l’apanage de l’intelligence artificielle (IA). Ce qui fait peur, et c’est pour cela que tout le monde en parle et ne cesse d’en parler, c’est le risque de l’utilisation non éthique de l’intelligence artificielle. Une structure bureaucratique qui prétendrait régenter l’intelligence artificielle est à mon sens inutile ; c’est une réflexion éthique de son utilisation qu’il nous faut. 

La définition qui me semble résumer au mieux ce qu’est l’intelligence artificielle a été donnée par Yann Le Cun (professeur à l’université de New York et directeur de Facebook AI Research - FAIR) lors d’un discours au Collège de France : « Ensemble de techniques permettant à des machines d’accomplir des tâches plus rapidement et plus efficacement que l’Homme ne le ferait, de traduire des textes, de conduire des dialogues… à l’aide d’algorithmes et de tableaux de nombres. »

Arnaud : In fine nous remettons nos destins multiples, variés dans des algorithmes dont nous imaginons qu’ils permettront de pallier les limites de l’intelligence humaine. On pourrait écrire des livres entiers sur les impasses algorithmiques. Ce qui me gêne dans cette affaire, c’est d’abord cette espèce de fascination des Hommes, je devrais dire des élites, et encore pas de toutes les élites, principalement des élites susceptibles de diriger, pour des objets techniques dont la qualité intrinsèque – la performance – nous égare. J’entends par « égarer » le fait que nous ne pensons pas les effets secondaires… D’ailleurs en employant cette expression je me rends compte qu’elle est en soi viciée, piégeante. Comme quoi la sémantique est un outil tactique, car ce qui est secondaire n’est pas fondamental. Tout se passe comme si nous acceptions que ce que nous associons au progrès soit porteur d’une dose incompressible d’inconvénients. Cette « sagesse » a minima pose problème car elle infirme notre capacité à penser des choses qui me paraissent essentielles, presque fondatrices de notre liberté et de notre humanité. C’est pour cela que je parle d’égarement, de fausse route : nous laissons hors champ une question et non des moindres, celle de notre autonomie par rapport à la technique, de notre capacité à concevoir des réponses d’abord humaines à des situations complexes. 

Un exemple : la démocratisation massive de l’université doit-elle exclusivement faire le pari de logiciels, aussi sophistiqués soient- ils, pour régler la question des inscriptions et des sélections ? En faisant ce choix, nous perdons le fil de la plus belle histoire, et la plus simple aussi, de l’esprit humain : l’intelligence de la situation, c’est-à-dire l’adaptation, la plasticité, la fabrication empirique de solutions souvent transitoires, non répétitives mais susceptibles de répondre à un moment, à une conjoncture, à quelque chose de non reproductible peut-être mais qui fait la part entre la masse et l’exception. Je crois que cette déficience en intelligence de situation, laquelle est le propre de tous les processus normés, y compris les mécanismes administratifs, nous enferme, atteint à notre liberté, réduit nos marges de manœuvre. Je suis trop humain pour m’enthousiasmer pour une intelligence artificielle. Je crois à l’intelligence paysanne qui dit « ne pas mettre tous ses œufs dans le même panier » ! Contre l’intelligence des ingénieurs. 

Catherine : L’intelligence rationnelle n’exclut pas l’intelligence de situation. Quant à moi, j’aime l’intelligence paysanne autant que celle des ingénieurs. L’algorithmique est un langage utile pour raisonner. La notion d’algorithme existait déjà dans l’Antiquité grecque, comme le montre le procédé d’Euclide qui permet de déterminer le plus grand diviseur commun à deux nombres entiers. Le mot algorithme que nous utilisons est construit à partir du nom d’un grand mathématicien perse (Al-Khwarizmi, environ 780-850 : célèbre mathématicien perse qui écrivit un livre intitulé Traité du système de numérisation des Indiens) qui a introduit et développé l’algèbre dans l’Europe du IXe siècle en s’inspirant des travaux antérieurs de mathématiciens indiens. Depuis, l’algèbre a permis de créer des algorithmes qui consistent à donner des ordres ordonnés, ou à réaliser des opérations dans un ordre précis en appliquant une suite finie de règles pour aboutir à un résultat. Ce n’est cependant pas n’importe quels ordres ni n’importe quelles opérations qui fournissent la solution. La logique est de mise. Le cerveau, celui du paysan comme celui de l’ingénieur, lorsqu’il s’habille le matin donne des ordres ordonnés aux muscles pour s’habiller dans le bon sens, il donne l’ordre de mettre les chaussettes avant les chaussures et le slip avant le pantalon. Si l’ordonnancement est faux, l’algorithme va dans le mur et toi aussi !

Arnaud : Cette genèse-là, évidemment, reste le produit de l’extraordinaire élan créatif des hommes comme des femmes. Rien d’artificiel dans tout cela. C’est le génie humain qui transporte la connaissance ici, l’expérience également. J’ai une conception très romantique de ce point de vue de la puissance de l’intelligence. Je crois en l’inspiration, au travail bien entendu, mais aussi à cette sorte de déclic intérieur qui illumine soudain. Cette idée me plaît, je la trouve réconfortante et surtout esthétique. Ce qui est perturbant à mes yeux dans la formule « intelligence artificielle », c’est la coupure qu’elle introduit entre l’Homme et un dispositif qui le dépasse, qui prend littéralement la main… et ce n’est pas qu’une formule. Je crains que ce soit une fatalité.

Catherine : C’est parce que tu humanises la machine, tu lui prêtes une intelligence humaine, tu crois qu’elle prend la main. L’intelligence artificielle est inventée par des informaticiens, il n’y a pas de coupure entre l’inventeur et la machine qu’il a conçue, on peut même y voir une certaine union. Nous avons appris à vivre avec des trains, des bateaux, des avions, des engins de chantier que nous avons créés et qui développent une puissance bien supérieure à la nôtre sans nous faire écraser par eux ; au contraire ces engins nous aident à accroître nos capacités physiques. Avec les récents progrès de l’informatique, il en va de même avec la mémoire, nous étendons la nôtre avec celle de l’ordinateur. La mémoire de l’échiquier électronique est plus performante que celle du cerveau humain pour jouer aux échecs. Le joueur d’échecs qui sait qu’il ne gagnera pas devant la machine qui imperturbablement le bat se mesure à lui-même. Il joue pour le plaisir de jouer. Quant à moi je n’ai jamais pensé que le champion du monde aux échecs était plus intelligent que n’importe lequel de ses semblables. 

D’une intelligence imaginative, intuitive, subtile, l’Homme est cependant plus perspicace que la froide machine. Le système d’intelligence artificielle développé par IBM pour dialoguer avec des humains est éloquent. Lundi 19 juin 2018, dans ses bureaux à San Francisco, IBM présente un programme d’aide à la décision. Des questions sont posées à un humain et à un ordinateur, l’une d’entre elles est la suivante : « Les pouvoirs publics doivent-ils subventionner l’exploration spatiale ? » ; une autre est : « Faut-il développer l’usage de la télémédecine ? » Le système ordinateur scanne en quelques minutes un corpus de 300 millions de documents issus d’articles de journaux, de médias, d’encyclopédies… qui peuplent les centres de données. Il en fait un résumé argumenté grâce à un logiciel qui s’appuie sur ce que les Américains appellent un « knowledge graph », un réseau reliant les sujets entre eux, afin de pouvoir les compiler. L’ordinateur, s’il fait un très bon travail d’analyse, n’a cependant pas la capacité de jauger si les conclusions sont pertinentes ou pas ; le pourrait- il ? Sans doute pas, et c’est l’humain qui emporte la décision.

Extrait du livre de Catherine Bréchignac et Arnaud Benedetti, "Le progrès est-il dangereux ? : Dialogue contre les idées reçues", publié chez Humensciences Editions

Lien vers la boutique Amazon : ICI