Les géants de la Tech ne sont pas d'accord sur ce qui définit la science et voilà pourquoi ça nous concerne tous

Atlantico : Yann Le Cun, le pionnier de l’intelligence artificielle, et Elon Musk, le dirigeant de X, se sont affrontés sur les réseaux sociaux dans un vaste débat sur ce qui constitue la science et sur la recherche scientifique. Pouvez-vous nous expliquer ? Quels sont les enjeux de ce débat ?

Jean-Paul Oury : Rappelons tout d’abord le contexte. Tout est parti de la reprise par Elon Musk d’une annonce de recrutement pour x.AI, son entreprise dédiée à la recherche sur l’IA générative. Alors qu’il vantait les mérites de ce projet dédié à la compréhension de l’Univers et qui s’adresse à des individus passionnés par la recherche de vérité, Le Cun qui travaille pour FAIR, l’écurie concurrente de Meta, est venu lui chercher des poux - troller serait le terme le plus exact. Il a reproché, entre-autre, à Musk de mettre la pression sur ses employés, d’agiter des peurs inutiles, de prétendre poursuivre la vérité, alors qu’il héberge de nombreux théoriciens du complot sur X. Une attaque ad hominem bien en-dessous de la ceinture, donc. 

De nombreux fans d’Elon ont pris sa défense, certains allant jusqu’à dire que les Français détestent avec passion les capitalistes qui réussissent. Attaqué sur « pourquoi il ne lançait pas sa propre entreprise », Le Cun s’est défendu en soutenant qu’il était un scientifique et non un entrepreneur. C’est alors que Musk l’a chargé à son tour en lui demandant quelle « science » il avait fait ces cinq dernières années ? Le Français s’est justifié en partageant sa page scholar.google et rappelant qu’il avait publié 80 papiers techniques depuis Janvier 2022. 

C’est à ce moment que l’on peut faire débuter la controverse entre Musk et Le Cun sur la définition de la science. Le second soutenant qu’il n’y a science que si il y a publication scientifique et le premier caractérisant cette affirmation de stupide. Le principal argument de Le Cun étant que pour qu’une recherche soit qualifiée de scientifique, elle doit être correcte et reproductible et pour cela, elle doit être vérifiée par la communauté de chercheurs (les reviewers). Ainsi le peer-reviewing est une manière de soumettre ses résultats à la communauté et de l’inviter à vérifier que les résultats ne sont pas biaisés en offrant la possibilité de reproduire le protocole d’expérience qui y conduit. Ajoutons que la publication et la vérification par les pairs sont autant d’occasions de falsifier un résultat et donc de s’assurer qu’il s’agit bien de science au sens popperien du terme (une assertion non falsifiable, n’étant pas caractérisée comme scientifique), mais Le Cun n’a pas fait cette précision. 

Ce débat est un grand classique. Il s’agit d’une opposition caractéristique entre l’ingénieur rattaché au monde de l’entreprise et le scientifique affilié à un laboratoire de recherche ou investi dans la recherche fondamentale. Le premier, au travers d’un parcours en plusieurs étapes, se concentre sur la réussite du passage de l’invention (la découverte d’un nouveau procédé) à celui de l’innovation (l’acceptation de ce nouveau procédé par la société). Quand une découverte finie par être sélectionnée puis adoptée par la communauté au point de pouvoir être industrialisée (elle doit passer une quantité d’épreuves au préalable), il considère qu’une forme le succès technologique vaut implicitement comme une validation scientifique. En ce sens on dit la science avance, elle innove. C’est ainsi qu’a toujours procédé ce que l’on peut appeler la science prométhéenne : l’ingénieur découvre une invention puis c’est parfois seulement après que les théories scientifiques viennent. C’était souvent le cas dans le passé : par exemple, le moteur à vapeur a été inventé entre 1695 et 1715 et la théorie de la thermodynamique à partir dès 1824… On pensera aussi aux vaccins que Jenner et Pasteur ont découvert, sans pour autant être capables de les expliquer (voir à ce sujet Contre les vaccins le nouvel ouvrage de Michel Morange)

A contrario, la définition que Le Cun donne de la science et du peer-reviewing (voir la question suivante) représente davantage la vision académique, d’ailleurs le Français parle à plusieurs reprises de Science avec un grand S. Dans ce cas de figure, il faut parfois un très long travail de découvertes et de recherches scientifiques avant de pouvoir découvrir des applications. C’est le cas des centrales atomiques qui ont été précédées par une quantité de découvertes en amont ou encore des vaccins à ARN-messager apparu récemment avec le Covid, mais sur lesquels on a commencé à réfléchir dans les années 70. 

Maintenant, quels sont les enjeux de ce débat pour les deux protagonistes ? Permettez-moi toutefois de relever quelques paradoxes dans cette controverse : si Musk a lancé xAI c’est pour contrer les biais du politiquement correct et la « tendance wokiste » de Chat GPT. C’est pour lui l’un des principaux dangers de l’IA. Ainsi, il aime citer l’exemple de Gemini, le robot conversationnel de Google, qui préfère déclencher une guerre nucléaire plutôt que de mégenrer Caytlin Jenner. Il a positionné le développement de Grok, son IA générative, sur la quête de la vérité qui passe par ce combat contre le discours policé et imposé par le politiquement correct. C’est ainsi qu’il a doté l’agent conversationnel, désormais disponible sur les abonnements premium de X, d’un mode humour. Sur le fond, cet objectif de quête de la vérité rejoint donc celui de la Science avec un grand S que décrit Le Cun, dans le sens qu’il s’agit d’une démarche qui se présente comme étant désintéressée et non liée directement à une application technologique. 

Si on prend le cas de Le Cun maintenant, sa carrière exemplaire fait de lui un des pionniers de l’IA, puisqu’il est l’un des inventeurs de l’apprentissage profond (deep learning) sujet sur lequel il a publié pendant des années en travaillant sur les réseaux de neurones artificiels et l’apprentissage des machines. On comprend qu’il tienne à valoriser ses publications dans ce sens que, tout en étant « au coeur du réacteur » depuis le début, il n’est pas celui qui a mis sur le marché l’application phare « Chat GPT » par laquelle on peut considérer que l’IA générative a été enfin connue du grand public. Étonnamment dans son livre « Quand la machine apprend » paru en 2019, il reconnaît que « Dans l’histoire des sciences, l’artefact technologique a souvent précédé la théorie et la science (…) la lentille, le téléscope et le microscope ont été inventés bien avant que Newton ne développe la théorie de l’optique. » et un peu plus loin : « La recherche en IA en est encore au stade de l’invention. Elle n’est pas encore une science. Nous ne disposons pas encore d’une théorie générale de l’intelligence. » 

Pour résumer, on a donc d’un côté un ingénieur qui bien que convaincu du bienfondé de la science prométhéenne (la science des ingénieurs qui innove) tient à la vérité et se méfie des discours formatés par le politiquement correct et notamment ceux que peuvent servir les IA génératives. Notons également qu’il s’est battu pour que les internautes puissent conserver leur droit à la liberté d’expression sur X (en dénonçant la mainmise du FBI sur le réseau social au moment du rachat de Twitter, ou encore récemment en protestant contre le DSA de Thierry Breton ). Ajoutons encore qu’il fait tout pour la transparence de l’algorithme de X et préfère les notes des utilisateurs (les Community notes) pour évaluer la pertinence des contenus diffusés sur X. C’est donc une conception très ouverte de la vérité et qui dépasse la seule ambition scientifique de Grok le robot conversationnel de xAI.

De l’autre côté, même s’il défend une version classique et noble de la Science avec un grand S, qu’il peut justifier par le travail académique colossal effectué et son aura de pionnier de l’IA, Yann Le Cun se retrouve à bosser pour FAIR, la structure de recherche de Meta. Or comme on sait cette dernière pratique volontiers le contrôle (et parfois la censure) des publications des internautes et ce parfois de manière très injuste et non fondée scientifiquement, comme l’illustre, par exemple, le blocage dont a été victime Bjorn Lomborg pour avoir publié une étude de The Lancet qui annonçait que le réchauffement climatique causait moins de morts d’une manière générale, car moins de morts du froid (voir à ce sujet notre commentaire dans Greta a ressuscité Einstein). 

Faire de la recherche sans publier d’articles scientifiques peut-il être considéré comme de la science ?

La recherche contemporaine s’est totalement convertie au peer-reviewing, la revue par les pairs. C’est en effet un passage obligé. Comme je l’avais étudié dans mon ouvrage la Querelle des OGM, cela permet de circonscrire la limite entre controverse - une opposition entre experts qui porte sur une théorie scientifique ou l’interprétation d’un même fait - et polémique - une dispute entre deux individus experts et/ou non experts et qui conduit à des invectives ad hominem. Une étude de cas caractéristique concerne le scientifique écossais Arpad Pusztai. En 1995, il a été commissionné par le bureau écossais de l’agriculture, de la pêche et de l’environnement pour étudier les effets de l’ingestion d’aliments génétiquement modifiés sur la santé des animaux et des hommes. Avant même qu’il ne se soit plié à la tradition de la revue des résultats de ses expériences par les pairs, Pusztai en a dévoilé une partie lors d’un plateau TV en août 1998 et provoqué un scandale en déclarant « nous sommes tous des cobayes » ; puis, il a publié ses travaux sur Internet en février 1999, avant que le Lancet ne les officialise en les diffusant le 16 octobre 1999, ce qui a provoqué les foudres de la Royal Society. Au travers de l’affaire Pusztai, on assiste à une remise en cause de l’autorité scientifique de part et d’autre. En effet, l’Académie des sciences britannique a sévèrement critiqué et contesté le protocole et les résultats de l’expérience de Pusztaï et fini par démettre le scientifique de ses fonctions. Quant à celui-ci, il a contesté l’autorité de la Royal Society. 

Trois grands types de reproches ont été faites aux travaux du chercheur : Pusztai aurait eu recours à une méthodologie inadéquate ; il aurait employé une alimentation inadaptée ; enfin, il aurait laissé planer une certaine confusion, une absence de renseignements, une absence d’hypothèse de départ, et, au final, effectué une généralisation incorrecte : comme on le constate ici, la critique remet directement en question l’honnêteté intellectuelle du scientifique et dépasse le seul argumentaire scientifique. Pusztai a été démis de ses fonctions ce qui ne l’a pourtant pas empêché de répondre à la Royal Society. Il s’en est suivi un véritable dialogue de sourd et une série de scandales dans la presse britannique. Les acteurs se sont mutuellement accusés d’être de mauvaise foi. A la suite de la publication dans le Lancet des résultats des travaux, une polémique s’est engagée entre la Royal Society et le directeur du journal médical, aussi l’Académie britannique a dû se justifier en public en précisant qu’elle n’avait pas eu pour intention de censurer un journal. Au travers de cette affaire, on passe donc de la controverse à la polémique : On voit bien que ce n’est plus l’explication scientifique de la réalité qui est en jeu mais la confiance dans les autorités scientifiques.

Ceci-dit, si la relecture par les pairs semble une caution de scientificité, elle n’est toutefois pas exonérée de toute critique et on aurait tort de lui confier un blanc seing. Vos lecteurs doivent se rappeler encore de l’étude bidon contre l’hydroxychloroquine publiée sur le Lancet (encore lui ! ) en Mai 2020 et qui a été retirée depuis et qui a poussé le directeur de la revue à faire ses plus plates excuses. Autre reproche que l’on peut faire aux revues à comité de lecture, c’est le risque de cherry picking dû à des biais qui pousseraient les pairs à sélectionner une forte représentation de certaines thèses et inversement à en éliminer d’autres et induire une certaine forme de circularité, comme l’a montré Sébastien Point au sujet du consensus relatif au réchauffement climatique par exemple. 

Tout cela au final nous renvoie aux modalités du débat sur la science. Il faut qu’il y ait des controverses, c’est-à-dire des débats entre experts cadrés au sein de revues scientifiques à comité de lecture, en ce sens Le Cun a raison de rappeler la légitimité de la pratique du peer-reviewing… ceci-dit, on ne peut empêcher les polémiques c’est-à-dire des débats entre experts et non experts sur la « politique scientifique », car cela contreviendrait à la liberté d’expression, chère à Elon Musk ; et cela même si le risque de diffusion d’opinions biaisées est énorme via des mécanismes très bien identifiés tels que l’ultracrépidarianisme ou encore la loi de Brandolini… Un outil de débat tel que X désormais agrémenté de ses notes de la communauté est parfait, car il permet de mettre les experts directement en contact avec les non-experts et quand le débat ne tourne pas à la polémique, de pouvoir les influencer… une méthode bien meilleure que celle qui consiste à imposer une vérité ex cathedra ou de confier son esprit critique naïvement aux résultats des prompts que l’on soumettrait à Chat GPT.