Comment les chiffres transforment les algorithmes en véritables menaces

Les algorithmes vont nous priver de liberté et bientôt nous détruire : voici l'un des principaux traits de la pensée dominante. Comment en sommes-nous arrivés à une telle conclusion ? C'est sans doute parce que nous ignorons ce qu'est véritablement un algorithme que nous y voyons une sorte d'intelligence artificielle maléfique. 

En réalité, un algorithme est un processus : on y suit, étape après étape, des instructions dans un ordre précis afin d'aboutir à un résultat. Ainsi, une simple recette de cuisine est considérée comme un algorithme : une méthode séquencée et rien de plus. En mathématiques, les algorithmes ont semble-t il toujours existé : compter, c'est procéder à un algorithme implicite consistant à prendre le premier nombre – zéro ou un – et à ajouter un à chaque fois pour obtenir le nombre suivant. C'est d'ailleurs sous cette forme que l'arithmétique fut axiomatisée par Giuseppe Peano à la toute fin du XIXe siècle. Il n'y a donc rien d'étonnant à ce que l'on trouve des algorithmes sur les tablettes babyloniennes, vieilles de quatre mille ans. Quant au célèbre algorithme d'Euclide, qui permet de savoir si deux nombres entiers sont premiers entre eux, il a été élaboré il y a deux mille trois cents ans. Le mot algorithme dérive d'ailleurs du nom du mathématicien perse Al-Khwarizmi (vers 780-vers 850), latinisé en Algoritmi dans les traductions occidentales du Moyen Âge.

Bref, on voit que les algorithmes n'ont rien d'une invention récente. 

Alors, pourquoi nous font-ils si peur ? Sans doute jugeons-nous qu'ils deviennent de plus en plus performants et qu'ils nous touchent de plus en plus près. Mais, au risque de nous répéter, il n'y a rien là non plus de nouveau. Les affaires humaines sont complexes et l'ont toujours été ; voilà pourquoi, le plus souvent pour des raisons économiques, de grands esprits ont cherché à les modéliser, quitte parfois, comme le note Aristote, à les caricaturer : 

En effet, si chaque instrument pouvait, par ordre ou par pressentiment, accomplir son œuvre propre, si, pareilles aux statues légendaires de Dédale ou aux trépieds d'Héphaistos, qui, au dire du poète, « pouvaient d'eux-mêmes entrer dans l'assemblée des dieux », les navettes tissaient d'elles-mêmes et les plectres jouaient de la cithare, alors le maître d'œuvre n'aurait nul besoin de manœuvres, ni les maîtres, d'esclaves. 

C'est précisément ce qui se produit lorsque les premiers métiers à tisser mécaniques voient le jour, dont le fameux métier Jacquard mis au point en 1801 avec ses cartes perforées qui permettent de guider les crochets en soulevant les fils de laine. C'est d'ailleurs en grande partie en se fondant sur ce mécanisme qu'Ada Lovelace (1815-1852) crée le premier véritable programme informatique, allant bien audelà des calculateurs numériques imaginés notamment par Leibniz puis Babbage. Mais Aristote n'avait pas imaginé que, lorsque les machines s'animeraient, elles seraient en butte à la colère des ouvriers dont elles confisqueraient les emplois. L'invention du métier à tisser va mettre en effet bon nombre d'artisans au chômage. Ceux-ci rejoignent alors le mouvement luddiste – tirant son nom d'un mystérieux Captain Ludd – qui vise à la destruction pure et simple des machines. Ce conflit social particulièrement violent voit le jour dans les années 1811-1812 au nord de l'Angleterre, à Nottingham précisément, la ville de Robin des Bois ! La problématique sociale de ce mouvement est d'ailleurs toujours d'actualité si l'on pense à l'automatisation des centres commerciaux qui met en péril l'emploi des agents de caisse. 

Mais si les algorithmes sont aujourd'hui perçus comme une menace, c'est moins pour leur aspect antisocial que par peur qu'ils finissent par gouverner l'humanité. Cette crainte est loin d'être irrationnelle. Mieux : elle épouse le sens de l'Histoire. Voir nos vies pilotées par des algorithmes constitue même l'aboutissement d'un long cheminement intellectuel et technique qui a commencé dès la fin du Moyen Âge avec la construction des premières horloges mécaniques.

Mesurer le temps est, déjà à cette époque, une affaire importante pour quantité de raisons matérielles mais aussi pour respecter l'heure de la prière, une problématique partagée par le christianisme et l'islam. La règle de saint Benoît par exemple, rédigée au milieu du VIe siècle et dont l'influence marqua l'ensemble du Moyen Âge, indique les heures auxquelles les moines doivent se lever, prier, déjeuner, travailler, etc. À cette époque, c'était le rythme du lever et du coucher du soleil qui dictait la journée. L'islam, très attaché aux rythmes de la lune et du soleil afin d'établir les mois et les années, a d'ailleurs maintenu les horaires des cinq prières quotidiennes en fonction du cycle solaire. Et si le christianisme s'est peu à peu détourné de la course des astres, c'est qu'il a été le témoin de nombreuses réformes calendaires n'ayant aucun rapport avec les cycles lunisolaires. Ce fut le cas par exemple lorsque le jeune Empire romain modifia son calendrier sans lien avec les phénomènes naturels, tandis que les empereurs changeaient le nom des mois pour des raisons strictement personnelles. 

Aussi, au XIVe siècle, avec la mise au point des premières horloges mécaniques, le christianisme fixe sans aucun état d'âme les heures canoniales indépendamment des cycles du soleil. Pour la toute première fois, l'horloge devient la référence pour indiquer l'heure, dissociant ainsi les événements humains des phénomènes naturels. Un temps abstrait vient de naître, quantification pure et universelle qui répandra l'idée que l'univers est réglé comme une horloge, suivant le modèle du monde mathématique de Pythagore. Voltaire en résume parfaitement l'image : 

L'univers m'embarrasse, et je ne puis songer Que cette horloge existe, et n'ait point d'horloger. 

Si Dieu est horloger, nous sommes alors de petits chronomètres mus par un simple mécanisme. Les progrès de la technique n'auront de cesse d'entériner cette pensée. Ainsi, l'horloge devient très vite un automate, soit une machine qui crée son propre mouvement. Or, au XVIIIe siècle, les automates commencent eux-mêmes à ressembler à de petits êtres humains. Entre 1767 et 1774, la famille Jaquet-Droz parvient à créer trois automates en mesure de faire des merveilles : la musicienne, capable d'enfoncer ses doigts sur les touches d'un clavier, possède un répertoire de cinq mélodies ; le dessinateur, qui souffle de temps en temps pour chasser les poussières laissées par la mine de son crayon, peut exécuter quatre dessins dont un petit chien ou le portrait de Louis XV ; l'écrivain, le plus complexe des trois, est capable d'écrire n'importe quel texte de quarante signes sur trois lignes en trempant sa plume d'oie dans un encrier. 

Si donc l'automate prend des allures d'être humain, l'être humain va très vite se confondre avec un automate. Voilà comment, à partir du milieu du XXe siècle, le progrès scientifique aidant, nous nous représentons notre cerveau comme un ordinateur capable de stocker de l'information, avec ses propres fils (réseaux neuroniques) et sa mémoire vive ayant une activité binaire (envoi d'un signal ou non). L'image est tout à fait paradoxale si l'on considère que c'est notre cerveau qui a inventé l'ordinateur et non l'inverse ! Du fantasme de Pygmalion à la menace de la créature du docteur Frankenstein, nous considérons désormais le monde comme un vaste ordinateur, sur le modèle du film Matrix (1999), l'un des grands succès du box-office dont l'affiche représentait justement une pluie de chiffres. 

Contrairement à ce que Nietzsche annonçait, Dieu n'est pas mort : il est devenu un algorithme informatique. La conséquence est immédiate : nous autres, êtres humains, sommes devenus des petits programmes réagissant aux stimuli du Grand Algorithme : on nous envoie un pop-up pour nous faire consommer, on crée de la monnaie pour nous faire dépenser, on nous envoie de l'information – vraie ou fausse – pour faire basculer notre vote. Mais il y a pire : nous nous mirons désormais dans les chiffres – combien de pas avons-nous faits aujourd'hui, combien de calories avons-nous perdues, à combien s'élève notre indice de masse corporelle, graisseuse ou musculaire, ou encore notre quotient intellectuel, combien de points avons-nous gagnés à un jeu addictif, combien de notifications avons-nous sur notre smartphone, combien de likes notre photo de vacances a-t elle obtenus, combien comptons-nous d'abonnés sur les réseaux sociaux ? Le rêve de Pythagore est devenu une caricature : nous sommes désormais un ensemble de nombres, de petites datas qu'analysent les Big Data. Car, que nous le voulions ou non, ces mégadonnées scrutent en permanence nos comportements avant d'agencer leurs informations et de calculer leurs récurrences statistiques. Voilà comment elles connaissent des pans entiers de notre passé, les grandes lignes de notre présent… et les contours de notre futur.

©Editions Albin Michel, 2020

Extrait du livre de Thierry Maugenest et Antoine Houlou-Garcia, "Le Théorème d'hypocrite: histoire de la manipulation par les chiffres de Pythagore au Covid-19", publié aux éditions Albin Michel

Lien vers la boutique, cliquez ICI et ICI