Les algorithmes sont-ils les véritables maîtres du monde ?

Atlantico : Machines de flash-tradings, système binaires, les automatismes semblent avoir pris un rôle croissant dans les processus de décision quotidiens, que ce soit dans la finance ou l’ingénierie. Peut-on dire malgré tout que les algorithmes sont en train de faire main basse sur tous nos processus de décisions ? Y-a-t-il une "sur-rationalisation" de nos sociétés ?

Jean-Yves Trépos : Il me semble important de ne pas inverser les causalités en la matière : c’est la rationalisation des sociétés qui mobilise l’algorithmique et non la multiplication des algorithmes qui entraînerait une accélération de la rationalisation. Au sens strict, le développement même des sociétés, depuis l’Antiquité (pas seulement occidentale) repose sur l’utilisation d’algorithmes : la seule variation tient à leur inégale inscription dans des techniques (Pierre-Maxime Schuhl dans Machinisme et philosophie, en 1938, voyait là l’une des explications du blocage de la science grecque : elle n’avait pas besoin de concrétiser ses algorithmes). Pour s’en tenir aux sociétés que l’on peut appeler "modernes" (en gros les sociétés industrielles jusqu’à la fin du 20^ème siècle) : le mouvement de rationalisation de la vie y est fort, peut-être est-ce même l’un des marqueurs de la modernité, si l’on en croit Weber ou Parsons.

Ce mouvement appelle des procédures de décision pariant sur l’absence d’ambiguïté, réitérables de manière rapide (voire presque instantanées comme dans le flash-trading) et sur des univers stables. L’informatique (qui n’est qu’un gigantesque algorithme) a fourni les outils de ce processus.

Mais la machine aurait-elle échappé à son concepteur ? Une telle vision est naïve ou pour le dire mieux : romantique (pré-moderne). D’abord parce que l’algorithme s’adapte mal à l’instabilité : il nécessite des corrections incessantes qui, elles, ne proviennent pas d’algorithmes (c’est ce que j’avais proposé d’appeler "le pifomètre systématique", qu’on pourrait rendre en anglais par le mot-valise « guesstimation »). Ensuite parce qu’il ne faut pas oublier toutes les transactions homme-machine qui sont nécessaires pour que l’opération (par exemple dans un hedge fund) fonctionne. Enfin, parce que l’idée même de modernité vacille, non sous le coup d’une "sur-rationalisation", mais sous les coups de boutoir de la réflexivité des usagers, qui conduisent à mettre en balance le rationnel et le raisonnable. A tout le moins, nous serions dans ce que Giddens appelle "la modernité réflexive", avec des algorithmes ouverts, mais nous pourrions tout aussi bien être dans cette post-modernité qui fait surgir face aux algorithmes en panne, des heuristiques (discipline qui se propose de dégager les règles de la recherche scientifique, ndlr) capables d’éviter la paralysie de l’action en définissant d’autres priorités. Là est en définitive la réponse à toute question en matière de décision : quelles sont nos priorités ? Les discussions autour des conditions de séparation des activités à risques et des activités classiques dans les banques en sont l’une des illustrations.

Quels sont aujourd'hui les secteurs où les algorithmes sont les plus représentés ?

On pense souvent à la finance, mais il faut noter que plus aucun secteur ne peut aujourd’hui se passer de ces outils. Très globalement, ils sont dans les équipements du management des activités humaines et, par conséquent, les secteurs de l’aide à domicile et de la dépendance les voient progressivement s’installer, comme ce fut le cas pour les hôpitaux avec le PMSI dans les années 1980.

L’émergence de ces outils de contrôle automatisés prouve-t-elle que l’organisation du monde dépasse aujourd’hui la compréhension humaine ? Peut-on parler d’une évolution de notre rapport au savoir ?

C’est sans doute difficile à admettre, mais il n’y a pas un monde qu’on comprendrait mieux ou moins bien : nos activités construisent elles-mêmes les limites de notre univers et nous ne lui posons que les questions pour lesquelles nous avons des réponses ! Si notre rapport au savoir est en crise – ce dont je ne suis pas sûr – ce n’est pas parce que nous démissionnons, mais que nous faisons évoluer (très lentement) la dimension de porteur isolé du savoir vers une conception plus collaborative de type wiki.

A terme un rééquilibrage entre contrôle humain et contrôle informatisé est-il souhaitable ? 

Contrairement aux articles qu’on lit parfois, je ne vois pas pourquoi nous devrions avoir peur des algorithmes, y compris ceux des traders. Dès lors qu’on reconnaît qu’il n’y a pas d’un côté les hommes et, de l’autre, les machines (et/ou les animaux), mais un collectif socio-technique qui évolue et se modifie, parfois de manière algorithmique, parfois de manière événementielle. Le problème n'est pas de rétablir un contrôle humain : il est simplement d’expliciter les conditions d’exercice des programmes d’action.

Voyez même en management le développement des "architectures peer to peer", qui permettent de construire de manière décentralisée et fiable des bases de connaissances. Dans ces architectures, chaque pair (centre de recherches, entreprise...) partage la base de connaissance avec les autres pairs. Il peut modifier cette base. Les modifications sont alors propagées sur le réseau et sont intégrées pour chacun des pairs par l’utilisation d’algorithmes de synchronisation adaptés.

Propos recueillis par Théophile Sourdille