Mauvaise nouvelle, le “zéro bug” informatique n’existera jamais

Atlantico : A cause d'un bug informatique, une société de courtage chinoise a lancé une série d'ordres d'achats à hauteur de 2,87 milliards d'euros. Comment expliquer qu’avec des sommes aussi considérables en jeux, de telles erreurs puissent se produire ? Un certain amateurisme persiste-t-il même dans les systèmes informatiques les plus évolués ?

Michel Nesterenko : Ce n’est pas tant le logiciel qui est à montrer du doigt, que l’amateurisme de procédure observé dans ce cas. Des commandes aussi importantes doivent pouvoir être vérifiées de plusieurs manières. Si l’on postule que la transmission se fait correctement sans qu’il soit besoin de la vérifier, alors c’est un aveu de négligence.

L’erreur est humaine, c’est pour cela que des procédures de vérification sur les transactions importantes existent. Lorsqu’on dépasse certains seuils, des signaux d’alarme doivent normalement se mettre en marche. Dans le cas des affaires Kerviel et autres, le système d’alarme n’a pas été vu par les supérieurs - ou plutôt, ces derniers ont fermé les yeux. Ou alors, la compagnie est totalement négligente en n’ayant pas de système d’alarme : cela lui permet de gagner beaucoup d’argent, et le jour où cela se retourne contre elle, elle fait porter le chapeau à de quelconques petites mains. C’est exactement ce qui s’est passé pour Kerviel : son directeur, bien qu’ayant fermé les yeux pendant des mois, n’est pas allé en prison. C’est donc, à la base, un problème de bonne gouvernance. A défaut de trouver quelqu’un, on accuse le logiciel.

Est-il illusoire d’imaginer qu’un jour les systèmes informatiques seront totalement débarrassés des bugs ?

Les bugs sont partout, dans tous les logiciels, sans exception. Aujourd’hui, compte tenu de la complexité des logiciels, qui comportent des millions de lignes de code, il est impossible d’avoir un système « clean ». D’une année à une autre, on fait des « patch », on change de versions, et à chaque fois des bugs sont introduits ou hérités des versions précédentes. Cela est ingérable, invérifiable, mais fonctionne tout de même - plutôt bien que mal, d’ailleurs.

Microsoft, Apple et tous les autres, y compris ceux qui conçoivent les logiciels bancaires, aimeraient voir les bugs disparaître. Mais compte tenu du fait que les logiciels d’aujourd’hui sont faits à partir de versions conçues il y a dix ou vingt ans, il est utopique de penser que l’on pourra se débarrasser des bugs ad vitam aeternam.

Structurellement, le bug est-il nécessaire à l’amélioration des systèmes ? Permet-il d'apprendre de ses erreurs ?

Non, il ne l'est pas. Faire évoluer un système coûte très cher. Chaque fois, ce sont des milliards qui sont investis par Windows pour passer d’une version à une autre. On ajoute à chaque fois des fonctionnalités supplémentaires, fournies à tout le monde, mais dont même pas 1% des utilisateurs se servent. Ne serait-ce que pour le traitement de texte ou les tableurs, nous n’utilisons qu’une partie infime des outils, ce qui ne nous empêche pas d’en changer.

Paradoxalement, on invoque souvent l’infaillibilité de la machine par rapport à l’homme. Cette vision des choses est-elle pertinente ?

Quand l'ordinateur est arrivé dans les banques, on invoquait leur infaillibilité pour affirmer qu’aucune erreur de sa part n’était possible. Aujourd’hui, dans la même situation, si une erreur est commise, celle-ci est mise sur le compte de l’ordinateur. La procédure humaine, et le bon sens de l’homme qui vérifie, sont la seule solution pour se protéger.

Tous les secteurs d’activité sont-ils également exposés au risque de la survenance de bugs ?

Tous les domaines sont concernés, sans exception, et si l’homme renonce à tout contrôle, alors il faut s’attendre à des issues fatales. La grande question posée est celle du rapport entre le nombre de morts et les coûts représentés par la sécurité. Que vaut la vie humaine, tout simplement ? 

Dans un avion, par exemple, qui n’est ni plus ni moins qu’un gros ordinateur, des bugs se produisent constamment. Cela est compensé par plusieurs systèmes qui se surveillent les uns les autres. On compte par exemple trois pilotes automatiques, qui procèdent entre eux à une sorte de "vote" sur les propositions offertes par chacun. C'est pour cela qu'en matière aéronautique, les logiciels sont testés à outrance, pendant des milliers d’heures. Et pourtant des bugs, il y en a toujours. C’est pourquoi on compense avec les trois systèmes. De même, dans le secteur médical, les systèmes informatiques connaissent également des bugs avec, à la clé, des morts...

Propos recueillis par Gilles Boutin