"Le fabuleux chantier, rendre l’intelligence artificielle robustement bénéfique" de Lê Nguyen Hoang et El Mahdi El Mhamdi : l’intelligence artificielle pourrait-elle nous influencer vers le meilleur et non vers le pire ? Une réflexion menée avec brio<!-- --> | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
Culture
Le fabuleux chantier, rendre l’intelligence artificielle robustement bénéfique de Lê Nguyen Hoang et El Mahdi El Mhamdi
Le fabuleux chantier, rendre l’intelligence artificielle robustement bénéfique de Lê Nguyen Hoang et El Mahdi El Mhamdi
©

Atlanti Culture

Lê Nguyen Hoang et El Mahdi El Mhamdi ont publié "Le fabuleux chantier, rendre l’intelligence artificielle robustement bénéfique" (EDP Sciences).

Paul Lelievre pour Culture-Tops

Paul Lelievre est chroniqueur pour Culture-Tops. Culture-Tops est un site de chroniques couvrant l'ensemble de l'activité culturelle (théâtre, One Man Shows, opéras, ballets, spectacles divers, cinéma, expos, livres, etc.).

Voir la bio »

"Le fabuleux chantier, rendre l’intelligence artificielle robustement bénéfique" de Lê Nguyen Hoang et El Mahdi El Mhamdi

EDP Sciences - 296 pages - 39 euros.

Recommandation

ExcellentExcellent

Thème

Nous avons tous conscience aujourd’hui que nos smartphones, nos ordinateurs et autres tablettes, ont pris une place plus qu’importante dans nos vies et que notre attention est souvent détournée par ces machines contenant des applications qui passent leur temps à nous solliciter. Mais pourquoi le font-elles à ce point ? En plus d’attirer en permanence notre attention, ne leur a-t-on pas donné le pouvoir de nous suggérer bien plus qu’une chanson qui devrait nous plaire au regard de ce que nous avons choisi d’écouter ces dernières vingt-quatre heures ? Avons-nous vraiment choisi ce que nous venons d’écouter ou de regarder sur la dernière plateforme vidéo ou le dernier réseau social sur lequel nous avons cliqué ?

C’est parce que d’ores et déjà les intelligences automatisées qui gèrent ces suggestions nous manipulent qu’il est urgent de leur apprendre à influencer les internautes pour leur bien et non pour les diviser, envenimer les polémiques ou faciliter les lynchages racistes que nous ne connaissons que trop aujourd’hui.

C’est aussi parce que les intelligences artificielles, sans le vouloir, tuent déjà, qu’il faut prendre à bras le corps le fabuleux chantier de les rendre bénéfiques. Tous nous pouvons, à divers degrés, prendre part à cette aventure, l’une des plus cruciales jamais connues par l’humanité : réussir à définir une éthique assez générale pour satisfaire l’ensemble des humains, « codable » c’est-à-dire calculable au sens algorithmique et pouvant se renforcer à mesure que les intelligences artificielles apprennent. Ces intelligences entendues comme « outil de traitement automatisé de l’information doté d’un objectif » doivent enfin avoir des objectifs qui soient pour nous tous, bénéfiques.

Points forts

Toutes les thèses présentées dans ce livre le sont avec nuance et le message que le temps presse pour que tous nous prenions part au fabuleux chantier passe d’autant mieux. Pas étonnant que le nom de l’un des auteurs, Lê Nguyen, soit associé à #DébattonsMieux ou encore à l’association altruisme efficace qui agissent pour améliorer, autant qu’il est possible, le monde dans lequel nous vivons, avec une réelle sincérité et sans dogmatisme.

Points faibles

Je n’en vois sincèrement pas.

En deux mots ...

Il est urgent de rendre les intelligences artificielles d’aujourd’hui et de demain bénéfiques, c’est à dire conçues pour avoir un système de la récompense qui les mène à nous influencer pour le meilleur, pas pour le pire, comme c’est souvent le cas aujourd’hui, en polarisant les opinions et en renforçant certains utilisateurs dans leurs théories fumeuses tout simplement parce que ces machines intelligentes veulent toujours plus de clics, toujours plus attirer notre attention en nous confinant, pour ce faire, dans nos préjugés. Ce qui est au départ un enjeu économique lié à la réussite de l’application ou du site mis en ligne, devient très vite un problème éthique voire un problème de survie pour l’humanité, même si cette dernière idée est souvent ridiculisée par les spécialistes.

Changer cela est le but du fabuleux chantier car ces intelligences tuent déjà et continueront de le faire si nous ne prenons pas assez au sérieux le problème de l’implémentation d’une éthique dite « robuste » dans les codes qui sous-tendent leur façon de sélectionner, de gérer l’information à partir de laquelle elles apprennent et comprennent le monde.

Un extrait

« Même s’il peut paraître bénin, le rôle des IA en charge de la sélection de l’information à montrer aux utilisateurs est en fait monstrueusement important. Il peut amener tout utilisateur sur une pente glissante, en l’amenant par exemple à consommer des contenus de plus en plus radicaux. L’IA de Youtube pourrait commencer par des suggestions de vidéos sur des magouilles de politiciens, et finir, dix vidéos plus tard, avec des histoires de franc-maçons qui seraient au contrôle du monde. « C’est comme si vous n’étiez jamais suffisamment radical pour Youtube », explique la technosociologue Zeynep Tufeckci. »

L'auteur

-Lê Nguyên Hoang est un polytechnicien et chercheur en mathématiques qui se produit notamment en tant que vidéaste sur Youtube. Sur sa chaîne « science4all », il propose des vidéos par séries thématiques passionnantes et abordables, très bien animées, qui laissent une grande place, après le thème de la vidéo expliqué, à l’analyse des commentaires qu’ont laissés les internautes à propos de la vidéo précédente. C’est donc un pédagogue passionné et accessible qui partage le fruit de ses recherches et de ses découvertes en ne se présentant jamais comme celui qui détient un savoir absolu et indiscutable.

 -El Mahdi El Mhamdi est chercheur à l’EPFL. Diplômé de l’École Polytechnique, il a notamment fait avancer la recherche sur la vulnérabilité et la sécurisation des algorithmes de machine learning distribué. Il est aussi co-fondateur du média Mamfakinch primé par Google et Global Voices en 2012.

Le clin d'œil d'un libraire

Faire du lèche vitrine rue du Faubourg Saint Honoré à Paris n’est plus  un luxe mais cela reste un privilège surtout lorsqu’on a la chance d’entrer au 164 chez Claude Blaizot dans la librairie éponyme de père en arrière petit- fils depuis 1870, ou au 178, chez notre ami Jean Izarn qui a repris la fameuse librairie Chrétien ou encore dans la librairie Picard au 128. Blaizot est, on peut le dire, un monument historique, le temple du livre rare, sinon unique, le royaume du livre précieux dans tous les sens du terme. « Chez Blaizot, nous sommes tout autre chose que des commerçants.  Nous sommes des artisans-libraires ». Sous leur enseigne sont réunis depuis des générations tous les métiers du livre d’art : éditeur, typographe, illustrateur, relieur, collectionneur bien sûr et avant tout découvreur.

Les éditions les plus rares sont à découvrir chez Blaizot, uniques sont certains exemplaires anciens, très limités sont les tirages. Mais le prix n’attend pas le nombre des années. Surprenant : un Houellebecq relié tiré sur Velin d’Arches à 120 exemplaires vaut ici 3 000 euros, un Le Clézio plus de 2 000 ! « Notre coup de cœur : Petits et grands verres, écrit et illustré par Laboureur, édité en 1927 (Au Sans Pareil éd. Tirage, 270 ex. !) ». Le prix ? Celui d’un Château Petrus 1947…

Que l’on se console : une simple visite vaut le « coup » d’œil : décor art déco 1920 dans son jus, vitrail du maître verrier Grüber, poème de Pierre Lecuire, « l’architecte du livre », selon Claude Blaizot (« il voit des âmes au plafond… »). Partage d’émotions garanti avec le maître des lieux : «Là où on peut donner le plus de soi, c’est dans l’édition, et le tourment le plus dur du libraire, c’est justement de se séparer d’un ouvrage qu’on a près de soi ».

 Librairie Auguste Blaizot, livres précieux : 164, Faubourg St Honoré 75008 PARIS 

Texte et interview par Rodolphe de Saint-Hilaire pour la rédaction de Culture Tops.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !