Quand l’intelligence artificielle mène les humains à commettre des erreurs (de plus en) plus graves | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Quand l’intelligence artificielle mène les humains à commettre des erreurs (de plus en) plus graves
©Reuters

Dérives

Quand l’intelligence artificielle mène les humains à commettre des erreurs (de plus en) plus graves

Si l'IA débarque aujourd'hui dans tous les secteurs, ses limites risquent aussi d’entraîner de forte déceptions.

Yvon Moysan

Yvon Moysan

Yvon Moysan est diplômé de Harvard et de l’ESSEC. Il est Lecturer de Digital Marketing et Directeur Académique du Master en Apprentissage Digital Marketing et Innovation à l’IESEG School of Management. Ses travaux de recherche académique s’articulent autour du Digital et notamment des objets connectés. Il est, dans ce cadre, membre de la chaire Digital Banking et Big Data du Crédit Agricole Nord de France. Il est par ailleurs Président fondateur de Saint Germain Consulting, cabinet de conseil en Digital Marketing spécialisé dans les secteurs Banque, Assurance et Retail. Il a occupé précédemment différents postes de management en Digital Marketing au sein de banques ou assurances internationales (Siège mondial AXA, HSBC France, BNP PARIBAS – Banque Directe). Il intervient régulièrement en France comme à l’étranger comme public speaker dans différentes conférences professionnelles ou académiques (In Banque, Mobile Shopping Europe, EFMA, CCM Benchmark etc.). Il publie également dans différentes revues professionnelles (Revue Banque, Banque et Stratégie). Ses publications sont accessibles ici.
 

Voir la bio »
Claire Lavielle

Claire Lavielle

Claire Lavielle sera diplômée de IESEG school of Management. Elle participe activement à la digitalisation du groupe Puig, pendant son alternance spécialisée en Marketing Digital et Innovation. Ses activités s’articulent autour de l’Intelligence Artificielle, des nouvelles technologies et du Big Data. Elle a, dans ce cadre, présenté la start up Vekia, pionnière de l’IA dans la Supply Chain, lors d’un concours d’éloquence. Elle est aussi activement impliquée dans l’association TEDx et organise des évènements autour de la découverte des nouvelles technologies.

Voir la bio »

Un article de la Harvard Business Review fait l'analogie entre le miroir aux alouettes de Power Point en termes d'efficacité d'organisation du travail, et celui (potentiel) de l'intelligence artificielle et du machine learning. En quoi ces technologies et autres méthodes pourraient s'avérer décevantes dans cette optique ?

Yvon Moysan : Si les années 1995-2000 auront été celles de la mutation de l’internet, les années 2015-2020 seront vraisemblablement celles du Big data et de l’intelligence artificielle faible. Comme avec internet, les solutions d’IA vont modifier en profondeur l’organisation de l’entreprise, qui devra nécessairement s’adapter à cette nouvelle intelligence au centre d’enjeux cruciaux : systèmes experts commerciaux, réalisation d’analyses prédictives, évolution des modèles d’affaire… L’intelligence artificielle va rendre les entreprises plus intelligentes, dans le sens où elle leur permettra d’être plus proactives et d’appuyer leurs décisions. Le résultat final devrait se rapprocher d’une entreprise en mode data-driven, dotée d’une capacité organisationnelle analytique qui englobe la détection, la génération, le stockage, le traitement et l’analyse des données. L’IA sera alors partout, et l’entreprise devra donc veiller à l’analyse de la faisabilité technique et juridique des solutions qu’elle mettra en place, à des structures adaptées, à la protection de la propriété intellectuelle et industrielle, sans oublier les sujets éthiques. Chacune de ces différentes composantes ayant ses propres limites, cela engendrera sans aucun doute de nombreuses déceptions.

En conséquence, les décisions seront elles aussi data-driven, c’est-à-dire qu’elles engloberont une composante analytique basée sur le traitement de données internes ou externes. La qualité des décisions dépendra alors sans doute de la manière dont le management s’adaptera et gèrera ces nouvelles technologies au sein d’une organisation. Si la technologie est importante, le manager aura alors un rôle clé. Cette évolution du management nécessaire devra donc être suffisamment prise en compte en amont, dans le cas contraire cela provoquera inéluctablement là aussi des déceptions. Recruter une équipe de data scientists ne sera en effet pas suffisant pour transformer radicalement une entreprise en mode data. Il s’agit en effet d’une réelle mutation qui impacte l’intégralité des processus de l’entreprise et qui redéfinit même la manière de travailler, de communiquer et d’interagir. Le manager devra ainsi être capable d’agir en temps réel, voire en mode préventif ou prédictif mais également de pouvoir impliquer tous les nouveaux spécialistes de la data dans les processus de décisions. Dans le cas contraire, nous aboutirions à l’inverse du résultat escompté : lourdeur et inertie, annihilant ainsi le bénéfice du temps réel et du prédictif initialement recherchés.

Quels sont les dangers d'une trop forte dépendance à ces nouveaux outils de management ?

Yvon Moysan : Les derniers modèles de machine learning n’ont pas encore tout résolu, les dangers sont donc nombreux d’en être trop fortement dépendant. A l’heure actuelle et à la différence d’un être humain aucun programme ne peut ainsi, seul, s’atteler à une multitude de tâches. Les algorithmes ont en effet souvent du mal à généraliser en s’adaptant à de nouveaux problèmes même très proches. L’architecture des modèles peut être réutilisée, mais l’apprentissage doit redémarrer depuis le début. Un programme de dames ou d’échecs ne pourrait pas ainsi jouer au morpion. Nous pouvons également préciser qu’entraîner des algorithmes demande beaucoup de données, la qualité du modèle de machine learning dépendra donc en partie de la disponibilité et de la qualité des jeux de données. Enfin nous pouvons surtout rappeler que si les réseaux neuronaux fonctionnent bien, ils restent de véritables boîtes noires. Il est ainsi pour l’instant impossible de comprendre et donc d’expliquer avec précision comment un algorithme arrive à une conclusion. Il faudra pourtant à terme en être capable afin de pouvoir fournir des explications aux utilisateurs d’application d’IA. Un conseiller bancaire souhaitera sans doute pouvoir expliquer à un client qui le lui demande pourquoi son prêt lui a été refusé par un algorithme de deep learning. Et surtout, cela pourrait aider à expliquer (et donc à éviter) des cas bien plus graves, comme la catégorisation par Google Photos de deux personnes noires en tant que « gorilles » en juillet 2015 ou de futurs probables accidents mortels provoqués par des voitures autonomes.

Comment véritablement former les futurs utilisateurs de ces technologies pour éviter de coûteuses erreurs ? Faudra-t-il, à terme, changer l'organisation des entreprises ?

Claire Lavielle : Dans « Data Age 2025 », le spécialiste du stockage informatique Seagate a demandé à IDC d'étudier la progression attendue du volume des données à l'échelle mondiale d'ici à 2025. En moins de dix ans, le volume total de données à analyser devrait être multiplié au minimum par huit, pour atteindre 163 Zettaoctets (163 milliards de Téraoctets). Gartner, de son côté, assure qu’aujourd’hui près de 80% des analyses des données réalisées dans les entreprises sont faites avec des outils basiques, de type Microsoft Excel et Access, outils conventionnels connus de tous, faciles à maîtriser et très peu coûteux. Avec la quantité exponentielle de données à analyser, ces outils présentent de plus en plus d’inconvénients : impossibilité d’analyser des informations au-delà du Go de données, problème des silos de feuilles de calcul avec la multiplication des versions du fichier et les différentes macros utilisées dans l’entreprise mais aussi le problème des droits d’accès et leur suivi (expiration, départ, mutation…). Avec les nouvelles masses de données à analyser, il est devenu nécessaire de se faire aider par les machines et c’est là que l’Intelligence Artificielle (IA) et le Machine Learning (ML) entrent en jeu.

La deuxième exigence à prendre en considération est la formation continue à ces nouvelles technologies. Beaucoup d’entreprises aujourd’hui se contentent de prévoir un budget uniquement pour les coûts de licence et quelques jours de formations au mieux pour les utilisateurs. Des plans de formation continue seraient pourtant à recommander sur ces nouveaux outils et un suivi personnalisé, chaque utilisateur a en effet des besoins et des capacités d’adaptation différents.

Ces nouvelles technologies dépendront également de la manière dont le management s’adaptera et les gèrera au sein d’une organisation. Le Machine Learning et l’Intelligence Artificielle bouleversent en profondeur le fonctionnement et les principes managériaux. Ils assistent les managers dans leurs analyses et leurs prises de décision et, donc, déplacent leurs domaines de compétences. Dans certains cas, ils remplacent même les managers. Par exemple, le logiciel d’IA de l’éditeur Cogito encadre le personnel du call center : il est capable de décrypter des émotions dans l’intonation des voix, il conseille ou rappelle à l’ordre les agents en cas de soucis avec un client. Dans le même esprit, la société d’investissements DKV (Deep Knowledge Venture), à Hong-Kong, compte déjà depuis 3 ans, parmi les 6 membres de son conseil d’administration, l’algorithme Vital : il prend seul des décisions en matière d’investissements, et sa voix compte tout autant que celles des administrateurs humains.

Pour les managers, le premier enjeu est donc de rassurer les employés qui auront l’IA et le ML comme collègues. Leurs missions vont devoir évoluer en profondeur et accorder une plus grande importance à la dimension humaine. L’ensemble des équipes doit être capable de se recentrer sur des activités avec une plus haute valeur ajoutée qui requièrent : de la créativité, de la réflexion ou une expertise diversifiée. En d’autres termes, ce que le IA ne sait pas encore faire. Il est donc important de discerner en interne les talents capables de penser autrement. Ils doivent être encadrés de façon adaptée avec des managers qui donnent du sens à leurs missions, les encouragent, écoutent leurs idées, et suivent leurs conseils. Plus que des leaders, la nouvelle génération de managers doit être constituée de vrais coachs, stimulants, mais aussi communicants et fédérateurs.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !