Dangers de l’IA : Elon Musk et des centaines d'experts réclament une pause dans l'intelligence artificielle, évoquant « des risques majeurs pour l'humanité »

Elon Musk et des centaines d'experts mondiaux de l'intelligence artificielle ont signé mercredi un appel afin de faire une pause de six mois dans la recherche sur les IA plus puissantes que ChatGPT-4. OpenAI a lancé ce modèle à la mi-mars. 

Les signataires évoquent notamment « des risques majeurs pour l'humanité ». Des scientifiques français font partie des signataires.

Sur le site futureoflife.org, les signataires réclament un moratoire jusqu'à la mise en place de systèmes de sécurité, dont de nouvelles autorités réglementaires dédiées. Ils plaident notamment pour la surveillance des systèmes d'IA, des techniques pour aider à distinguer le réel de l'artificiel et des institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera » :

« Ces derniers mois ont vu les laboratoires d'IA s'enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable.  (...) Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus ». 

Le patron d'OpenAI (ChatGPT), Sam Altman, a lui-même reconnu être « un petit peu effrayé » par sa création si elle était utilisée pour de « la désinformation à grande échelle ou des cyberattaques ». 

La pétition réunit des personnalités qui ont déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui seraient en capacité de surpasser l'être humain, dont Elon Musk, propriétaire de Twitter et fondateur de SpaceX et de Tesla. 

Parmi les signataires figurent aussi le cofondateur d'Apple Steve Wozniak, des membres du laboratoire d'IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d'OpenAI, ainsi que des experts en IA et universitaires et des ingénieurs cadres de Microsoft, groupe allié de OpenAI.