Une figurine devant le logo de la société américaine de recherche et de sécurité en intelligence artificielle Anthropic lors d'une séance photo à Paris, le 13 février 2026.
See image caption
See copyright

REVOLUTION TECHNOLOGIQUE

Mais à quoi joue Anthropic ?

Alors que le patron d’Anthropic appelle à envisager une pause dans la course à l’intelligence artificielle afin d’éviter une perte de contrôle des systèmes les plus avancés, les révélations du Financial Times jettent une lumière crue sur les ambiguïtés du secteur. Les modèles d'Anthropic sont utilisés par les agences de renseignement américaines, dont la NSA, y compris dans le cadre d’opérations cybernétiques offensives visant notamment des puissances rivales comme la Chine ou l’Iran, avec une coopération assumée entre Anthropic et l’appareil sécuritaire américain.

20 min de lecture

0:00min
100%

Ce qu'il faut en retenir : 

  • Anthropic affirme que ses modèles participent déjà au développement des générations suivantes d’IA, alimentant le débat sur une possible « amélioration récursive ».

  • Les experts divergent sur le calendrier : certains évoquent un basculement possible dans les prochaines années, tandis que d’autres soulignent que l’autonomie complète reste hors de portée à ce stade.

  • L’appel d’Anthropic à un ralentissement du développement est interprété à la fois comme une alerte sur les risques et comme une démarche aux implications stratégiques et concurrentielles.

  • La coopération de l’entreprise avec les services de renseignement américains nourrit les interrogations sur la compatibilité entre discours de prudence, impératifs de sécurité nationale et compétition géopolitique.

Atlantico : Anthropic affirme que ses propres modèles participent désormais au développement des générations suivantes d’IA et évoque le risque d’une "amélioration récursive". De quoi parle-t-on concrètement ? Quel est le seuil technique qui sépare un simple outil d’assistance à la recherche d’un système capable de contribuer à la conception de son propre successeur ? Sommes-nous à quelques mois, quelques années ou encore très loin d’un tel basculement ? 

Fabrice Epelboin : L’amélioration récursive désigne le moment de bascule technologique où une intelligence artificielle ne se contente plus d'assister l'humain, mais devient capable de concevoir, tester et déployer ses propres successeurs en totale autonomie. Concrètement, nous avons déjà franchi les premières étapes de cette transition : en mai 2026, plus de 80 % du code d’Anthropic est généré par Claude, permettant aux ingénieurs de multiplier par huit leur productivité quotidienne. Le seuil technique majeur réside dans le passage de la simple exécution de code au jugement scientifique autonome, une frontière qui s'estompe puisque la longueur des tâches exécutées de façon fiable par les modèles double tous les quatre mois. 

De plus, leur modèle Mythos Preview surpasse déjà les choix de direction des chercheurs humains dans la majorité des situations complexes étudiées. Nous ne sommes pas face à une perspective lointaine, mais à un bouleversement imminent que les fondateurs d'Anthropic estiment possible d'ici deux ans ou moins. 

Cette accélération pose un problème critique : en éliminant l'humain du processus parce qu'il devient un goulot d'étranglement pour la productivité, nous perdons définitivement toute capacité de contrôle civique, d'audit ou de transparence sur ces systèmes, d'autant que ces technologies sont immédiatement intégrées à des programmes de militarisation active par la puissance publique. 

Emmanuel Goffi : De quoi parle-t-on concrètement ?

On parle essentiellement d’un changement de rôle : le SIA (système d’IA)  ne sert plus seulement à aider des chercheurs humains, elle commence à intervenir dans des boucles de conception, de codage, de test et d’itération qui peuvent réduire la part humaine à chaque étape. Anthropic décrit l’auto-amélioration récursive comme un SIA capable de concevoir et développer de façon entièrement autonome son propre successeur, mais l’entreprise dit aussi que nous n’y sommes pas encore.

A mon sens il faut distinguer plusieurs niveaux. Un premier niveau qui consiste pour un modèle à aider des ingénieurs à écrire du code, analyser des résultats, générer des variantes ou corriger des bugs.  Un deuxième niveau apparaît quand le modèle ne fait plus seulement de la rédaction ou du conseil, mais commence à exécuter des sous-tâches de R&D, lancer des expériences, comparer des options et proposer des modifications de système avec peu d’intervention immédiate. Enfin, un troisième niveau, qui peut être plus inquiétant, serait celui où le système fermerait la boucle presque entièrement en identifiant lui-même ses faiblesses, proposerait des changements d’architecture, générerait le code, organiserait les tests, sélectionnerait les meilleures variantes, puis entraînerait une version plus capable de lui-même.

Quel est le seuil technique qui sépare un simple outil d’assistance à la recherche d’un système capable de contribuer à la conception de son propre successeur ?

Le vrai seuil n’est pas un SIA qui écrit du code du code, c’est un SIA qui peut piloter le cycle d’amélioration. Le seuil se situe quand le modèle peut, sans supervision forte, formuler des hypothèses de recherche, concevoir des agents ou des expériences, modifier son propre pipeline d’entraînement ou de déploiement, et décider quoi garder après évaluation. 

Tant que l'humain garde la main sur ces choix, on reste dans une forme d’assistance avancée, mais pas dans une auto-amélioration autonome.

Les éléments qui ont été publiés par Anthropic vont dans le sens d’une accélération qui reste encore partielle.

L’entreprise affirme que Claude génère désormais une grande part du code de production interne et que ses modèles peuvent soutenir des tâches plus longues, plus autonomes et mieux structurées qu’avant. Mais elle reconnaît aussi que le système ne possède pas encore l’autonomie complète nécessaire pour concevoir et construire son propre successeur de bout en bout. 

Même s’il y a des signes qui laissent à penser que ce n’est plus une question lointaine de décennies, ce serait hasardeux de parler d’un basculement certain à court terme.

Les prises de position d’Anthropic et les analyses que l'on trouve dans la presse évoquent un possible passage dans les prochaines années, avec des projections allant jusqu’à la fin de la décennie pour des cycles de R&D de plus en plus automatisés, mais sans preuve que l’autonomie complète soit imminente.

Le scénario le plus raisonnable aujourd’hui est une amélioration de plus en plus agentique dans un délai de quelques années. On est probablement plus près du « quelques années » que du « très loin », mais pas encore au point où un SIA fabrique seule son successeur de manière robuste et généralisée.

Pour l’heure, Anthropic décrit surtout une trajectoire où l’humain reste encore le chef d’orchestre, même si l’orchestre joue de plus en plus vite.

Julien Pillot : L’amélioration récursive, c’est l’idée qu’un système d’intelligence artificielle devienne capable non seulement d’aider les humains à développer de nouveaux modèles, mais aussi de participer directement à la conception, à l’entraînement et à l’amélioration de la génération suivante d’IA. Autrement dit, on ne serait plus seulement dans le cas d’un outil qui assiste un chercheur ou un ingénieur, mais dans celui d’un système qui contribue à fabriquer son propre successeur.

C’est cela qui rend le sujet à la fois fascinant et vertigineux. Tant que l’IA reste un outil d’assistance, même très performant, nous sommes encore dans une logique relativement classique : elle accélère le travail humain, elle automatise certaines tâches, elle aide à coder, à tester, à documenter, à identifier des pistes. Le seuil critique serait franchi le jour où elle deviendrait capable de proposer, d’évaluer et d’implémenter de manière beaucoup plus autonome des améliorations substantielles de son architecture, de ses méthodes d’entraînement ou de ses capacités générales.

Il faut toutefois être très clair : nous n’en sommes pas encore là. Anthropic elle-même présente cette dynamique comme un risque émergent, ou comme une trajectoire possible, mais pas comme une réalité déjà accomplie. Les tendances techniques évoluent rapidement, mais le processus reste encore incomplet.

Sur le calendrier, il faut donc rester prudent. Ceux qui travaillent directement dans ces laboratoires disposent évidemment d’informations que nous n’avons pas. En tant qu’observateurs extérieurs, nous pouvons seulement constater qu’il existe une accélération très nette des progrès. Si ce basculement doit arriver un jour, il est probable que nous en soyons plus proches qu’il y a un an ou deux.

Mais je ne crois pas à un franchissement en quelques mois. Une échelle de plusieurs années me paraît plus raisonnable. Cela peut être deux ou trois ans, peut-être davantage, mais je serais très prudent avec les annonces trop spectaculaires. Nous sommes dans une phase d’accélération, oui. Mais entre l’accélération actuelle et une véritable IA capable d’organiser de façon autonome sa propre succession, il existe encore un écart important.

Lorsqu’une entreprise qui figure parmi les leaders mondiaux de l’IA appelle à la possibilité d’un moratoire ou d’un ralentissement coordonné du développement, faut-il y voir avant tout un véritable signal d’alerte sur les risques de perte de contrôle, ou existe-t-il aussi une dimension stratégique, économique et concurrentielle derrière cette prise de position ? 

Julien Pillot : Il faut voir les deux. Il ne faut pas être naïf.

Il y a évidemment une dimension de signal d’alerte. Anthropic s’est construite, dès le départ, sur une forme de prudence vis-à-vis du développement de l’IA. L’entreprise est née en partie de divergences avec OpenAI sur les questions de sécurité, de gouvernance et de rythme de développement. Elle a toujours adopté une posture plus réservée, plus inquiète, ou en tout cas plus attentive aux risques que certains de ses concurrents.

De ce point de vue, son discours actuel n’est pas totalement surprenant. Il s’inscrit dans une certaine continuité. Anthropic alerte depuis longtemps sur les risques liés aux modèles très avancés et à la possibilité que les structures sociales, politiques ou réglementaires ne suivent plus le rythme des progrès techniques.

Mais il existe aussi une dimension stratégique et économique évidente. Le développement de l’IA coûte des sommes considérables. Les besoins en puissance de calcul explosent. Les modèles sont de plus en plus utilisés par des développeurs, des entreprises, des chercheurs, ce qui augmente la pression sur les infrastructures. Il faut financer des centres de données, de l’énergie, des puces, des équipes, des capacités d’entraînement toujours plus lourdes.

Dans ce contexte, demander un ralentissement coordonné peut aussi permettre de gagner du temps. Et dans cette industrie, gagner quelques mois peut représenter des milliards de dollars. Ce n’est pas anodin. Beaucoup d’acteurs de l’IA sont aujourd’hui dans une course au cash. Ils doivent continuer à investir massivement pour rester dans la compétition, mais cette fuite en avant pose aussi la question de leur soutenabilité financière.

C’est pourquoi il faut tenir les deux lectures ensemble. Oui, Anthropic a une culture de prudence qui n’est pas artificielle. On ne peut pas lui retirer une certaine cohérence sur ce sujet. Mais oui, son appel à ralentir intervient aussi dans un contexte où un ralentissement mondial pourrait servir ses intérêts économiques et concurrentiels. Le signal d’alerte est réel, mais il n’est pas pur. Il est traversé par des logiques industrielles, financières et stratégiques.

Fabrice Epelboin : Il est impératif de dissiper toute illusion d'altruisme : cet appel au moratoire relève avant tout d'une cynique opération de communication et de guerre économique, mâtinée d'une stratégie classique de capture réglementaire. 

D'un côté, Anthropic agite le spectre de la perte de contrôle pour réclamer un ralentissement mondial de la recherche au nom du bien commun. De l'autre, la start-up vient de boucler un tour de table la valorisant à près de 1 000 milliards de dollars, s'apprête à entrer en bourse et affiche des revenus annualisés en passe d'atteindre 50 milliards de dollars. Tout cela en maquillant ses comptes par le simple fait qu’Anthropic a bénéficié d’un tarif incroyable offert par xAI sur leur infrastructure de calcul qui les fait apparaître en bien meilleure santé financière qu’il ne le sont véritablement.

En orchestrant cette panique morale, ces acteurs dominants cherchent à pousser les législateurs à interdire ou restreindre l'open-source, c'est-à-dire les modèles d'IA dont le code est ouvert et librement accessible, au profit exclusif de leurs modèles propriétaires fonctionnant comme des "boîtes noires" opaques. 

Neutraliser cette alternative sous prétexte de sécurité revient à instaurer une censure préventive et à sanctuariser le pouvoir d'un cartel de firmes privées. Cette militarisation active de leurs technologies en coulisses contredit frontalement leur posture éthique et prouve que l'appel au moratoire n'est qu'un outil de verrouillage concurrentiel destiné à désarmer la société civile au détriment direct de la démocratie. 

Emmanuel Goffi : Quand un leader mondial de l’IA comme Anthropic appelle à la possibilité d’un moratoire ou d’un ralentissement coordonné du développement, je pense qu’il faut lire cette position de deux manières : certainement un véritable signal d’alerte sur les risques techniques, mais surtout une dimension stratégique, économique et concurrentielle non négligeable.

Anthropic a publié des analyses montrant que ses propres modèles accélèrent déjà le développement de ses successeurs, et elle évoque le risque d’amélioration récursive, c’est à dire qu’un SIA pourrait bientôt participer activement à sa propre amélioration, voire concevoir son propre successeur de façon autonome.

Dans ce contexte, l’appel à un mécanisme mondial de ralentissement ou de suspension ciblée des SIA les plus avancés me semble exprimer une inquiétude technique crédible dans la mesure où plus le rythme de développement est rapide, plus il devient difficile de maintenir une supervision humaine fine, de vérifier la sécurité et d’anticiper les effets secondaires. Le risque, souligné par les cofondateurs d’Anthropic, notamment par Jack Clark, est que les SIA échappent à notre contrôle.

Cela étant dit, il y a aussi clairement une dimension stratégique à cet appel. Anthropic est devenue l’une des entreprises les plus puissantes du secteur, avec une valorisation à 965 milliards de dollars, et une collaboration avec les services de renseignement américains sur des usages cyber offensifs. Dans ce contexte, un appel à un ralentissement permet de renforcer la position d’Anthropic face à des concurrents moins avancés, qui auraient plus de mal à supporter des pauses ou des contrôles stricts. Ça lui permet aussi de légitimer son leadership en sécurité et en éthique, ce qui est un atout majeur pour convaincre régulateurs, États et investisseurs et d’influencer la régulation en faveur de mécanismes qui protègent les acteurs déjà dominants, avec des barrières à l’entrée plus élevées. Enfin, cet appel favorise l’installation d’un avantage géopolitique en s’alignant avec les intérêts américains et les services de renseignement, tout en plaçant la France et l’Europe dans une position délicate entre sécurité et souveraineté technologique.

  

Les données publiées par Anthropic montrent que l’IA écrit déjà une part majoritaire du code utilisé en interne et accélère fortement les travaux d’ingénierie et de recherche. Sommes-nous en train d'assister à l'émergence d'un cercle d'accélération inédit où chaque génération d'IA permet de développer encore plus rapidement la suivante ? Quels effets cela pourrait-il avoir sur la vitesse globale du progrès technologique ? 

Julien Pillot : Là aussi, il faut être prudent, car nous entrons dans des dimensions très techniques. Mais ce que l’on peut dire, c’est que l’informatique n’a jamais vraiment progressé de façon linéaire. Nous avons toujours été dans des dynamiques d’accélération, parfois exponentielles.

Ce qui est nouveau avec l’IA générative, c’est que cette accélération pourrait devenir en partie autocatalytique. Autrement dit, chaque génération d’outil pourrait contribuer à accélérer la création de la suivante. Si des modèles permettent déjà d’écrire une partie importante du code, de tester plus rapidement, de détecter des erreurs, de proposer des optimisations, alors ils réduisent mécaniquement le temps nécessaire pour produire de nouvelles avancées.

Les conséquences pourraient être considérables. Des découvertes qui auraient peut-être pris plusieurs décennies pourraient être réalisées en quelques années. On peut imaginer des applications dans la recherche médicale, la découverte de nouvelles molécules, la lutte contre certaines maladies, les sciences des matériaux, l’exploration spatiale, l’étude des océans ou encore la compréhension des phénomènes climatiques.

Si cette accélération est mise au service de la connaissance, de la science et du progrès humain, elle peut ouvrir des perspectives extraordinaires. Nous pourrions dépasser certaines limites qui paraissaient très difficiles à franchir avec les méthodes classiques. C’est la dimension enthousiasmante du sujet.

Mais tout dépendra des orientations prises. Si cette puissance sert principalement à optimiser des services marketing, à mieux capter l’attention, à pousser les individus à consommer davantage ou à les rendre encore plus dépendants de certains écosystèmes numériques, alors nous aurons probablement manqué quelque chose d’essentiel.

La question centrale n’est donc pas seulement : jusqu’où l’IA peut-elle accélérer le progrès ? C’est aussi : au service de quoi cette accélération sera-t-elle mise ? De la science, du savoir, de la médecine, de l’environnement, ou bien de la captation marchande et de l’optimisation de comportements de consommation ? C’est là que se jouera une grande partie de l’enjeu.

Fabrice Epelboin : Nous assistons bel et bien au début d'une boucle d'accélération fermée où l'IA développe désormais l'IA, marquant une rupture anthropologique majeure. Le progrès technologique s'en trouve totalement déconnecté du rythme biologique de l'apprentissage humain pour devenir uniquement tributaire de la puissance de calcul brute et des ressources énergétiques disponibles. 

C'est le passage d'une évolution linéaire à une logique algorithmique exponentielle où l'esprit humain n'intervient plus que pour fixer le cap, pour le moment, laissant la machine optimiser sa propre structure. 

Cette compression temporelle est une catastrophe démocratique : elle disqualifie d'office le temps législatif et annule toute possibilité d'audit citoyen, puisque la vitesse de métamorphose de ces systèmes basés sur le principe d'une boîte noire opaque dépasse les capacités de réaction de nos institutions. Surtout, ce cercle d'accélération concentre une puissance cognitive inédite entre les mains d'un cartel privé qui la met immédiatement au service de la surveillance et de la cyberguerre. Le vrai danger n'est pas une fiction technique, c'est l'exclusion définitive du citoyen et du politique face aux armes numériques de l'État. 

Emmanuel Goffi : Les données publiées par Anthropic montrent clairement que nous sommes probablement en train d’assister à l’émergence d’un cycle d’accélération inédit, où chaque génération de SIA permet de développer la suivante plus rapidement. Anthropic indique que ses modèles, notamment Claude, génèrent désormais une part majoritaire du code de production interne et accélèrent fortement les travaux d’ingénierie et de recherche.

Dans un modèle classique, les chercheurs humains conçoivent les nouvelles versions de SIA, écrivent l’essentiel du code, définissent les architectures, lancent les expériences et interprètent les résultats. Aujourd’hui, une grande partie de ces tâches est déléguée aux modèles eux-mêmes. Anthropic explique, par exemple, comment Claude a résolu de manière autonome une classe d’erreurs API persistantes et a déployé plus de correctifs que prévu, avec peu d’intervention humaine directe.

C’est un schéma qui établit une boucle de rétroaction grâce à laquelle les SIA améliorent les outils et les processus qui permettent de construire de meilleurs SIA. Au final, chaque génération de SIA devient un levier pour la suivante, ce qui peut accélérer le rythme global du progrès.

Si cette accélération se confirme et s’étend, on peut anticiper plusieurs effets :

  • Accélération du rythme de publication et de déploiement.

  • Réduction du coût et de la masse humaine nécessaire.

  • Concentration du pouvoir technique.

  • Risque d’overshoot, c’est à dire un rythme d’évolution plus rapide que notre capacité à le contrôler, l’évaluer ou le réguler.

  • Effets sur d’autres domaines technologiques tels que les biotechnologies, les matériaux, les énergies, la robotique, l’informatique quantique, entre autres.

Comment interpréter le contraste entre le discours alarmiste d’Anthropic sur les risques existentiels de l’IA et sa participation à des programmes de cybersécurité offensive avec la NSA ? Cette dualité illustre-t-elle une contradiction entre éthique affichée et réalités géopolitiques, ou est-elle devenue inévitable dans la compétition technologique entre grandes puissances ? 

Fabrice Epelboin : Ce contraste saisissant entre la posture éthique et la collaboration militaire met en lumière le double discours flagrant d'Anthropic, tout en révélant la reality brutale d'une guerre froide technologique où l'éthique de façade sert d'arme de diversion. 

D’un côté, la firme instrumentalise la peur des risques existentiels pour pousser à une régulation stricte des modèles open-source, sous couvert de protéger l'humanité contre les dérives d'une IA capable de s'améliorer seule. De l’autre, elle installe ses ingénieurs au cœur de la NSA pour adapter son modèle Mythos à des opérations cyberoffensives, visant explicitement à infiltrer les infrastructures de pays rivaux comme la Chine ou l’Iran. Concrètement, la cyber-offensive automatisée consiste à laisser un algorithme détecter de façon autonome les vulnérabilités informatiques des réseaux adverses et s'y introduire avant qu'elles ne soient colmatées. 

Le plus fascinant dans tout cela reste qu'il puisse encore, douze ans après les révélations de Snowden et à l’heure où tout le monde devrait ouvrir les yeux en Europe sur la réalité des géants technologiques, rester des journalistes et des politiques pour croire aux sornettes de leur marketing vertueux. Les chartes éthiques de la Silicon Valley s'effacent instantanément devant la raison d'État et l'explosion des profits, intégrant inévitablement les leaders de l'IA au complexe sécuritaire des superpuissances. 

Emmanuel Goffi : Ce contraste entre le discours alarmiste d’Anthropic sur les risques existentiels des SIA et sa participation à des programmes de cybersécurité offensive avec la NSA et les services de renseignement américains, illustre moins une contradiction au sens strict qu’une dualité devenue quasi inévitable dans la compétition technologique entre grandes puissances.

D’un côté, Anthropic met en avant les risques de perte de contrôle, d’amélioration récursive et de systèmes capables de concevoir leur propre successeur de façon autonome, ce qui pourrait, à terme, dépasser le contrôle humain. Ce discours sert à justifier la nécessité de mécanismes de sécurité, de gouvernance mondiale et potentiellement de moratoires ciblés.

De l’autre, l’entreprise collabore avec la NSA et les services de renseignement américains sur des usages cyber offensifs dans une logique de sécurité nationale et de compétition géopolitique, où les SIA sont vus comme des leviers stratégiques face à la Chine, à la Russie ou à d’autres acteurs.

Ces deux discours ne s’opposent pas dans la logique des acteurs pour lesquels les SIA doivent être maîtrisés pour éviter des risques existentiels, mais aussi déployés comme atout stratégique pour renforcer la puissance américaine. C’est une approche très pragmatique et conséquentialiste sur le plan éthique.

Cette dualité peut être interprétée à plusieurs niveaux.

Tout d’abord, celui de la logique de puissance qui consiste pour les États-Unis à maîtriser les SIA les plus avancés pour des motifs de sécurité nationale. Ensuite, celui de la logique d’entreprise puisque pour Anthropic, appeler à un ralentissement coordonné ou à un moratoire peut renforcer sa légitimité pour convaincre régulateurs, États et investisseurs, et protéger sa position face à ses concurrents.

Enfin, une logique de « sécurité existentielle » qui répond à la crainte légitime de perte de contrôle.

Tout cela illustre, c’est vrai, une contradiction apparente entre éthique affichée (sécurité, contrôle humain, risque existentiel) et réalités géopolitiques (cyber offensif, compétition technologique, avantage stratégique). C’est une contradiction que je pense inévitable, dans la mesure où les grandes puissances ne peuvent pas renoncer à des outils stratégiques comme les SIA dans la compétition internationale ; les entreprises leaders doivent à la fois maximiser leur avantage et tenter de limiter les risques globaux ; et le discours sur les risques existentiels devient un levier pour influencer la régulation, tout en servant les intérêts nationaux et économiques.

Le débat est intrinsèquement complexe, et on ne peut honnêtement pas se contenter de rejeter le discours d’Anthropic comme purement stratégique, ni le considérer comme entièrement désintéressé. Il faut le comprendre comme une position hybride, à la fois préoccupation technique réelle et calcul stratégique, dans un monde où les SIA sont simultanément un risque global et un levier de puissance.

Julien Pillot : Le terme qui me vient immédiatement à l’esprit, c’est le pragmatisme.

Ce serait trop facile de dire qu’Anthropic est hypocrite. Et ce serait tout aussi facile de dire qu’elle est parfaitement vertueuse. La réalité est beaucoup plus complexe. Ces entreprises ne se développent pas dans un monde abstrait, mais dans un environnement politique, économique et géopolitique très contraint.

Les États, les administrations, les services de renseignement et les acteurs de la défense sont des clients majeurs. Ce sont aussi des interlocuteurs incontournables. Une entreprise comme Anthropic ne peut pas faire comme si elle évoluait hors-sol, à l’écart des rapports de puissance internationaux. Elle doit composer avec les administrations nationales, avec les contrats publics, avec les cadres réglementaires, avec les pressions politiques et avec la compétition technologique entre grandes puissances.

Dans ce contexte, refuser toute collaboration avec les autorités américaines serait sans doute irréaliste. On pourrait même considérer que ce serait problématique pour une entreprise américaine développant des technologies aussi sensibles de ne jamais travailler avec ses propres autorités nationales.

La vraie question éthique ne se situe donc pas seulement dans le choix des partenaires. Elle se situe dans les conditions de cette collaboration. Avec qui travaille-t-on ? Sur quoi ? Avec quelles limites ? Avec quels garde-fous ? Pour quels usages précis ?

Anthropic n’a jamais dit qu’elle refusait par principe toute coopération avec les secteurs de la défense, du renseignement ou de la cybersécurité. En revanche, elle a souvent expliqué qu’elle ne voulait pas mettre n’importe quel outil au service de n’importe quel objectif. Elle cherche à poser des limites, à refuser certains usages, certains modes opératoires, certaines applications.

Dans un monde réaliste, l’éthique des affaires ne consiste pas forcément à se retirer totalement du jeu. Cela consisterait plutôt à accepter que l’on travaille avec des acteurs puissants, y compris étatiques, tout en ayant le courage de fixer des lignes rouges. Et sur ce point, Anthropic me semble parfois un peu plus exigeante que d’autres acteurs du secteur.

 

Si des modèles d’IA deviennent capables d’identifier des vulnérabilités, d’optimiser leur propre entraînement et d’accélérer la recherche en IA, les mécanismes actuels de gouvernance sont-ils encore adaptés ? Existe-t-il réellement un moyen crédible de vérifier et faire respecter un éventuel moratoire mondial, alors que la concurrence entre États-Unis, Chine et acteurs privés pousse au contraire à accélérer toujours davantage ? 

Fabrice Epelboin : Les mécanismes de gouvernance actuels sont totalement dépassés, la détection automatisée consistant à faire analyser des millions de lignes de code par un algorithme pour y débusquer des failles de sécurité bien plus vite qu'un humain. Le projet Glasswing d'Anthropic en est l'illustration parfaite : en découvrant à lui seul plus de dix mille vulnérabilités logicielles critiques à travers le monde, il a prouvé que le goulot d'étranglement s'est définitivement déplacé de la découverte des failles vers l'incapacité physique des humains à patcher les systèmes à temps. 

Dans ce contexte, l'idée d'un moratoire mondial est une illusion totale. Contrairement aux traités de désarmement historiques, les infrastructures d'entraînement d'IA sont faciles à dissimuler, les technologies sont à double usage et l'incitation géopolitique à tricher en secret est maximale pour conserver le leadership. 

Les réponses réglementaires existantes, comme les décrets américains basés sur des examens de sécurité volontaires, ne sont qu'une gouvernance factice servant à masquer la fusion inévitable entre les firmes privées et l'appareil militaire. C'est ici que le verrouillage de l'open-source devient mortifère : il n'est pas seulement un outil d'audit citoyen, il est l'unique bouée de sauvetage permettant aux nations qui ne sont pas dans la course - autant dire tout le monde sauf les USA et la Chine - de disposer d'une IA souveraine pour préserver leur indépendance. 

Cette vertu affichée cache une simple opposition de circonstance de la part des dirigeants d’Anthropic envers l’administration Trump qui fondra comme neige au soleil en cas d’alternance politique. Je suis prêt à parier que si cette alternance arrivait, nous aurions droit à un revirement d’Anthropic qui s'alignera ouvertement sur la doctrine de Palantir, en formulant cela en des termes bien plus politiquement corrects mais tout aussi destructeurs pour la démocratie. Le complexe militaro-numérique américain poursuit exactement le même but, quel que soit le pavillon politique sous lequel il s'abrite. 

Emmanuel Goffi : Si des modèles de SIA deviennent capables d’identifier des vulnérabilités, d’optimiser leur propre entraînement et d’accélérer la recherche en IA, les mécanismes actuels de gouvernance sont de plus en plus inadaptés. On en voit d’ailleurs très clairement déjà les limites.

La plupart des cadres existants reposent sur une supervision humaine, des audits périodiques, des autorisations et des normes de sécurité conçues pour des systèmes où l’humain reste le pilote principal du cycle de développement. Dès que les SIA commencent à piloter des parties cruciales de leur propre amélioration, ces mécanismes deviennent trop lents, trop fragmentés et trop dépendants de la transparence des acteurs, qui est loin d’être garantie.

Un moratoire mondial crédible nécessiterait à tout le moins une définition claire de ce qui est interdit (ce qui me semble être un objectif utopique); des mécanismes de vérification technique complexes et coûteux ; et des sanctions crédibles en cas de violation. On voit bien la difficulté que ces exigences représentent face à la concurrence géopolitique entre les États-Unis, la Chine et les puissances intermédiaires qui souhaitent accélérer pour ne pas perdre l’avance stratégique; aux acteurs privés non alignés (entreprises privées, fondations, laboratoires ou même groupes décentralisés, qui peuvent très facilement contourner des moratoires; ou encore aux tensions entre transparence et sécurité, dans la mesure où pour vérifier un moratoire, il faut accès aux données, aux entraînements, aux infrastructures, que les acteurs défendent pour raisons de sécurité nationale, de propriété intellectuelle ou de risque d’exploitation.

A mon sens, il n’existe aucun moyen véritablement crédible et robuste de vérifier et faire respecter un moratoire mondial dans un contexte de concurrence géopolitique et privée intense. Les mécanismes actuels peuvent limiter certains risques, mais pas empêcher une accélération masquée. La seule voie envisageable me semble être une combinaison de coopération technique limitée, de normes de sécurité partagées, et de mécanismes ciblés sur les usages les plus dangereux, plutôt qu’un moratoire global difficilement applicable. Mais même ce type de coopération me parait peu probable du fait des divergences d’intérêts entre les très nombreux acteurs concernés. 

Julien Pillot : Nous sommes typiquement dans ce que la théorie des jeux appelle un dilemme du prisonnier.

Collectivement, les acteurs pourraient avoir intérêt à coopérer, à ralentir, à mieux encadrer le développement de ces technologies, afin de limiter certains risques. Mais individuellement, chacun a intérêt à accélérer. Chaque entreprise veut être la première à sortir le nouveau modèle, la nouvelle capacité, le nouveau service. Chaque État veut conserver ou acquérir un avantage stratégique. Chaque investisseur veut être positionné sur le prochain gagnant.

C’est précisément ce qui rend un moratoire mondial très difficile à imaginer. Sur le papier, l’idée peut sembler raisonnable. Si les risques sont élevés, il faudrait coordonner les efforts, éviter une course incontrôlée et définir des règles communes. Mais dans la réalité, les acteurs ne sont pas coordonnés. Ils se méfient les uns des autres. Les États-Unis, la Chine, les entreprises privées, les laboratoires de recherche, les investisseurs et les agences publiques n’ont pas les mêmes intérêts.

Dans un tel contexte, chacun peut se dire : si je ralentis et que les autres continuent, je perds. C’est exactement le cœur du dilemme. On sait qu’une coopération serait souhaitable, mais le système concurrentiel pousse chacun à aller plus vite que les autres. Et en allant plus vite que les autres, on prend collectivement le risque de scier la branche sur laquelle nous sommes assis.

Je suis donc très sceptique sur la possibilité de vérifier et de faire respecter un moratoire mondial. Il faudrait un niveau de confiance, de transparence et de coopération internationale que nous n’avons pas aujourd’hui.

Cela ne veut pas dire qu’il ne faut rien faire. Mais il faut être lucide sur ce que la gouvernance peut réellement accomplir. Les entreprises continueront à chercher le « quick win » susceptible d’attirer des capitaux, de générer des revenus et de renforcer leur position dans la compétition mondiale.

Pour autant, je ne partage pas entièrement les scénarios les plus apocalyptiques. Les promesses ou les craintes d’une IA superintelligente capable de détruire l’emploi, l’environnement, les systèmes de défense ou même de se retourner contre l’humanité relèvent encore largement de l’hypothèse.

Aujourd’hui, ce que nous observons concrètement reste très éloigné de ces scénarios extrêmes. Les progrès sont impressionnants, mais les limites restent nombreuses. Les modèles commettent encore des erreurs, produisent des réponses aberrantes, échouent sur certaines tâches simples et restent dépendants d’infrastructures humaines, énergétiques et matérielles considérables.

Il faut donc éviter deux excès : croire que tout cela est sans danger, ou croire que nous sommes déjà au bord d’un scénario à la Skynet. Le vrai sujet, pour l’instant, est moins celui d’une IA toute-puissante échappant à l’humanité que celui d’une accélération industrielle, économique et géopolitique très difficile à gouverner.

A PROPOS DES AUTEURS
Fabrice Epelboin image
Fabrice Epelboin
Entrepreneur, spécialiste des médias sociaux. Enseignant à Sciences Po

Fabrice Epelboin est entrepreneur et enseignant, spécialiste des usages politiques des réseaux sociaux et de la géopolitique du cyber.

Enseignant en Éthique. Responsable du domaine Éthique, Formation managériale

et Projet professionnel et personnel à l’ISEP – Institut Supérieur d'Électronique de Paris.

Docteur en économie de l'Université de Nice (CNRS GREDEG), Julien Pillot est enseignant-chercheur à l'Inseec Grande Ecole. Il dirige également le pôle de valorisation de la recherche de la Faculté du groupe OMNES Education. Il intervient également à l'Université Paris Saclay, ainsi que ponctuellement dans d'autres Universités. Il s'intéresse principalement à l'économie et la régulation de la tech et du numérique, aux stratégies concurrentielles, et à l'évaluation des impacts économiques, sociaux et environnementaux de l'introduction d'une innovation. Son expertise porte principalement sur le secteur de la tech, les industries créatives et culturelles, l'automobile, ainsi que les industries de réseau

Populaires