Dario Amodei, PDG d'Anthropic, Mike Krieger, directeur des produits, et Sasha de Marigny, directrice de la communication, lors de la première conférence des développeurs d'Anthropic à San Francisco, en Californie, le 22 mai 2025.
See image caption
See copyright

ANTHROPIC

Claude et le stress des machines : quand l’IA dit stop

Une IA peut-elle souffrir ? La question, hier encore confinée aux spéculations philosophiques, vient de faire son entrée dans un communiqué officiel d’Anthropic. L’entreprise de la Silicon Valley explique que son modèle Claude peut désormais mettre fin à certaines conversations « abusives », invoquant une « détresse apparente » observée en test. Entre précaution ingénierique et révolution morale, l’ambiguïté est totale. Et ce flou, plus encore que la fonction elle-même, est ce qui crée le vertige.

7 min de lecture

0:00min
100%

Anthropic, l’entreprise dirigée par Dario Amodei, a franchi une frontière de manière discrète, mais potentiellement historique. Dans son dernier communiqué, l’entreprise de la tech explique que son modèle Claude Opus 4 (et sa version 4.1) peut désormais mettre fin, de lui-même, à une conversation abusive ou dangereuse. Derrière cette possibilité technique se cache une nouveauté étonnante : l’entreprise parle de « distress », c’est-à-dire de détresse apparente observée chez le modèle, et l’intègre à son évaluation de « welfare », le « bien-être » général de l’IA.

Le communiqué d’Anthropic : de l’alignement au welfare

La suite de cet article est réservée aux abonnés.

A PROPOS DES AUTEURS

Frédéric Gaven est le fondateur du cabinet Nosphi Conseil, spécialisé en transformation digitale/IA.