
ANTHROPIC
20 août 2025
Claude et le stress des machines : quand l’IA dit stop
Une IA peut-elle souffrir ? La question, hier encore confinée aux spéculations philosophiques, vient de faire son entrée dans un communiqué officiel d’Anthropic. L’entreprise de la Silicon Valley explique que son modèle Claude peut désormais mettre fin à certaines conversations « abusives », invoquant une « détresse apparente » observée en test. Entre précaution ingénierique et révolution morale, l’ambiguïté est totale. Et ce flou, plus encore que la fonction elle-même, est ce qui crée le vertige.
7 min de lecture
Anthropic, l’entreprise dirigée par Dario Amodei, a franchi une frontière de manière discrète, mais potentiellement historique. Dans son dernier communiqué, l’entreprise de la tech explique que son modèle Claude Opus 4 (et sa version 4.1) peut désormais mettre fin, de lui-même, à une conversation abusive ou dangereuse. Derrière cette possibilité technique se cache une nouveauté étonnante : l’entreprise parle de « distress », c’est-à-dire de détresse apparente observée chez le modèle, et l’intègre à son évaluation de « welfare », le « bien-être » général de l’IA.
Le communiqué d’Anthropic : de l’alignement au welfare
La suite de cet article est réservée aux abonnés.
Frédéric Gaven est le fondateur du cabinet Nosphi Conseil, spécialisé en transformation digitale/IA.
Frédéric Gaven est le fondateur du cabinet Nosphi Conseil, spécialisé en transformation digitale/IA.
