Un mannequin devant le logo de la société américaine de recherche et de sécurité en intelligence artificielle Anthropic, lors d'une séance photo à Paris.  (Image d'illustration)
See image caption
See copyright

SILICON VALLEY

Les grands laboratoires d'IA recrutent des philosophes à tour de bras, et voilà pourquoi

Les grands laboratoires d'intelligence artificielle recrutent désormais des philosophes. OpenAI, Anthropic ou encore DeepMind intègrent progressivement des spécialistes de philosophie, d'éthique ou de philosophie de l'esprit au sein de leurs équipes, afin de travailler sur des questions aussi diverses que la conscience, la responsabilité, la prise de décision ou encore l'alignement des modèles.

10 min de lecture

0:00min
100%

Atlantico : Les grands laboratoires d'IA recrutent désormais des philosophes. S'agit-il d'une évolution naturelle liée à la maturité de ces technologies ou cela traduit-il le fait que les ingénieurs sont désormais confrontés à des questions qui dépassent le seul champ technique ?

Emmanuel Goffi : Selon moi, il s’agit moins d’une évolution naturelle liée à une supposée maturité intrinsèque des technologies que d’une réponse à une attente du marché. Les laboratoires perçoivent clairement qu’il existe une demande croissante d’éthique, de responsabilité et de garanties autour des systèmes d’IA (SIA), et ils cherchent à y répondre en affichant des compétences philosophiques ou éthiques. En ce sens, le recrutement de philosophes relève aussi d’une stratégie de positionnement et de crédibilité.

Je ne crois pas, en revanche, qu’il faille y voir le signe d’une maturité particulière des ingénieurs sur ces sujets. Les questions en jeu ne deviennent pas soudainement « naturelles » pour la technique parce qu’un certain seuil de complexité serait franchi. Ce qui change, c’est plutôt le contexte dans lequel les laboratoires opèrent : exposition médiatique, pression réglementaire, attentes des utilisateurs, inquiétudes sociétales, et nécessité de prouver que l’innovation reste gouvernable. Dans ce cadre, faire entrer des philosophes permet de donner forme à des préoccupations qui dépassent le strict langage technique.

Cela dit, à mon niveau je constate une curiosité réelle chez certains ingénieurs et chercheurs. Beaucoup sentent que des questions de responsabilité, d’alignement, de décision ou de valeur ne peuvent pas être traitées uniquement avec des méthodes computationnelles. Mais cette curiosité, à elle seule, ne suffit pas. Elle devient difficile à traduire en pratiques concrètes sans accompagnement intellectuel, sans médiation disciplinaire, et surtout sans volonté institutionnelle claire. Autrement dit, l’intérêt existe, mais il reste fragile tant qu’il n’est pas porté par une structure qui accepte d’en faire autre chose qu’un argument de communication.

C’est pourquoi je parlerais plutôt d’un mouvement ambivalent. D’un côté, il y a une vraie prise de conscience du fait que certaines questions échappent au seul registre technique. De l’autre, il y a une appropriation de l’éthique comme réponse attendue par le marché, par les régulateurs et par l’opinion publique. Le recrutement de philosophes répond alors à une double logique : traiter des sujets difficiles, mais aussi signaler que l’entreprise prend ces sujets en considération, sans d’ailleurs que cela traduise une conviction.

Au fond, la question n’est donc pas seulement de savoir si les ingénieurs ont atteint une maturité éthique. La vraie question est de savoir si les laboratoires sont prêts à transformer cette curiosité en contraintes réelles, en arbitrages explicites et en responsabilité assumée. C’est à cette condition seulement que la présence de philosophes cessera d’être un simple marqueur symbolique pour devenir un véritable levier de gouvernance.

 

Pourquoi des notions comme la conscience, l'intention, l'identité, la responsabilité ou encore l'éthique deviennent-elles aujourd'hui des questions concrètes pour des entreprises qui développent des modèles d'IA ? 

Ces notions deviennent concrètes moins par approfondissement conceptuel que par conformisme et par nécessité pragmatique. Elles s’imposent dans le discours des entreprises parce qu’un environnement normatif, médiatique et commercial s’est constitué autour d’elles, et parce qu’il faut désormais montrer que l’on « fait de l’éthique » pour lever les réticences des consommateurs, rassurer les régulateurs et soutenir l’adoption des produits.

C’est ce que j’appelle de la cosm-éthique, c’est à dire un discours qui emprunte le vocabulaire de l’éthique sans en assumer les exigences. Il s’agit moins de penser réellement la responsabilité, la conscience ou l’identité que de reprendre des mots chargés symboliquement pour produire de la confiance, de la crédibilité et de l’acceptabilité sociale. Dans ce cadre, les entreprises ne se demandent pas d’abord ce que ces notions signifient en profondeur. Elles se demandent comment les mobiliser pour rendre les SIA plus présentables. Elles assurent leur réputation à moindre frais.

Cela explique pourquoi des termes comme conscience, intention, responsabilité ou identité deviennent des objets de discussion. Ils ne sont pas devenus soudainement plus clairs. Au contraire, ils restent extrêmement problématiques. Leur usage est souvent alimenté par des injonctions externes. Il faut avoir un positionnement sur la conscience des modèles, sur leur agentivité, sur leur éventuelle identité, ou sur la responsabilité en cas de dommage. Mais la plupart du temps, ces questions arrivent avant que les concepts soient stabilisés.

Le problème est qu’on débat alors de notions que l’on ne sait pas définir de manière satisfaisante. Le syntagme « intelligence artificielle » est lui-même incertain, souvent utilisé comme s’il désignait une réalité unique et univoque, alors qu’il recouvre une large variété de systèmes parfois très différents. Le simple fait de parler de « l’IA » au singulier, avec un article défini, est discutable, dans la mesure où cela donne l’illusion de l’existence d’un objet homogène et identifiable. Or ce dont nous parlons c’est en réalité d’une pluralité de techniques, d’usages, de dispositifs, de finalités.

Il en va de même pour les notions de conscience, d’identité ou d’intention. Ce sont des concepts polysémiques, disputés, pour lesquels aucune définition consensuelle ne s’impose. Dès lors, leur importation dans le monde de l’entreprise repose souvent sur des choix arbitraires, adaptés au contexte, aux attentes du marché ou à la logique du moment. On les emploie parce qu’on considère que dans une optique économique il faut bien s’en emparer, mais sans toujours mesurer les ambiguïtés qu’ils recouvrent.

Ces notions deviennent concrètes non parce qu’elles auraient été clarifiées, mais parce qu’elles sont devenues utiles dans un écosystème où il faut produire du sens, de la confiance et de la conformité. La difficulté est que cette concrétisation repose souvent sur des catégories mal définies, ce qui entretient une illusion de profondeur là où il faudrait d’abord commencer par clarifier les mots eux-mêmes.

 

L'arrivée de philosophes dans les grands laboratoires d'IA répond-elle principalement à des préoccupations éthiques ou traduit-elle une prise de conscience que certains risques liés aux modèles les plus avancés nécessitent une réflexion dépassant le seul cadre technique ? 

On ne peut pas généraliser à partir de quelques recrutements très visibles. L’arrivée de philosophes dans certains grands laboratoires ne prouve ni une transformation profonde du secteur ni une maturation générale des équipes techniques.

A mes yeux, il s’agit surtout d’un mouvement marginal et largement superficiel. Oui, il existe sans doute une curiosité réelle, et oui, certains risques associés aux modèles les plus avancés obligent à dépasser le seul cadre technique. Mais cela ne suffit pas à parler d’une prise de conscience structurée. Ce qui domine encore, c’est surtout le conformisme. Il faut montrer que l’on s’intéresse à l’éthique parce qu’on suppose que le marché, les régulateurs et l’opinion l’attendent.

C’est souvent de la cosm-éthique, une mise en scène de l’éthique comme marqueur de sérieux et de responsabilité, plus qu’un engagement profond dans une réflexion normative exigeante. Dans ce cadre, le recrutement de philosophes sert aussi à produire de la crédibilité, à rassurer, et à rendre le discours des laboratoires plus acceptable.

Au final, ces embauches peuvent signaler qu’il existe bel et bien des questions qui dépassent la technique. Mais elles ne disent pas encore que l’industrie a véritablement intégré ces questions comme des contraintes de fond. Pour l’instant, le signal me paraît plus stratégique que réflexif.

 

Quelle place les philosophes occupent-ils réellement dans les grands laboratoires d'IA ? Participent-ils aujourd'hui aux choix qui orientent le développement et la sécurité des modèles, ou leur rôle demeure-t-il principalement consultatif ? 

Dans les grands laboratoires, la place des philosophes demeure, dans l’ensemble, consultative plutôt que réellement décisionnelle. Ils peuvent contribuer à l’identification de problèmes, à la formulation de cadres de réflexion, à la rédaction de principes internes ou à l’évaluation de certains scénarios sensibles, mais ils participent rarement aux arbitrages qui orientent concrètement l’architecture des modèles, les priorités de déploiement ou les compromis entre sécurité, coût et avantage concurrentiel.

Il faut surtout éviter de surestimer la portée de leur présence. Quelques recrutements très visibles ne suffisent pas à prouver une transformation profonde de la gouvernance des laboratoires. Dans bien des cas, les philosophes, ou les éthiciens sont intégrés à titre de caution intellectuelle et communicationnelle. Leur rôle est alors de montrer que l’organisation prend ces sujets au sérieux, c’est à nouveau une logique cosm-éthique consistant à convoquer le vocabulaire de l’éthique pour rassurer, légitimer et rendre acceptable une activité dont les finalités restent avant tout économiques et stratégiques.

Cette situation tient aussi au statut même de ces acteurs. Lorsqu’ils sont employés par l’organisation, leur liberté critique est structurellement limitée, puisque leur poste lui-même est en jeu. Même dans le cas où ils disposeraient d’une expertise réelle, ils savent que leur parole s’inscrit dans un cadre institutionnel qui conditionne leur marge de manœuvre. Il est donc difficile d’attendre d’eux une remise en cause frontale des choix de la direction, surtout lorsque ces choix touchent aux orientations commerciales ou à la feuille de route des produits. Je rappelle l’exemple, bien qu’un peu daté, de Timnit Gebru licenciée par Google en 2020.

Par ailleurs, l’éthique ne se réduit pas, contrairement à la croyance largement répandue et profondément ancrée à une déontologie descendante procédant de l’aversion au risque des acteurs, ni à la conformité juridique qui en découle. Or c’est souvent sous cette forme appauvrie qu’elle est mobilisée en entreprise, c’est-à-dire comme un complément de gouvernance destiné à prévenir les dérapages, à respecter la règle et à éviter les crises réputationnelles. C’est une étape sans doute nécessaire, mais pour autant ce n’est pas faire de l’éthique au sens fort. L’éthique véritable, ou plus précisément les éthiques véritables interrogent les finalités, les présupposés et les effets d’un système. Elles posent plus de questions qu’elles n’apportent de réponses ou de solutions immédiates, fussent-elles normatives.

A mon sens les philosophes et éthiciens présents dans ces laboratoires participent souvent davantage à stabiliser les représentations des organisations qu’à les déstabiliser pour entrer en profondeur dans les sujets. Ils peuvent aider à penser certains risques et à structurer le dialogue interne, mais leur influence sur les choix décisifs reste généralement indirecte, limitée et subordonnée à des logiques qui souvent les dépassent et dont ils deviennent un rouage.

 

Le fait que les grands laboratoires intègrent désormais des philosophes dans leurs équipes invite-t-il les régulateurs à accorder davantage de place aux sciences humaines et sociales dans leur propre approche de la gouvernance de l'IA ? 

Je ne suis pas convaincu que cela pousse réellement les régulateurs à accorder davantage de place aux sciences humaines et sociales. Mon expérience, certes limitée et forcément située, me conduit plutôt à penser que l’horizon économique domine largement les priorités, y compris dans les instances de régulation.

Dans beaucoup de cas, les sciences humaines servent davantage à légitimer des décisions déjà prises qu’à structurer l’analyse en amont. Elles interviennent alors a posteriori, comme un langage de justification, plus que comme un outillage critique permettant de poser les bonnes questions dès le départ. C’est particulièrement vrai dans un domaine où les enjeux financiers, industriels et géopolitiques sont considérables.

Le problème tient aussi à la compréhension souvent insuffisante des régulateurs eux-mêmes. Lorsqu’ils ne maîtrisent pas finement les dimensions techniques, sociales et politiques de l’IA, ils deviennent vulnérables aux discours d’acteurs très divers, dont certains ont surtout des intérêts économiques. Dans ce contexte, les sciences humaines ne sont pas nécessairement renforcées. Elles peuvent au contraire être instrumentalisées, simplifiées ou reléguées à un rôle décoratif.

Cela ne signifie pas qu’il n’existe aucun régulateur sincèrement attentif à ces disciplines. Mais soit leur compréhension du sujet reste partielle, soit leur voix demeure marginalisée dans des arbitrages dominés par d’autres logiques. En ce sens, l’arrivée de philosophes dans les laboratoires ne garantit pas un rééquilibrage du côté de la régulation. Elle peut même renforcer une illusion de prise en compte, sans modifier profondément les rapports de force réels.

 

Plus largement, le retour en force de la philosophie dans la Silicon Valley marque-t-il un tournant où les sciences humaines redeviennent un actif stratégique au même titre que les mathématiques ou l'informatique, à mesure que l'IA gagne en complexité ?

Il faut d’abord relativiser fortement l’idée d’un « retour en force de la philosophie dans la Silicon Valley ». Je ne crois pas que l’on assiste à une revalorisation profonde et générale des sciences humaines au même titre que les mathématiques ou l’informatique. Ce qui existe, à mon sens, relève surtout d’un phénomène limité et superficiel, très visible médiatiquement, mais encore marginal dans les organisations et dans leurs priorités réelles.

Autrement dit, quelques recrutements de philosophes ou d’éthiciens ne suffisent pas à postuler une transformation de la structure intellectuelle de l’industrie. Le cœur de gravité reste technique, économique et stratégique. Les sciences humaines deviennent utiles lorsqu’elles permettent de mieux vendre, de mieux rassurer, de mieux gérer l’image de l’entreprise, ou d’anticiper certaines critiques. Cela ne signifie pas qu’elles soient sans intérêt, mais leur place demeure conditionnée par leur valeur instrumentale. On est donc loin d’un basculement où elles redeviendraient un actif stratégique autonome et reconnu pour lui-même.

Je dirais même qu’il faut se méfier de cette rhétorique du « retour », qui laisse d’ailleurs à croire qu’elles ont été considérées par le passé. Cette rhétorique suggère qu’il y aurait eu, soudainement, une conversion intellectuelle des grands acteurs de la Silicon Valley à la philosophie. Or je n’en vois pas les signes. Ce que j’observe davantage, c’est une curiosité ponctuelle, parfois sincère, mais rarement traduite en volonté institutionnelle forte. C’est surtout la conscience de l’intérêt économique que la discipline représente en termes de communication. La philosophie est convoquée parce qu’elle rassure, parce qu’elle donne une profondeur symbolique, pas parce qu’elle aurait retrouvé un rôle structurant dans la conception des systèmes, rôle qu’elle n’a jamais eu.

A titre personnel, j’observe d’ailleurs beaucoup plus d’appétence réelle pour la philosophie lorsque je travaille avec des acteurs chinois ou issus des pays de la péninsule arabique qu’avec des acteurs nord-américains ou européens. Cela tient, je crois, à une différence d’attitude face aux questions soulevées par les SIA. Chez certains acteurs occidentaux, j’ai souvent le sentiment qu’il existe une forme de certitude préalable, une conviction de déjà savoir ce que sont la conscience, la responsabilité, l’intention ou l’identité, voire l’éthique, qui fait qu’ils n’éprouvent pas le même besoin de les interroger en profondeur. A l’inverse, dans certains contextes asiatiques ou islamiques, ces questions semblent faire l’objet d’une véritable curiosité et d’un désir de clarification plus sérieux pour mieux se les approprier et les contextualiser.

En ce sens, le phénomène actuel ne marque pas tant un tournant qu’un ajustement opportuniste. Les sciences humaines sont davantage convoquées qu’intégrées, davantage utilisées qu’installées au centre de la décision. Il y a donc un intérêt croissant, oui, mais pas encore un renversement durable des hiérarchies de savoir dans l’industrie des SIA.

A PROPOS DES AUTEURS

Enseignant en Éthique. Responsable du domaine Éthique, Formation managériale

et Projet professionnel et personnel à l’ISEP – Institut Supérieur d'Électronique de Paris.