IA : Google restreint les réponses de son chatbot pour tout ce qui touche aux élections. Le remède pire que le mal ?

Atlantico : Gemini, l'équivalent ChatGPT de Google, n'est plus en mesure de répondre à certaines questions concernant les élections politiques. L'idée, en l'occurrence, est de limiter le risque de désinformation qui peut accompagner le développement de ce type d'IA. Est-ce que c'est un risque réel ? Est-ce que ces raisons, on les comprend ?

Laurent Alexandre : L'Europe commence à découvrir qu'elle n'a pas de grandes plateformes comme les GAFAM le sont. Donc, elle n'a pas de cloud, elle ne fabrique pas de processeurs permettant de fabriquer de l'intelligence artificielle. C'est un quasi-monopole de Nvidia avec ses puces GPU. Elle n'a pas de moteur d'intelligence artificielle de taille mondiale, même si Mistral est une initiative intéressante en France. Malheureusement, avec des moyens plus faibles que ceux dont disposent les géants californiens. L’Europe découvre que les gens qui contrôlent le cloud, qui contrôlent les microprocesseurs, qui contrôlent les plateformes informatiques et l'IA ont un monopole de la détermination de la vérité. Ce monopole de la vérité peut passer par la transformation de l'information ou la censure. Il est stupéfiantque l'Europe ait attendu 2024 pour découvrir que quand on ne maîtrise pas les grandes intelligences artificielles mondiales, quand on ne maîtrise pas les grandes plateformes informatiques mondiales, on est vassalisé et  à la merci de ceux qui possèdent ces actifs numériques et qui possèdentt le monopole de la vérité. Il aurait fallu réaliser ça en l'an 2000 et pas en 2024. L'Europe a abandonné toute souveraineté numérique. La seule chose que fait l'Europe, c'est de réglementer. Elle ne sait pas produire de valeur numérique ni d'intelligence artificielle. L'AI Act est  le dernier épisode en date de cette volonté de l'Europe de réglementer et de laisser le monopole des actifs numériques aux États-Unis. La situation ne risque pas de s'améliorer dans les années qui viennent s'il n'y a pas un changement de stratégie de l'Europe. Le problème n'est pas de réglementer l'IA. Le problème est de produire de l'IA, si l'on veut être souverain.

Vous évoquiez tout à l'heure une alternative à la censure qui consistait à transformer de l'information. Est-ce qu'on peut revenir plus en détail sur ce que vous entendez par là ? 

Une réponse peut être censurée. C'est-à-dire que les questions n'obtiennent pas de réponse ou on peut donner une réponse qui ne correspond pas à la réalité. Si l'on prend Gemini, on a vu qu'avant la fermeture de la production d'images par Gemini, il y a quelques jours, Gemini représentait Louis XV avec la peau noire. Il représentait les dirigeants de Google comme des Asiatiques. Il représentait les pères fondateurs des États-Unis d'Amérique dans un mélange de toutes les origines, dans un anachronisme total. L'impossibilité pour Gemini de représenter des gens de couleur blanche et la transformation de l'ethnie des gens qui historiquement étaient blancs en gens de couleur correspond à une volonté d'inclusion et de diversité. C'est-à-dire que pour éviter de représenter un monde trop blanc, on interdit à Gemini de dessiner des gens blancs et on les transforme en gens de couleur. Le cas le plus anachronique et le plus caricatural pour un Français, bien sûr, c'est le fait que Louis XV soit systématiquement représenté comme étant noir. Aujourd'hui, ces deux problèmes, la censure et le révisionnisme historique, sont les deux conséquences pour l'Europe de l'absence de souveraineté. Quand on ne produit pas d'IA, on se tait ! Et l'Europe n'est qu'au début de la découverte de ce que signifie le fait d'être un nain technologique au milieu des années 2020. 

Est-ce qu'il aurait pu exister une autre alternative si on comprend le risque que peut représenter la désinformation ? Est-ce l'Europe aurait pu gérer cette question autrement ? 

C'est Google qui décide. Et si l'Europe veut décider la place de Google, en l'occurrence, il faut faire une OPA sur Google pour racheter Google, mais Google vaut quand même 1 700 milliards de dollars, donc ce n'est pas à la portée des Européens. Ce n'est ni vous, ni moi qui faisons la ligne éditoriale du New York Times, ou du Figaro. Il n'y a pas plus de raison que nous imposions la ligne éditoriale de Gemini, la nouvelle IA de Google. C'est leur décision. Ils ont choisi de ne pas répondre aux questions politiques car ils considèrent qu'il y a trop de risques de procès et de procès d'intention, et ils préfèrent censurer les réponses politiques de Gemini le temps des élections, plutôt que de prendre des risques économiques et juridiques. C'est un choix qui pose des tas de questions. On est au tout début de ce type de problématiques car l'IA et les robots dotés d'IA vont dans les toutes prochaines années entraîner une telle transformation de la société que de multiples effets inattendus  vont apparaître et vont probablement dépasser la capacité d'absorption de la société civile et des acteurs réglementaires et judiciaires. 

Quel est selon vous l'impact sur le long terme que ce type de censure peut avoir ? À quel point est-ce qu'il faut être inquiet concrètement ? 

Les plateformes d'IA, il ne va pas y en avoir pas beaucoup. Les bons développeurs d'IA, chez OpenAI et chez Google, gagnent 10 millions de dollars par an. Facebook vient d'acheter pour vingt milliards de dollars de puces GPU pour alimenter son intelligence artificielle. Créer une plateforme d'IA gloabme et de très bon niveau technologique, ça va coûter entre cinquante et mille milliards de dollars pour chaque IA. Il va donc y avoir peu d'IA. La concentration du pouvoir médiatique, économique, technologique, politique autour des quelques rares propriétaires des meilleures IA va être un problème politique absolument immense. Problème politique et économique sur lequel on aurait dû se pencher depuis déjà très longtemps. Ceux qui ont demandé depuis des années et des années qu'on réfléchisse à la régulation des IA égales ou supérieures au cerveau humain, comme moi par exemple, n'ont pas été entendus. Personne n'a vu la vitesse à laquelle l'IA allait restructurer l'économie et la société. La réflexion n'a pas été menée correctement. D'ailleurs, lorsque l'Union européenne a lancé l'AI Act, elle n'avait absolument pas envisagé les progrès technologiques de l'IA et l'AI Act a du être réécrit quand est sorti ChatGPT. L'Union européenne n'avait pas une bonne vision prospective des progrès technologiques et elle a été surprise de voir arriver les LLM.  L'expertise technologique n'était pas suffisante pour voir les ruptures technologiques suffisamment tôt pour adapter  les projets de législation. 

C'est extrêmement simple. Il est tout à fait possible sur une question, sur un champ intellectuel donné, de pousser le LLM à ne pas répondre. Ce sont des systèmes de filtrage assez simples. Ça n'est vraiment pas un problème compliqué. Produire un bon LLM, comme ChatGPT, Gemini ou Claude III, c'est très compliqué. Le censurer, c'est très simple. Ce type de filtrage, limité un champ donné devrait avoir peu d'impact sur les performances globales du LLM, à mon avis. Un filtrage très complexe et très large, par exemple comme celui qu'exige le parti communiste chinois, pour les IA chinoises, a des effets catastrophiques sur la performance des LLM chinois. C'est la raison pour laquelle l'écart entre la Chine et les États-Unis en matière d'intelligence artificielle, qui se réduisait beaucoup, est en train de réaugmenter extrêmement vite, car la censure et le filtrage généralisés des LLM ainsi que la censure des éléments utilisés pour  le training du LLM, l'entraînement du LLM, a des effets catastrophiques. Mais ça n'est pas le cas du petit filtrage politique que Gémini met en œuvre. Petit filtrage, pas de gros problèmes, gros filtrage, effondrement des performances. Notamment quand le filtrage empêche d'entraîner le modèle avec toutes les langues du monde, ce qui est le cas des LLM chinois, qui doivent être entraînés uniquement avec des données en mandarin, pour être sûrs qu'ils ne soient pas contaminés par les idées libérales de l'Occident. Ce filtrage massif a un effet catastrophique, car un bon LLM, une bonne IA, a besoin d'être formé dans toutes les langues du monde et sur tous les sujets du monde pour être performant. GPT4 qui n'a pas été spécifiquement entraîné à faire de la médecine, fait le diagnostic des accidents vasculaires cérébraux et propose un traitement avec des performances très supérieures aux intelligences artificielles spécialisées qui n'ont été entraînées qu'avec des dossiers médicaux neurologiques. Pour le dire très simplement, une bonne IA, c'est une IA qui a été formée dans toutes les langues du monde, sur tous les sujets du monde. Et la recette de la crêpe bretonne, ça améliore les performances mathématiques d'un LLM !