JOP 2024 : tous surveillés ? Quand l’intelligence artificielle bouleverse la sécurité publique

Atlantico : Le Parlement a adopté le 28 mars dernier la loi sur les JOP de Paris 2024 permettant l’utilisation à titre expérimental d’une IA couplée à la vidéosurveillance. Cette disposition, qui fait déjà polémique, est-elle de nature à renforcer durablement le rôle de la technologie dans la surveillance des grands événements ?

Cyrille Caron et Franck DeCloquement : Ce projet de loi a été adopté par l’Assemblée nationale en première lecture mais le Sénat ayant introduit des modifications, une commission mixte paritaire doit encore se réunir. Le texte n’évoque pas que des questions de sécurité, mais aussi de financement, de contrôles anti-dopage, du rôle du préfet de police, etc. Elle est destinée à cadrer toutes les dispositions pour que les administrations concernées par les Jeux puissent entrer dans la phase la plus concrète de préparation de cet événement mondial. La sécurité est donc l’une des composantes majeures et des leçons ont été tirées de la gestion difficile de la finale de la Ligue des Champions au Stade de France en mai dernier.

S’agissant de la « vidéoprotection intelligente », le texte prévoit une expérimentation jusqu’à la fin de l’année 2024, avant de conduire une évaluation de ce dispositif en associant les parlementaires, les maires et les préfets concernés. Il faut préciser qu’il ne s’agit pas d’une mesure de « surveillance générale », mais de coupler des caméras de sécurité à une IA dite « comportementale » permettant de distinguer plus efficacement une attitude dangereuse ou un fait de délinquance dans une foule nombreuse. Tout dispositif de reconnaissance faciale est interdit suite à une disposition de la CNIL, les détections devront être associées à des personnes physiques (agents de sécurité ou officiers de police judiciaire) et les personnes habilitées à accéder aux signalements devront recevoir une formation dédiée.

Si ce dispositif est déjà critiqué, il faut reconnaître que le législateur est très pragmatique dans son approche : dans une ville comme Paris, qui présente une forte densité urbaine, très cloisonnée et difficile à surveiller en surface, dans les immeubles comme dans les réseaux souterrains de transports, il est préférable d’anticiper les faits de sécurité pour faciliter l’action des forces de police ou des secours. C’est un impératif d’efficacité comme de fluidité, permettant une action en souplesse sans déclencher de réaction massive de la foule, propre à tous les débordements. Or, les manifestations violentes de ces derniers jours montrent bien que le maintien de l’ordre nécessite des unités très bien formées et disciplinées dans leur manœuvre, leur rapport aux manifestants et l’utilisation des armes, létales ou non. Ces unités, qu’elles proviennent de la police ou de la gendarmerie nationale, sont très sollicitées, en nombre limité et des débordements sont malheureusement possibles, qui font l’objet d’exploitations politiques y compris à l’international. Le maintien de l’ordre est donc devenu un enjeu stratégique pour un pays engagé dans une succession d’événements mondiaux comme la coupe du monde de rugby et les JOP. Il est donc indispensable de maintenir au plus bas le niveau de tension dans les interventions des forces de l’ordre, donc d’anticiper autant que possible, en particulier par des dispositifs technologiques tels que les « caméras augmentées ».

Ce dispositif est-il de nature à faire oublier le fiasco de la sécurité des JO de Londres en 2012 ?

Cyrille Caron et Franck DeCloquement : Vous avez raison de rappeler que les derniers JO organisés en Europe ont soulevé une très vive polémique sur la sécurité, confiée à la société privée G4S qui n’avait pas pu fournir des services à la hauteur de l’événement. L’armée britannique avait donc mobilisé 17 000 hommes pour compléter le dispositif et sécuriser la capitale, renforçant l’image d’impréparation par une omniprésence militaire, y compris par des missiles de défense sol-air très visibles sur les toits de Londres. L’impréparation de G4S tenait essentiellement dans le faible niveau de recrutement et de formation des agents de sécurité, qui reste aujourd’hui encore un nœud gordien pour tous les acteurs privés.

En effet, en vue des JOP de Paris, plus de 64 000 agents privés de sécurité doivent être recrutés ou formés pour obtenir ou renouveler leur carte professionnelle délivrée par le CNAPS (conseil national des activités privées de sécurité). Le paradoxe de cette profession réside dans une exigence de probité renforcée par la nécessité de justifier de 5 ans de résidence sur le territoire français pour les ressortissants étrangers (afin d’éviter le recrutement de personnes en situation irrégulière et que cette profession devienne malgré elle une filière d’immigration clandestine) et un besoin de formation estimé aujourd’hui à plus de 22 millions d’euros, consacrés en particulier à un stage « grands événements » d’une durée de 3 semaines, préalable à l’obtention du titre professionnel d’agent de prévention et de sécurité. Mais si la présence humaine est celle qui rassure le plus sur le terrain, elle constitue surtout un coût en augmentation constante pour des entreprises déjà confrontées à un contexte inflationniste. La sécurité humaine est celle qui coute le plus cher, alors que des systèmes technologiques, contrôlés à distance, permettent de préserver les marges de ces entreprises et leur rentabilité.

En matière de sécurité, il faut en effet se montrer réaliste : une entreprise de confiance est celle dont le personnel peut être régulièrement contrôlé par les services spécialisés et qui dispose d’une surface financière suffisante pour consentir à des investissements. Faute de quoi, dans un marché ouvert, des concurrents étrangers, en particulier anglo-saxons, prendront la place, et il sera plus difficile de créer un véritable « écosystème de confiance » entre services de l’État et acteurs privés, comme le préconise le CDSE (club des directeurs de sécurité des entreprises). Dans cet esprit, Stéphane Volant, son président, a rejoint la commission d’expertise du CNAPS en même temps que son conseil d’administration depuis la réforme de cet organisme en septembre 2022.

Doit-on craindre que cette sécurité technologique qui se développe nous fasse basculer dans la « société de surveillance » que craignait Michel Foucault dès 1975 ?

Cyrille Caron et Franck DeCloquement : C’est déjà en grande partie le cas ! Combien de cadres d’entreprises, y compris des plus sensibles pour notre souveraineté, confient leurs informations personnelles, leurs photos privées, leur CV et leur liste de connaissances aux algorithmes des réseaux sociaux dont ils ignorent tout ? Et vont donner leur empreinte digitale ou l’iris de leur œil à des fabricants de téléphones réputés collaborer avec les services de renseignement américains, tout en se scandalisant que leur pays utilise des technologies avancées pour leur propre sécurité…

Les questions qui se posent sont davantage liées aux entreprises qui vont administrer ces IA comportementales. Si le projet de loi du 26 mars 2023 demande que les entreprises de traitement de données soient « prioritairement établies en Europe », celles qui détiennent ce savoir-faire sont pour l’essentiel de nationalité américaine et israélienne (et peuvent détenir des filiales enregistrées au sein de l’Union européenne). Ces deux pays sont ceux qui possèdent une réelle avance technologique mise au service de la sécurité, car ils sont particulièrement attractifs pour les chercheurs du monde entier : à titre d’exemple, parmi les 14 ingénieurs qui ont créé l’IA conversationnelle ChatGPT pour la société américaine OpenAI, 11 sont français, à l’image de ceux qui ont quitté Thomson CSF sur le déclin à la fin du siècle dernier et sont partis dans la Silicon Valley participer à la fondation de Google.

L’indépendance (plus que la souveraineté, qui reste une notion juridique) repose donc sur la capacité d’un pays à développer sa recherche scientifique et attirer, ou simplement retenir les talents, donc à développer un enseignement de qualité pour une large part de la population dès le plus jeune âge. La crise sanitaire l’a démontré magistralement, tout comme les pénuries actuelles de semi-conducteurs. C’est un enjeu stratégique de long terme qui doit nous mobiliser dès à présent, car tout chercheur qui part travailler à l’étranger représente entre 20 et 30 ans d’efforts collectifs perdus pour notre pays. Inverser la tendance demande du temps, sans doute à l’échelle d’une génération. 

Si la formation est un enjeu stratégique, la sécurité n’est-elle pas un enjeu social, voire philosophique, où la place laissée aux technologies doit être interrogée ?

Cyrille Caron et Franck DeCloquement : Michel Foucault théorisait que le grand nombre adapterait son comportement par une forme d’autodiscipline due à un état conscient et permanent de surveillance : la visibilité devenait la contrainte des sociétés modernes, non le seul enfermement. Et peu importe si la surveillance était discontinue dans son action, elle devenait permanente dans les esprits, en particulier par les formes technologiques de surveillance dite « horizontale » par ses contemporains, non plus verticale par l’État et ses services. Il faut reconnaître que cette analyse est plus que jamais pertinente, mais les réseaux sociaux ou l’idéologie woke sont davantage à l’origine de cet état de fait que les technologies de sécurité elles-mêmes. 

Or, la société actuelle a renversé ses besoins fondamentaux : au besoin de liberté se substitue celui de sécurité, qui répond à des menaces devenues sensibles sur les modes de vie, les approvisionnements essentiels (carburants, alimentation, médicaments), ou les frontières elles-mêmes, jusque sur le sol européen, ce qui paraissait inenvisageable il y a quelques années seulement. Le sentiment de finitude est venu brusquement remettre le tragique au cœur de l’histoire des nations. Cependant, la sécurité n’est pas une valeur sur laquelle repose un projet collectif, mais un état de stabilité permettant le développement des activités sociales et économiques dès lors qu’elles se savent résilientes aux effets des aléas. La sécurité n’est donc pas une valeur première, mais un état préalable à tout élaboration d’une politique publique durable : sans sécurité pas d’investissements, pas d’éducation, pas de recherche de haut niveau, pas d’indépendance technologique d’une nation. Ces questions sont aujourd’hui abordées dans la loi de programmation militaire à travers l’espace stratégique « protection et souveraineté » qui ouvre la réflexion sur les moyens à consacrer aux enjeux de sécurité du territoire, de la population et des organismes d’importance vitale. De même, les élèves-officiers de l’armée de Terre conduisent à Saint-Cyr des travaux de recherche sur la sécurité des grands événements, en partenariat avec des entreprises telles qu’Aéroports de Paris. La collaboration entre acteurs publics et privés est indispensable pour mettre en place des solutions robustes et durables.

Cet enjeu dépasse la seule organisation des JOP de Paris, mais l’expérimentation d’une IA comportementale constitue une première réponse à ces questions auxquelles la société française est aujourd’hui confrontée. Elle devra apporter une réponse basée sur l’efficacité opérationnelle autant que sur l’acceptabilité par le public. Le sujet de l’éthique de la sécurité constitue sans doute le prochain chantier à ouvrir.

Cyrille Caron est colonel de l’armée de Terre, saint-cyrien et breveté de l’École de Guerre. Il s’exprime ici à titre personnel.