Police et intelligence artificielle : le cocktail explosif qui pointe le bout de son nez pour prévenir crimes et délits

Atlantico : La révélation de la collaboration de la police de la Nouvelle-Orléans avec une société de la Silicon Valley, agissant dans le domaine de l'Intelligence Artificielle prédictive a pu provoquer un débat aux Etats-Unis, notamment sur les questions de preuves des actes qui pourraient être commis. Quels sont les risques inhérents à ce type d'expérimentation, et ce, alors même que les résultats actuels de ce type de démarches ne semblent pas encore suffisamment probants ? 

Alain Bauer : D’abord une certaine forme d’escroquerie sur l’usage du terme prédictif. Il s’agit pour l’essentiel de données compilées, basées sur des probabilités induites par le passé mais qui ne projettent sur des lignes ne tenant pas compte des variables notamment humaines.

Si cela peut fonctionner dans des logiques compulsives (vols dans les véhicules, cambriolages,…) il est rare que ce processus soit efficace pour la criminalité. Et d’ailleurs il n’existe à ce jour aucun élément permettant de valider ce processus. "Minority Report" n’existe pas encore et probablement jamais.

Xavier Raufer : Ces risques sont graves et multiples :

• Le logiciel, l'algorithme, ne sont ni le mètre-étalon, ni de rigoureux et objectifs dispositifs scientifiques. Qui crée une technologie en fixe les normes et qui "code" un algorithme y porte ses biais, volontairement ou pas. Prenons les Etats-Unis, pays dit pluriracial mais n'ayant jamais su créer en son sein une durable harmonie entre ethnies ou cultures. Récemment, l'algorithme d'une plateforme internet de cinéma y a présenté l'affiche du film "Black Panther" sous le titre "La planète des singes". Affreux - et pas besoin d'insister.

• La Silicon valley grouille d'entreprise dont on ne sait si elles font de la recherche, des affaires - ou camouflent la CIA ou la NSA. C'est le cas de Palantir, que la Nouvelle Orléans a choisi pour faire sa "police prédictive". A Palantir, le hippie-sympa-pétard est loin - et la barbouze, proche. Wikipédia dépeint ainsi cette glauque start-up qui " travaille pour la communauté du renseignement des États-Unis, notamment pour la NSA, la CIA". Quand on sait ce que jadis en Californie, la CIA inventa comme dingueries à la savant fou-docteur Folamour, on comprend que les citoyens de la Nouvelle Orléans hurlent à la mort.

En France, étonnons-nous de ce que la précédente équipe dirigeante de la DGSI, contemporaine des plantages terroristes, de Merah au Bataclan, ait choisi ce louche Palantir pour traiter tout ou partie de ses données. Calomnie ? Non, c'est dans Les Echos "La DGSI signe un contrat avec Palantir, start-up financée par la CIA". Les Français sont-ils plus naïfs que leurs cousins de la Nouvelle-Orléans ? A voir.

En quoi ces systèmes de prédiction peuvent-ils bouleverser notre approche de la police et de la justice ? 

Alain Bauer : En rien pour l’instant. Ils peuvent aider à définir des probabilités, pas des prédictions, ou aussi valables que celles de Madame Irma dans sa roulotte de foire. Par contre l’analyse de données peut fournir des éléments de référence notamment dans le système légal anglo-saxon fortement basé sur la jurisprudence.

Xavier Raufer : Partons des fondamentaux.

• Aujourd'hui, l'incertitude n'est pas plus modélisable qu'à l'époque d'Aristote - premier philosophe à avoir profondément pensé le concept de temps. L'incertitude, c'est l'avenir, ce qu'il y a devant nous sur la route. "Modélisable", c'est créer un modèle mathématique du futur de ceci ou cela. C'est impossible aujourd'hui - et sans doute longtemps encore, tant que l'informatique quantique ne sera pas pleinement développée.

• Silicon Valley et tous ses géants du net, méga-serveurs, GAFA, etc. est un centre de puissance et d'expansion, industriel, financier, de recherche. Ainsi et comme toujours, ce centre hyperpuissant-rayonnant a son idéologie, sa légende. Voir Karl Marx " Les pensées de la classe dominante sont aussi, à toutes les époques, les pensées dominantes". Ce tout-puissant centre rayonnant a pour essentiel comme prédatrice idéologie celle du renard dans le poulailler - mais est fort capable de séduction ; il peut et sait faire avaler n'importe quoi au grand public par les médias américains que désormais, il contrôle pour l'essentiel - sites, plateformes, think-tanks, journaux classiques, agences de communication, etc.

De là provient la chatoyante légende du Big Data qui sait tout, des algorithmes qui peuvent tout et de la libération ultime d'un être humain-cyborg qui vivra des siècles dans le luxe et la volupté, sous la bienveillante houlette de milliardaires sympa - et si généreux. Mais dans les faits, à l'automne 2017, nul Big Data-algorithme-baguette-magique n'a su anticiper - même de 30 minutes - la course des terribles ouragans approchant la Floride et encore bien moins, le grave séisme sur Mexico.

D'où, pour en revenir à ce qui nous intéresse, le bobard (pour l'essentiel) de la "police prédictive". Bien sûr, rationaliser, amalgamer les données sur le crime, les "mouliner" plus vite et mieux, améliore le travail policier et la sécurité des citoyens, mais ce n'est ni miraculeux, ni la pierre philosophale. Et les logiciels exposant qu'un crime commis hier à tel endroit est prédictif d'un futur crime à la même place, ne font rien de scientifique - mais à l'inverse, ce que l'anglais nomme "wishful thinking" et le français, vœu pieux.

Quels seraient les bienfaits à attendre de telles démarches, ayant pour objet d'appliquer à la prévision le système statistique CompStat mis en place aux Etats-Unis par l'ancien chef de la police de plusieurs​ villes du pays, William Bratton ? Ces avantages peuvent-ils être maîtrisés suffisamment pour éviter des dérives potentielles futures ?

Xavier Raufer : La cartographie criminelle est une discipline sérieuse, visant à révéler l'état présent de l'activité des malfaiteurs sur le terrain, aux autorités civiques et policières d'une ville donnée. Ce pour calibrer, rationaliser, la riposte des forces de l'ordre - mais surtout, pour organiser la prévention. La cartographie criminelle ne joue pas à "Madame Irma, Voyante". Elle ne vend pas d'illusion mais est un important outil d'aide à la décision. Sans danger civique, cette cartographie ne faisant qu'approcher mieux le réel criminel, à mesure qu'on l'affine.

Alain Bauer: Compstat permet d’analyser des évènements et de renforcer l’action policière là ou des phénomènes récurrents ont eu lieu. L’important étant moins la donnée brute que la dynamique de l’acte criminel permettant non pas D’anticiper un crime mais de prévenir un règlement de compte ou d’interrompre une série de délits géographiquement concentrés. De ce point de vue le gain en efficacité est réel,  mais limité sur des forfaits répétitifs.

Dans quelle mesure le cas de la Nouvelle-Orléans, par le secret qui a pu entourer l’expérimentation, peut-il participer à la méfiance de la population ? De telles innovations ne méritent-elles pas justement d'être exposées en toute transparence afin de permettre l'émergence d'un débat public structuré et démocratique sur ces questions ? 

Xavier Raufer : Transparence... Débat... Informer l'opinion... Cela est bel et bon, encore faut-il que les médias, au premier rang de l'information, commencent par ne pas tomber dans les pièges des boîtes de com' de Silicon Valley. Récemment, des médias - non des moindres - ont été nombreux à publier quasiment le même article - non comme publicité, mais en article de plein exercice - sur les monts et merveilles de la "police prédictive", inspirée du génial film Minority Report. Or ces articles devaient peu au génie des journalistes signataires, mais provenaient TOUS de la même boîte de com' californienne. Pas de quoi vraiment aider le citoyen à y voir clair...//

Alain Bauer : Bien évidemment, il faut toujours mieux informer la population, ne serait ce que pour, si elle accepter le principe d’une expérimentation, permettre d’en décupler l’aspect préventif et pas seulement répressif. Et le débat public permet aussi d’en déterminer la valeur, le cout et l’intérêt dans l’équilibre naturel entre sécurité et libertés.