Police prédictive: quels sont les enjeux soulevés par les algorithmes ?

En se basant sur des statistiques, les algorithmes prédictifs ont promis de baisser la criminalité en envoyant les patrouilles là où il faut au bon moment. Ils ont surtout marchandisé la « production de sécurité ». Ce qui a conduit à stigmatiser davantage les Noirs et les Latinos. Au final, cette approche productiviste est un échec.

Peut-on contrôler la sécurité de toute une ville à partir d’une salle de commandement ? Tracer des délinquants sur un mur d’écrans ? Détecter des situations à risque ou des comportements potentiellement dangereux ? Orienter les patrouilles de police ou de gendarmerie vers les territoires où de futurs délits ont, selon les statistiques, le maximum de probabilités de s’accomplir ? Telles sont les promesses de la police prédictive qui cherche à s’inscrire dans le cadre plus large de la Smart & Safe City en forgeant- l’alliance du Big Data et des Big Data d’intelligence artificielle (IA).

Anticiper les crimes avant qu’ils se produisent

L’objectif principal de la police prédictive vise à anticiper les faits avant qu’ils ne se produisent réellement, en utilisant notamment des données ouvertes (Open Data) et celles qui sont produites par les services de sécurité, comme, par exemple, les plaintes et les mains courantes. « Cela semble possible grâce à l’usage des algorithmes de géolocalisation sur une cartographie numérique et à des techniques d’apprentissage automatique (Machine Learning), couramment utilisées dans la finance et l’assurance », rapporte une étude de l’Institut d’aménagement et d’urbanisme (IAU) d’Île-de-France. Les expériences et projets actuels de police prédictive tentent ainsi de produire des modèles de prévision des faits de délinquance, dans le temps et dans l’espace.

 

Produire de la sécurité comme de l’eau

« Il s’agit de prédire soit où et quand va arriver le crime soit qui va le commettre », analyse Bilel Benbouzid, maître de conférence au Laboratoire interdisciplinaire Sciences Innovations Sociétés (Lisis) de l’Institut francilien Recherche Innovation Société (Ifris) qui a donné une conférence à ce sujet durant le salon APS 2019 (du 1^er au 3 octobre derniers). Cette activité est devenue un véritable marché pour des acteurs comme Thales avec son offre de Connected Officer, bardé de capteurs (caméra Bullet, lunettes de réalité augmentée…) ; ou comme les éditeurs internationaux de logiciels comme (Microsoft, Motorola, Hitachi Data Systerms…) ; comme encore les éditeurs d’informatique décisionnelle (Palentir Law Enforcement, Bair Analytics, Information Builder) ; voire des start-up spécialisées dans la cartographie prédictive de géolocalisation du crime comme Hunchlab et PredPol. « Ces éditeurs ont une la logique productiviste. Leur question est surtout de savoir quelle « quantité de police » (combine de patrouilles) un commissariat va mettre pour produire quelle « quantité de sécurité ». Il s’agit donc de produire de la sécurité comme on produit de l’eau », reprend Bilel Benbouzid. Argument : faire rapidement baisser la criminalité de 30 % à 50 %.

 

Avec quelles mesures valoriser la prédiction ?

Reste à savoir avec quelle unité mesurer ces quantités production de la sécurité. Le résultat le plus facile a été le Stop-and-Frisk aux États-Unis, à savoir le contrôle et la palpation de citoyens par la police. « L’idée, c’était de saturer l’espace public avec ces contrôles pour être pro-actif et productiviste, poursuit Bilel Benbouzid. Le problème, c’est qu’en dehors de ces Stop-and-Frisk, la police prédictive n’avait pas de donnée à se mettre sous la dent. » Du coup, une dérive de profilage ethnique et racial s’est installée à l’encontre des Noirs et des Latinos. Ce qui a fait l’objet de condamnations de la police. Cependant, la stratégie dans les commissariats américains a consisté à ne distribuer des primes que si la criminalité baissait. Des éditeurs comme PredPol se sont alors servis de la prédiction pour rajouter un dosimètre : en passant 30 mn par jour, soit 5 % du temps de la patrouille dans un « carré rouge », la criminalité baisse. Ensuite, on met sur le crime un coût pour la société : un million de dollars pour un assassinat, 50 000 dollars pour un viol. La police prédictive permet alors de gagner du « Cost-of-Crime ». Chez l’éditeur Hunchlab, ce Cost-of-Crime a été indexé sur la sévérité de la peine encourue par les délinquants ou criminels.

 

Pas de modèle convaincant

Dans tous les cas, l’idée d’associer un modèle économique à la police prédictive est un échec pour plusieurs raisons. Tout d’abord à cause de la mauvaise qualité des données policières : elles reflètent la discrimination raciale des policiers, notamment à l’égard des Afro-américains et des Latinos, et non pas la réalité du crime. Ce qui a poussé d’autres éditeurs à débiaiser les statistiques en se basant essentiellement sur les plaintes. Même échec. D’où, ensuite, un autre modèle de Hunchlab selon lequel la police produit un bien à l’instar d’un bien économique, à savoir des externalités positives et négatives. Ces dernières concernent les arrestations non fructueuses, pour rien, principalement en fonction de la couleur de la peau. « L’idée, c’est alors de créer un « Algo Officer », un agent central qui, en fonction des statistiques passées, autorisera en direct tel policier à arrêter telle personne ou pas », décortique Bilel Benbouzid qui ajoute : « Les expérimentations de la gendarmerie française, pourtant critiquées, sont très loin de la sophistication américaine, beaucoup plus robustes et plus humble. Cette attitude est sage. »

Erick Haehnsen