France. Vers un logiciel pour prédire la délinquance avec Téralab ?

Il est prévu d’intégrer au logiciel un ensemble de données variables puis déterminer celles qui sont le plus significatives. Parmi elles, l’échelon administratif (quartier, commune, intercommunalité, département, région), la météo, la géographie, mais encore des données criminelles transmises par le SCRC sous clause de confidentialité, ainsi que des données ouvertes, tranmises par l’ONDRP (observatoire national de la délinquance) et l’INSEE. Le tout, « sans que soit mentionné une seule adresse ni un seul nom« , précise la direction centrale de la gendarmerie nationale (DCGN) pour qui l’objectif est de « effectuer des projections temporelles en 2015 sur diverses infractions (cambriolages de résidences principales et secondaires, vols de véhicules…) mais aussi spatiales« .

Le modèle sera basé sur les infractions commises entre 2008 et 2013, et vérifié sur les chiffres de 2014. S’il se vérifie, des projections seront effectuées pour 2015, qu’il faudra ensuite vérifier une fois l’année écoulée. La marge d’erreur est estimée de 5 à 7%. Cette méthode, dite de « lissage exponentiel« , est déjà utilisée dans le marketing et la grande distribution. Le but ultime : empêcher que les crimes et délits ne se produisent, en augmentant stratégiquement la présence policière afin de décourager les voleurs et décongestionner les tribunaux. Les algorithmes prédictifs sont déjà utilisés dans de nombreux domaines, parmi lesquels la gestion des risques financiers, l’amélioration des résultats des moteurs de recherche, la surveillance des infrastructures de transport et l’organisation de leur maintenance.

Par exemple, le logiciel pourra prédire qu’une zone industrielle entourée de plusieurs camps de gens du voyage aura des chances accrues de connaître des cambriolages ou des vols de gazoil – c’est le cas par exemple pour la zone industrielle de Nantes-Est entre Carquefou, Sainte-Luce et Nantes. Et qu’il faut donc renforcer la prévention : équiper les entreprises en alarmes et caméras, mais aussi renforcer les patrouilles la nuit. Ou qu’un lotissement de standing situé au pied d’une cité sensible a de grandes chances de connaître des problèmes sécuritaires. L’aménageur pourrait ainsi être conduit à construire ailleurs ou à privilégier des primo-accèdants pour maintenir la mixité sociale tout en n’encourageant pas une évolution urbaine favorable à la délinquance.

Le citoyen privé de droits numériques face aux algorithmes prédictifs

Le problème central réside dans le fait que le citoyen ne peut quasiment pas contrôler ce que d’anonymes chercheurs mettront dans le logiciel Dans son étude annuelle de 2014 le Conseil d’Etat a proposé l’évolution du droit dans ce domaine : Lorsqu’une décision produisant des effets juridiques ou une mesure affectant de manière significative les intérêts d’une personne est en partie fondée sur un algorithme, cette personne devrait bénéficier de garanties analogues à celles d’une procédure contradictoire. »

Le conseil d’Etat préconise que le principe du contradictoire s’applique afin que le citoyen – qui pourrait être aussi une commune ou une communauté – puise faire valoir ses arguments et qu’ils puissent primer sur l’algorithme. Afin que l’homme reste plus important que la machine. L’enjeu n’est pas anecdotique – outre la question de savoir si les algorithmes peuvent être manipulés de façon à effectuer une discrimination – c’est aussi l’importance croissante de l’intelligence artificielle sur la perception du terrain par l’humain qui pose problème. Lorsque l’homme se sera totalement déchargé de la compréhension du monde qui l’entoure sur les statistiques et les logiciels de traitement des big data, le monde qui nous entoure deviendra-t-il meilleur? Est-ce que le roman de 1984 peut devenir réalité, si les criminels pourraient être arrêtés même avant la commission de leur acte, pour avoir été coupable de « crime par la pensée » ? Ce sont des questions qui relèvent d’un projet de société – et de responsabilités partagées par l’ensemble de la communauté.

Le logiciel Corto : un précédent inquiétant

Il existe déjà un logiciel qui ne prédit pas, mais qui cartographie le crime. Corto, développé par la société Spallian. Il permet de cartographier les délits commis sur une carte très précise, et si possible en temps réel. Adopté par des municipalités comme Beauvais, Grigny, Viry-Châtillon, Mantes-la-Jolie ou encore Lyon, il est alimenté par le STIC (système de traitement des infractions constatées), les bases de la police municipale, de la police nationale, du ministère de l’Education – pour les faits de violence à l’intérieur des établissements scolaires – ou encore par les transporteurs et les bailleurs sociaux.

Le but est d’utiliser toutes les bases de données possibles, afin de cartographier la présence de la délinquance et si possible de calculer son évolution. Si le logiciel n’est pas axé sur la prévision de la délinquance, le problème, selon le Canard Enchaîné (27.5.2015) qui consacre un entrefilet à la question, est que « tous les acteurs engagés dans la prévention de la délinquance peuvent alimenter le logiciel », comme les gardiens d’immeubles et les médiateurs sociaux. Et il n’y a pas ou peu de garde-fous, notamment sur l’utilisation de données nominatives. De là à imaginer des dérives – par exemple museler un opposant local à la municipalité ou règler des comptes personnels – il n’y a qu’un pas.

Le criminologue Renaud Prouveur, PDG de Spallian, élude le problème : « nous ne sommes pas responsables de l’usage fait de notre logiciel une fois installé« , tout en précisan au Canard avoir « refusé de vendre le produit à des municipalités FN« , ce qui est au passage illégal puisque le refus de vente fondé sur une appartenance politique, religieuse, sexuelle, est interdit; ce qui fait mauvais genre pour un commandant de réserve de la gendarmerie nationale. Il n’en reste pas moins que l’existence de Corto et son utilisation croissante par d’importantes municipalités rend urgente l’évolution du droit sur les logiciels et algorithmes qui sont ou vont bientôt avoir une grande importance pour des pans entiers de l’action publique dont la sécurité ou l’aménagement du territoire.

Photo : DR
[cc] Breizh-info.com, 2015, dépêches libres de copie et diffusion sous réserve de mention de la source d’origine.