France. Vers un logiciel pour prédire la délinquance avec Téralab ?

A LA UNE

01/06/2015 – 08h00 France (Breizh-info.com) – Le service central de renseignement criminel de la gendarmerie (SCRC), des chercheurs et des industriels essaient de développer un logiciel pour anticiper la délinquance et prédire son évolution, annonce dans un long article le journal français d’investigation Mediapart, classé à gauche, et qui ne cache pas son inquiétude quand à l’évolution des possibilités des forces de l’ordre et des dérives potentielles.

Suite à un appel à projets lancé par le SCRC, le laboratoire Téralab de l’institut Mines Telecom a esquissé la possibilité du développement d’une intelligence artificielle, capable de s’améliorer elle-même, afin de pouvoir « identifier (…) les critères explicatifs de la délinquance (…) afin d’anticiper les phénomènes en vue d’une meilleure stratégie de lutte en matière de prévention notamment« . Le but est de mieux répartir les effectifs disponibles – dans un contexte d’austérité budgétaire qui oblige à privilégier la qualité plutôt que la quantité – et d’axer les efforts de prévention là où il y en a vraiment besoin. Le projet sera développé en partenariat avec une filiale du groupe Safran, Morpho , basée à Issy les Moulineaux et disposant d’un centre de R&D à Osny dans le Val d’Oise.

Le laboratoire Téralab, qui s’appuie aussi sur une plateforme de données Big Data fait travailler ensemble des capacités de recherche parisiennes (ENSAE) mais aussi bretonnes (école nationale de la statistique et de l’analyse de l’information à Bruz près de Rennes) ainsi que plusieurs laboratoires de recherche en sciences sociales, économie et statistiques implantés tant en région parisienne qu’en province, notamment à Montpellier.

Il est prévu d’intégrer au logiciel un ensemble de données variables puis déterminer celles qui sont le plus significatives. Parmi elles, l’échelon administratif (quartier, commune, intercommunalité, département, région), la météo, la géographie, mais encore des données criminelles transmises par le SCRC sous clause de confidentialité, ainsi que des données ouvertes, tranmises par l’ONDRP (observatoire national de la délinquance) et l’INSEE. Le tout, « sans que soit mentionné une seule adresse ni un seul nom« , précise la direction centrale de la gendarmerie nationale (DCGN) pour qui l’objectif est de « effectuer des projections temporelles en 2015 sur diverses infractions (cambriolages de résidences principales et secondaires, vols de véhicules…) mais aussi spatiales« .

Le modèle sera basé sur les infractions commises entre 2008 et 2013, et vérifié sur les chiffres de 2014. S’il se vérifie, des projections seront effectuées pour 2015, qu’il faudra ensuite vérifier une fois l’année écoulée. La marge d’erreur est estimée de 5 à 7%. Cette méthode, dite de « lissage exponentiel« , est déjà utilisée dans le marketing et la grande distribution. Le but ultime : empêcher que les crimes et délits ne se produisent, en augmentant stratégiquement la présence policière afin de décourager les voleurs et décongestionner les tribunaux. Les algorithmes prédictifs sont déjà utilisés dans de nombreux domaines, parmi lesquels la gestion des risques financiers, l’amélioration des résultats des moteurs de recherche, la surveillance des infrastructures de transport et l’organisation de leur maintenance.

Par exemple, le logiciel pourra prédire qu’une zone industrielle entourée de plusieurs camps de gens du voyage aura des chances accrues de connaître des cambriolages ou des vols de gazoil – c’est le cas par exemple pour la zone industrielle de Nantes-Est entre Carquefou, Sainte-Luce et Nantes. Et qu’il faut donc renforcer la prévention : équiper les entreprises en alarmes et caméras, mais aussi renforcer les patrouilles la nuit. Ou qu’un lotissement de standing situé au pied d’une cité sensible a de grandes chances de connaître des problèmes sécuritaires. L’aménageur pourrait ainsi être conduit à construire ailleurs ou à privilégier des primo-accèdants pour maintenir la mixité sociale tout en n’encourageant pas une évolution urbaine favorable à la délinquance.

Le citoyen privé de droits numériques face aux algorithmes prédictifs

Le problème central réside dans le fait que le citoyen ne peut quasiment pas contrôler ce que d’anonymes chercheurs mettront dans le logiciel Dans son étude annuelle de 2014 le Conseil d’Etat a proposé l’évolution du droit dans ce domaine : Lorsqu’une décision produisant des effets juridiques ou une mesure affectant de manière significative les intérêts d’une personne est en partie fondée sur un algorithme, cette personne devrait bénéficier de garanties analogues à celles d’une procédure contradictoire. »

Le conseil d’Etat préconise que le principe du contradictoire s’applique afin que le citoyen – qui pourrait être aussi une commune ou une communauté – puise faire valoir ses arguments et qu’ils puissent primer sur l’algorithme. Afin que l’homme reste plus important que la machine. L’enjeu n’est pas anecdotique – outre la question de savoir si les algorithmes peuvent être manipulés de façon à effectuer une discrimination – c’est aussi l’importance croissante de l’intelligence artificielle sur la perception du terrain par l’humain qui pose problème. Lorsque l’homme se sera totalement déchargé de la compréhension du monde qui l’entoure sur les statistiques et les logiciels de traitement des big data, le monde qui nous entoure deviendra-t-il meilleur? Est-ce que le roman de 1984 peut devenir réalité, si les criminels pourraient être arrêtés même avant la commission de leur acte, pour avoir été coupable de « crime par la pensée » ? Ce sont des questions qui relèvent d’un projet de société – et de responsabilités partagées par l’ensemble de la communauté.

Le logiciel Corto : un précédent inquiétant

Il existe déjà un logiciel qui ne prédit pas, mais qui cartographie le crime. Corto, développé par la société Spallian. Il permet de cartographier les délits commis sur une carte très précise, et si possible en temps réel. Adopté par des municipalités comme Beauvais, Grigny, Viry-Châtillon, Mantes-la-Jolie ou encore Lyon, il est alimenté par le STIC (système de traitement des infractions constatées), les bases de la police municipale, de la police nationale, du ministère de l’Education – pour les faits de violence à l’intérieur des établissements scolaires – ou encore par les transporteurs et les bailleurs sociaux.

Le but est d’utiliser toutes les bases de données possibles, afin de cartographier la présence de la délinquance et si possible de calculer son évolution. Si le logiciel n’est pas axé sur la prévision de la délinquance, le problème, selon le Canard Enchaîné (27.5.2015) qui consacre un entrefilet à la question, est que « tous les acteurs engagés dans la prévention de la délinquance peuvent alimenter le logiciel », comme les gardiens d’immeubles et les médiateurs sociaux. Et il n’y a pas ou peu de garde-fous, notamment sur l’utilisation de données nominatives. De là à imaginer des dérives – par exemple museler un opposant local à la municipalité ou règler des comptes personnels – il n’y a qu’un pas.

Le criminologue Renaud Prouveur, PDG de Spallian, élude le problème : « nous ne sommes pas responsables de l’usage fait de notre logiciel une fois installé« , tout en précisan au Canard avoir « refusé de vendre le produit à des municipalités FN« , ce qui est au passage illégal puisque le refus de vente fondé sur une appartenance politique, religieuse, sexuelle, est interdit; ce qui fait mauvais genre pour un commandant de réserve de la gendarmerie nationale. Il n’en reste pas moins que l’existence de Corto et son utilisation croissante par d’importantes municipalités rend urgente l’évolution du droit sur les logiciels et algorithmes qui sont ou vont bientôt avoir une grande importance pour des pans entiers de l’action publique dont la sécurité ou l’aménagement du territoire.
Photo : DR
[cc] Breizh-info.com, 2015, dépêches libres de copie et diffusion sous réserve de mention de la source d’origine.
.
- Je soutiens BREIZH-INFO - spot_img

Démolition, le Journal d’Anne France, Alternative Ulster, Pôle emploi la machine à asservir, J-M Caradec : la sélection littéraire hebdomadaire

Démolition, le Journal d'Anne France, Alternative Ulster, Pôle emploi la machine à asservir, J-M Caradec : voici la sélection...

Nantes. Huit vide-greniers et autant de règles sanitaires ?

Maintenant que de nombreuses associations sont enfin au point quant aux règles sanitaires à appliquer aux vide-greniers, et qu’un...

2 Commentaires

  1. Sans oublier le logiciel qui écoute les pêches des imams dans les mosquées.
    Français dormez bien Big Brother s’occupe de tout.

  2. Cela ressemble beaucoup à une grosse usine à gaz inefficace comme il en existe déjà dans ces administrations, le but étant surtout de donner l’impression à la population qu’elle est surveillée, effet psychologique qui sera accompagné de quelques affaires bien choisies et médiatisées pour orienter la répression dans le sens souhaité, indépendamment des délits et crimes réels et des moyens concrets mis en œuvre pour lutter contre ceux-ci. Bref un outil politique adaptable, pas étonnant que les franc-mac veulent se le réserver.

Il n'est plus possible de commenter cet article.

Articles liés