Les fonctionnaires chinois ont eu la peau de l’intelligence artificielle anti-corruption

Pour surveiller les 64 millions de fonctionnaires chinois en activité, une intelligence artificielle appelée Zero Trust (confiance zéro) avait été mise en place : bien qu’elle n’avait été mise en place que dans 30 villes et divisions administratives du pays, soit 1 % des circonscriptions administratives, elle avait permis de mettre à pied 8 721 fonctionnaires corrompus. L’ « État profond » chinois vient d’en obtenir l’arrêt, officiellement car les fonctionnaires se sentent mal à l’aise face à cette intelligence artificielle… trop intelligente.

Le système Zero Trust a été mis en place en 2012 : cette intelligence artificielle est basée sur près de 150 fichiers gouvernementaux, ce qui lui permet d’établir des identités, mais aussi des cartes des relations sociales et monétaires entre fonctionnaires et proches sur plusieurs niveaux, de construire des modèles de comportement et de surveiller leurs opérations financières ou acquisitions foncières et immobilières. En lien avec les données des satellites, Zero Trust peut même vérifier si le financement public d’une infrastructure dans un village reculé n’a pas été détourné et si l’infrastructure payée est en travaux ou achevée.

Développée par l’Académie des sciences de Chine et les services de contrôle interne du Parti communiste chinois, elle a permis de mettre en cause 8 721 fonctionnaires pour népotisme, abus des biens publics, malversations ou abus de pouvoir. Les services de contrôle interne du Parti communiste chinois ont eu un rôle clé dans le paramétrage de Zero Trust, explique le South China Morning Post : « Les responsables disciplinaires […] ont passé de nombreuses heures à indiquer manuellement des phénomènes inhabituels dans différents types de jeux de données pour apprendre à la machine ce qu’il fallait rechercher, [en usant de ] leur expérience et [d]es connaissances accumulées dans des affaires précédentes. »

Cependant la réalité du pouvoir a eu raison de l’efficience du système : dans certaines divisions administratives du Hunan (comtés de Mayang, de Huaihua City et de Li), Zero Trust a été arrêté tandis que beaucoup des fonctionnaires mis en cause n’ont eu que des blâmes ou des mises à pied temporaires. D’autres subdivisions administratives ont restreint l’accès de Zero Trust aux données jugées sensibles ou secret défense.

Cependant, ces 8 721 mises en cause ne sont qu’une goutte d’eau par rapport aux 1 400 000 fonctionnaires sanctionnés depuis 2012, souvent officiellement pour corruption et officieusement pour être insuffisamment loyal envers le secrétaire général du Parti communiste chinois Xi Jinping, arrivé au pouvoir à l’automne 2012.

« L’intelligence artificielle peut rapidement mettre en cause un fonctionnaire corrompu, mais n’explique que très peu l’analyse qui lui permet d’arriver à ses conclusions », explique le South China Morning Post. « Bien que dans la plupart des cas les conclusions de Zero Trust ont été correctes, le système a besoin d’un contrôle extérieur de la part des humains », ce qui est pour le canal Telegram « la vraie raison de l’arrêt du système, plus que l’hostilité ou la bêtise des décideurs chinois ».

Le parti communiste à Ningxiang utilise toujours Zero Trust, selon son responsable Zhang Yi interrogé par le South China Morning Post : « Ce n’est pas facile… nous subissons une énorme pression », a-t-il expliqué, en affirmant que le programme devait « sauver » les fonctionnaires « à un stade précoce de corruption » et non les plomber. « Nous utilisons simplement le résultat de la machine comme référence. Nous devons vérifier et vérifier sa validité. La machine [Zero Trust] ne peut pas prendre le téléphone et appeler la personne qui a un problème. La décision finale est toujours prise par les humains ».

Louis-Benoît Greffe

Crédit photo : Pixabay (cc)
[cc] Breizh-info.com, 2019, dépêches libres de copie et de diffusion sous réserve de mention et de lien vers la source d’origine