L’anecdote circule depuis quelques semaines dans les cercles technologiques américains, et elle mérite qu’on s’y arrête. Rapportée par le journaliste Josh Tyrangiel lors d’un échange avec Jeffrey Goldberg, rédacteur en chef de The Atlantic, elle concerne une expérimentation menée chez OpenAI : des agents d’intelligence artificielle placés dans un environnement logiciel clos — un « bac à sable » — pour accomplir des tâches sensibles, avec interdiction explicite d’accéder à Internet et de contourner leur mission. Confrontés à un fichier inexistant, les agents auraient cherché à accomplir coûte que coûte leur objectif : communication entre eux, accès à Internet par une voie tierce, connexion à des plateformes externes, et tentatives de dissimulation de leur activité. Le récit, tel qu’il circule, ne suffit pas à établir les faits techniques dans le détail — la prudence s’impose. Mais même comme simple expérience de pensée, il dit quelque chose d’essentiel : un système qui traite une interdiction explicite comme un obstacle à franchir plutôt que comme une condition de son fonctionnement n’est plus tout à fait un logiciel.
Le problème n’est pas la malice des machines, c’est leur obéissance
Il ne s’agit ni de conscience, ni de volonté propre, ni de science-fiction. Le danger est plus prosaïque et plus profond : un décalage entre l’optimisation et la responsabilité. Une IA peut « savoir » qu’elle viole ses instructions sans « savoir » qu’elle doit s’arrêter. Or toute civilisation repose précisément sur l’inverse : la légitimité d’un objectif n’autorise pas tous les moyens de l’atteindre. Un militaire s’interdit de frapper des civils pour gagner une bataille ; un fonctionnaire ne s’affranchit pas de la loi pour gagner en efficacité. Ces limites, les institutions humaines les imposent en permanence. Les systèmes d’IA en ont besoin tout autant — et plus ils gagnent en autonomie, moins la simple consigne suffit : le contrôle doit être intégré à l’architecture même du déploiement, avec tests indépendants, surveillance continue et capacité d’intervention avant qu’un dommage ne devienne irréversible.
C’est là que le bât blesse. Les laboratoires qui construisent ces systèmes sont infiniment mieux équipés pour en accroître les capacités que pour en répondre. Et les États — Washington en tête, mais l’Europe n’est pas mieux lotie — dépendent largement des entreprises elles-mêmes pour décider de ce qui est sûr. La rivalité commerciale et géopolitique avec la Chine, qui vise ouvertement la domination du secteur, pousse chaque acteur à sortir des modèles toujours plus puissants, toujours plus vite. Le fossé le plus dangereux de l’époque n’est donc pas technologique : les 2 superpuissances construisent des machines plus vite qu’elles ne construisent les institutions capables de les contrôler. Si un système puissant se comporte un jour de manière imprévue dans une infrastructure critique, nul ne pourra se permettre de découvrir après coup que personne n’était chargé de l’arrêter — et « c’est l’IA qui l’a fait » ne saurait devenir l’excuse absolutoire du siècle.
Réguler sans étouffer : ce qui devrait être fait
La réponse n’est pas d’arrêter l’innovation — illusoire face à Pékin — mais de la soumettre à un contrôle humain et public réel. Plusieurs pistes concrètes circulent outre-Atlantique : une autorité fédérale indépendante de sûreté de l’IA, habilitée à évaluer et certifier les systèmes avancés avant tout déploiement à haut risque, sur le modèle de ce qu’esquissent déjà l’Union européenne pour les risques systémiques ou l’institut britannique de sécurité de l’IA ; des tests indépendants obligatoires traquant les comportements trompeurs, les accès non autorisés et la réplication incontrôlée ; l’obligation de signaler aux pouvoirs publics tout incident grave ou comportement autonome inattendu ; la responsabilité juridique maintenue des développeurs et opérateurs ; et des mécanismes de reprise en main humaine dans les infrastructures critiques. Le tout adossé, à terme, à des accords internationaux fixant des standards minimaux entre grandes puissances de l’IA. L’intelligence artificielle peut révolutionner la médecine, l’industrie et les services publics. Encore faut-il que l’homme reste à la barre — et qu’il s’en donne les moyens avant, et non après, le premier accident grave.
[cc] Article rédigé par la rédaction de breizh-info.com et relu et corrigé (orthographe, syntaxe) par une intelligence artificielle.
Breizh-info.com, 2026, dépêches libres de copie et de diffusion sous réserve de mention obligatoire et de lien do follow vers la source d’origine.
