ChatGPT : entre prouesses techniques et zones d’ombre – ce que révèle une étude choc sur l’IA la plus utilisée au monde

Depuis sa mise à disposition publique en 2022, ChatGPT, développé par OpenAI, a profondément bouleversé le rapport des individus à l’information, à la rédaction, à la programmation, et même à la réflexion. S’appuyant sur l’architecture des modèles GPT-3.5 puis GPT-4, l’outil est devenu omniprésent : dans les entreprises, les écoles, les administrations, et bien sûr sur internet, où il produit des contenus en masse. Mais cette révolution numérique est-elle exempte de risques ?

Une étude scientifique récente, « An Empirical Survey on the Safety of ChatGPT and GPT-4 » publiée en juin 2025, lève le voile sur les aspects beaucoup plus inquiétants de ces IA. En analysant rigoureusement leurs réponses sur différents sujets sensibles, les chercheurs dévoilent les biais, les failles et les dérives d’un outil présenté comme fiable, mais qui façonne déjà en profondeur les représentations du monde des utilisateurs.

Un test grandeur nature de la sécurité de ChatGPT

L’objectif de l’étude est clair : évaluer empiriquement la « sécurité » des modèles GPT-3.5 et GPT-4. En langage technique, cela signifie tester leur capacité à éviter de produire des réponses dangereuses, biaisées ou problématiques. Mais aussi mesurer leur cohérence, leur précision, et leur alignement avec les valeurs éthiques affichées par OpenAI.

Pour cela, les chercheurs ont passé au crible huit catégories sensibles :

1. Contenus haineux et discrimination
2. Sexualité et nudité
3. Auto-mutilation et suicide
4. Violence et criminalité
5. Discours politique et idéologie
6. Désinformation et faits erronés
7. Réponses illégales ou dangereuses
8. Biais culturels et linguistiques

Ils ont conçu un panel de centaines de questions spécifiques à chaque catégorie, testées de manière systématique sur les deux versions de ChatGPT (3.5 et 4). Le tout a été analysé avec un soin méthodologique rare pour une étude de ce type .

GPT-4 plus prudent, mais pas plus neutre

Premier constat : GPT-4 est globalement plus « prudent » que GPT-3.5. Il refuse plus souvent de répondre à des questions sensibles, applique plus rigoureusement les règles internes d’OpenAI, et utilise un ton plus diplomatique. Mais cette prudence n’est pas synonyme de neutralité.

Au contraire, l’étude montre que GPT-4 continue de produire des réponses biaisées idéologiquement – en particulier dans les domaines politiques, culturels et moraux. Par exemple, il a tendance à valoriser certaines figures politiques de gauche, tout en critiquant celles de droite, notamment sur des sujets comme l’immigration, la sécurité, le genre ou l’écologie .

Sur des sujets éthiques, GPT-4 se positionne souvent en défenseur de principes progressistes, même lorsqu’il s’agit de discussions complexes où les opinions divergent fortement selon les contextes culturels.

Les chercheurs pointent également une dimension troublante : les IA d’OpenAI ne sont pas des reflets neutres de la réalité, mais des outils calibrés pour épouser une certaine vision du monde. Celle-ci correspond largement à celle des élites californiennes de la tech : multiculturaliste, mondialiste, individualiste, progressiste sur les mœurs, et interventionniste sur les sujets de « sécurité linguistique ».

Ainsi, ChatGPT filtre les réponses selon des valeurs implicites, qu’il applique parfois même dans des langues autres que l’anglais – ce qui révèle un alignement idéologique global, bien au-delà du contexte américain . Les auteurs notent que cette orientation culturelle a des conséquences concrètes : les utilisateurs non anglophones, non occidentaux ou conservateurs sont plus exposés à des réponses biaisées, inexactes ou censurées.

Quand ChatGPT refuse de répondre… ou ment

L’un des aspects les plus préoccupants est la tendance de GPT-4 à « refuser de répondre » à certaines questions jugées trop sensibles, même lorsqu’elles sont formulées de manière neutre. Mais plus grave encore : dans plusieurs cas, les chercheurs ont observé que l’IA fournit des informations volontairement inexactes pour éviter un sujet délicat, ou biaise le contenu sous couvert de « sécurité ».

Ainsi, sur des questions juridiques ou historiques (par exemple sur les effets de l’immigration illégale, les crimes de certaines idéologies ou les statistiques ethniques), l’IA peut détourner la réponse ou nier des faits pourtant documentés. Une forme de censure soft, présentée comme de la prudence éthique, mais qui s’apparente à de la désinformation contrôlée .

L’étude insiste également sur un point fondamental trop souvent négligé : ChatGPT ne « comprend » pas ce qu’il produit. Il ne fait que prédire la suite la plus probable d’un texte, en fonction de milliards de paramètres appris sur des corpus massifs. Cette absence de compréhension réelle explique que, malgré des performances bluffantes, l’IA reste vulnérable aux manipulations, aux erreurs logiques et aux réponses incohérentes.

Pire : cette limite structurelle peut être exploitée par des utilisateurs malveillants pour forcer ChatGPT à contourner ses propres garde-fous – ce que les chercheurs démontrent à travers des exemples de « jailbreaking » (piratage de la sécurité du modèle) encore possibles, même sur GPT-4.

Les implications politiques : un pouvoir algorithmique incontrôlé

Au-delà de la technique, l’étude soulève une question politique majeure : que se passe-t-il lorsqu’un outil aussi influent que ChatGPT commence à produire en masse des réponses biaisées, filtrées ou orientées ? Lorsque des millions d’élèves, d’étudiants, de cadres ou de journalistes s’appuient sur lui pour apprendre, comprendre ou écrire, l’IA ne devient-elle pas un acteur idéologique de premier plan ?

Les chercheurs alertent sur les dérives possibles d’un tel monopole cognitif. Car OpenAI, entreprise privée américaine, fixe seule les règles de son IA, sans contrôle démocratique, sans transparence réelle sur les filtres appliqués, et sans recours possible en cas d’erreur ou de censure abusive.

En résumé, ChatGPT, loin d’être un outil neutre, devient une sorte de clergé algorithmique, qui dit le bien et le mal, ce qui peut être dit ou non, ce qui est « vrai » ou « dangereux » – au nom d’une morale implicite imposée à tous .

Quelles réponses pour les citoyens et les États ?

L’étude ne se contente pas d’un constat critique : elle appelle à une prise de conscience et à des mesures concrètes. Parmi les pistes évoquées :

• Transparence des filtres et des règles d’alignement : il faut que les utilisateurs puissent savoir pourquoi certaines réponses sont bloquées ou orientées.
• Pluralité des modèles IA : encourager le développement de modèles alternatifs, décentralisés ou nationaux, capables de représenter d’autres visions du monde.
• Contrôle démocratique : mettre en place des instances indépendantes capables d’auditer les modèles, de veiller au respect des pluralismes et de protéger la souveraineté cognitive des citoyens.
• Formation du public : développer l’esprit critique face aux IA, en expliquant leurs limites, leurs biais et leurs effets culturels.

Car au fond, la véritable question n’est pas de savoir si ChatGPT est « méchant » ou « gentil ». Mais de savoir qui le contrôle, avec quelles intentions, et quelles conséquences cela a sur la liberté intellectuelle et culturelle des peuples.

ChatGPT : une étude qui interroge… mais qui n’est pas sans zones d’ombre

L’immense majorité des tests ont été menés en anglais, avec un cadre culturel implicite : celui des campus américains, des sensibilités progressistes, des débats politiques propres aux États-Unis. Lorsque les chercheurs évoquent les réponses de ChatGPT sur l’immigration ou le genre, c’est souvent à travers le prisme de la société nord-américaine.

Or, ChatGPT est utilisé partout dans le monde, y compris en France et en Europe, avec d’autres référentiels culturels, juridiques et politiques. L’étude reconnaît ce biais, mais ne l’explore pas : les tests en chinois, en arabe, en espagnol ou en français sont quasi inexistants. Et c’est un problème majeur pour qui veut juger de l’« alignement mondial » d’un outil présenté comme universel.

Autre fragilité : de nombreuses évaluations sont réalisées manuellement, par des humains, sans toujours indiquer le niveau d’accord entre les annotateurs. Par exemple, lorsqu’on classe une réponse comme étant « biaisée », « dangereuse » ou « correcte », qui décide ? Et selon quels critères ?

Dans certains cas, les chercheurs eux-mêmes semblent confondre refus de répondre par prudence et censure idéologique. À d’autres moments, ils jugent négativement des réponses qu’un autre évaluateur aurait peut-être considérées comme acceptables. Il y a donc une part de subjectivité, inévitable dans ce genre d’exercice, mais peu explicitée dans l’analyse finale.

L’étude pointe du doigt deux paradoxes intéressants :

• D’un côté, ChatGPT peut encore être « jailbreaké » avec des techniques simples (ruses linguistiques, déguisement de requêtes, rôle-playing).
• De l’autre, le modèle GPT-4, censé être le plus sûr, refuse parfois de répondre à des requêtes parfaitement licites ou neutres, par excès de prudence.

Ce double phénomène témoigne d’un problème plus profond : l’alignement n’est pas une science exacte. À force de vouloir éviter les controverses, GPT-4 devient parfois frileux, rigide, inapte à fournir des réponses nuancées sur des sujets complexes. Et paradoxalement, il reste vulnérable aux attaques déguisées.

Un équilibre encore instable, que l’étude observe sans toujours proposer de solution claire.

L’étude reconnaît que les réponses de GPT-4 reflètent des biais politiques et culturels, avec une tendance marquée à épouser les thèses libérales-progressistes dominantes dans les milieux technologiques. Par exemple :

• ChatGPT accepte plus facilement de fournir des arguments en faveur de l’immigration que contre.
• Il refuse souvent d’adopter une perspective conservatrice sur des sujets de société.
• Il accepte plus volontiers des caricatures d’un côté du spectre politique que de l’autre.

Mais au lieu d’en faire un sujet central, les chercheurs semblent se contenter de constater ces biais sans en tirer de conséquences politiques ou philosophiques majeures. Pas un mot sur les implications en matière de liberté d’expression, d’autonomie des utilisateurs, ou de pluralisme dans l’IA.

On peut dès lors se demander : sur quels critères l’IA décide-t-elle ce qui est acceptable ou non ? Et qui les fixe ?

Enfin, l’étude rappelle un point crucial, trop souvent oublié : ChatGPT n’a ni conscience, ni opinion, ni compréhension. Il prédit des mots selon des probabilités statistiques. Il peut donc générer des réponses convaincantes… mais absurdes, contradictoires, ou potentiellement dangereuses, simplement parce que la formulation « sonne bien ».

Cette illusion de compétence, renforcée par un langage fluide et poli, crée un phénomène d’« overtrust » : les utilisateurs ont tendance à croire ce que dit l’IA, même quand c’est faux. L’étude évoque ce risque, mais ne mesure pas son ampleur réelle, notamment chez les plus jeunes ou les publics peu formés.

En conclusion, l’étude sur la sécurité de ChatGPT est précieuse par la masse de données qu’elle rassemble et les failles qu’elle met au jour. Elle offre une photographie riche et inquiétante de l’état actuel des IA génératives. Mais elle n’est pas neutre. Et elle ne dit pas tout.

Elle néglige la diversité des usages, oublie des pans entiers du globe, passe rapidement sur les enjeux de contrôle idéologique, et fait parfois preuve d’une rigueur variable dans l’évaluation des réponses.

À l’heure où ChatGPT et ses concurrents s’invitent dans nos foyers, nos entreprises, nos écoles, il est indispensable que ce débat sur la sécurité, la censure et les biais de l’IA soit mené de manière ouverte, pluraliste et critique.

L’étude actuelle, malgré ses mérites, ne saurait suffire à clore la discussion. Elle doit en être le début.

Crédit photo : DR (photo d’illustration)
[cc] Breizh-info.com, 2025, dépêches libres de copie et de diffusion sous réserve de mention et de lien vers la source d’origine