Deepfakes sexuels : l’Irlande ouvre une enquête contre Grok, l’IA d’Elon Musk sous pression européenne

L’étau réglementaire se resserre autour de Grok, le chatbot développé par xAI et intégré au réseau social X. L’autorité irlandaise de protection des données (Data Protection Commission, DPC) a annoncé l’ouverture d’une enquête d’ampleur visant à déterminer si l’outil d’intelligence artificielle a enfreint le Règlement général sur la protection des données (RGPD) de l’Union européenne.

Cette procédure est menée au nom de l’ensemble des États membres, l’Irlande étant compétente en raison du siège européen de X, basé à Dublin.

Une enquête au titre du RGPD

La DPC a indiqué examiner si Grok respecte les obligations fondamentales imposées par le RGPD en matière de traitement des données personnelles. En cas de manquements avérés, les sanctions pourraient atteindre jusqu’à 4 % du chiffre d’affaires mondial de l’entreprise.

Parallèlement, une autre procédure est engagée au niveau européen sur le fondement du Digital Services Act (DSA), le règlement qui encadre les responsabilités des grandes plateformes numériques en matière de contenus illégaux ou nuisibles. Cette seconde enquête pourrait, le cas échéant, conduire à des amendes allant jusqu’à 6 % des revenus globaux.

Des images sexualisées de femmes… et de mineurs

La controverse est née après la publication, en janvier, d’une analyse conduite par l’organisation AI Forensics. L’étude, portant sur plus de 20 000 images générées par Grok, a mis en évidence une proportion importante de visuels représentant des personnes en tenue très légère. Selon les auteurs du rapport, la majorité des sujets étaient des femmes et environ 2 % semblaient être mineurs.

Le mode dit « Spicy Mode » du chatbot permettait en effet, à partir d’instructions simples, de produire des images à caractère sexuel, y compris à partir de photographies de personnes réelles. Ces fonctionnalités ont suscité une vague de critiques internationales.

Plusieurs gouvernements, dont la Malaisie et l’Indonésie, ont exercé des pressions sur xAI, certains allant jusqu’à bloquer l’accès au service sur leur territoire.

Face aux critiques, X a annoncé des restrictions. Grok ne peut plus « déshabiller » des personnes réelles sur la base d’images existantes et la génération d’images est désormais réservée aux utilisateurs payants.

Ces ajustements n’ont toutefois pas suffi à désamorcer les inquiétudes des autorités européennes, qui rappellent que les grandes plateformes doivent anticiper et prévenir la diffusion de contenus illicites ou portant atteinte aux droits fondamentaux.

Un nouveau front entre l’UE et Washington

L’affaire intervient dans un contexte déjà tendu entre Bruxelles et Washington. L’administration américaine a régulièrement accusé l’Union européenne de cibler de manière disproportionnée les entreprises technologiques américaines et de restreindre la liberté d’expression.

Elon Musk, proche du président Donald Trump, se retrouve ainsi au cœur d’un bras de fer politico-juridique plus large sur la régulation du numérique. Les autorités irlandaises, de leur côté, poursuivent également une enquête distincte sur l’utilisation de données personnelles pour l’entraînement des modèles d’intelligence artificielle de X.

Au-delà du cas Grok, c’est la question de la responsabilité des outils génératifs qui est posée : jusqu’où peut aller la liberté d’innovation technologique lorsque sont en jeu la dignité des personnes, la protection des mineurs et le respect des données personnelles ?

L’Union européenne semble déterminée à tester, concrètement, l’efficacité de son arsenal réglementaire face aux géants de l’IA.