"Insuffisant et hypocrite": en plein scandale des images sexualisées de Grok, un rapport sur les dérives des réseaux sociaux entend encadrer plus fermement les IA

Parmi les 78 recommandations du rapport remis au gouvernement par Arthur Delaporte et Stéphane Vojetta lundi 12 janvier, l'une d'entre elles propose d'encadrer plus fermement les intelligences artificielles génératives. Une mesure phare, alors que Grok est sous le feu des critiques pour avoir généré de fausses images de personnes dénudées sans leur consentement.

Encadrer avec "fermeté" les intelligences artificielles génératives. C'est l'ambition de la ministre du numérique Anne Le Hénanff. Ce lundi 12 janvier, Arthur Delaporte, député PS du Calvados, et Stéphane Vojetta, ancien député Renaissance, ont remis au Premier ministre Sébastien Lecornu un rapport accompagné de 78 recommandations "pour combler les angles morts de la régulation" sur le numérique.

Au programme, des mesures pour mieux encadrer les plateformes de jeux vidéo, les lives, Tiktok Shop, les discours masculinistes, ou encore Onlyfans et même l'intelligence artificielle.

"Insuffisant et hypocrite"

"Nous devons aujourd’hui encadrer les intelligences artificielles génératives avec la même fermeté que les réseaux sociaux", insiste Anne Le Hénanff, lors d'une conférence de presse, mardi 13 janvier. "Nous ne pouvons évidemment pas tolérer que des outils d’IA comme Grok dénudent des femmes sans leur consentement."

C'est tous les jours Demanche : Grok déshabille les femmes sans leur consentement ! - 07/01

5:15

En effet, dès fin décembre, de nombreux utilisateurs de X, le réseau social d'Elon Musk, ont découvert qu’ils pouvaient taguer l'IA Grok pour modifier des images publiées sur la plateforme. Au départ, les utilisateurs ont demandé à l'IA de "mettre en bikini" des personnalités publiques. Rapidement, des requêtes pour "déshabiller numériquement" des femmes se sont multipliées, notamment des célébrités ou des mineurs. Le tout, sans leur consentement, bien entendu.

Face à la vague de critiques, xAI, maison mère de Grok; a finalement désactivé son outil permettant de dénuder des personnes... mais uniquement pour les utilisateurs non-abonnés. Une décision taclée par la ministre. "C'est évidemment insuffisant et hypocrite", lance-t-elle. "Si Grok peut supprimer cette fonctionnalité pour ses non-abonnés, elle doit le faire pour tous. Encore une fois, les premières cibles en ligne sont bien souvent les jeunes femmes", ajoute-t-elle.

Interdire la production de ces contenus

La France entend donc prendre des mesures concrètes. Le rapport d'Arthur Delaporte et Stéphane Vojetta dédie justement un volet à la régulation de l'IA. La proposition numéro 22 du rapport entend proscrire les fonctionnalités de nudification permettant de générer des deepfakes à caractère sexuel.

"Aujourd'hui, ce qui est interdit dans le droit, c'est la diffusion de contenus de nudification sans consentement par IA", rappelle le député du Calvados. Pour rappel, la diffusion de montages à caractère sexuel sans consentement est passible de deux ans de prison et de 60.000 euros d’amende. "Mais nous n'avons pas interdit la production de ces contenus."

Certaines des 78 propositions devraient "se traduire en actes" dans les prochaines semaines, a promis Anne Le Hénanff. D'ici quelques semaines, une feuille de route opérationnelle devrait être présentée.

La pression monte à l'international

Dès le 2 janvier, le gouvernement a saisi la justice. La plateforme Pharos a également été saisie pour retirer les contenus, ainsi que l'Arcom. Les signalements d'Arthur Delaporte et Eric Bothorel (apparenté Ensemble pour la République) ont conduit à l’élargissement d’une enquête déjà en cours.

De son côté, la Haute commissaire à l'Enfance française, Sarah El Haïry, a saisi la commissaire européenne à la souveraineté numérique. "Ça tombe sous le coup de la loi! On a l'impression que c'est tellement puissant qu'on ne peut pas l'interdire, c'est faux. Une IA qui déshabille des enfants n'a rien d'un jeu: c'est hors la loi", insiste-t-elle auprès du Parisien.

La France n'est pas le seul pays à agir. Jeudi 8 janvier, la Commission européenne a annoncé avoir imposé une mesure conservatoire à la plateforme d'Elon Musk. Il s'agit d'une mesure juridique qui impose à X "de conserver tous ses documents internes relatifs à Grok, et ce jusqu'à la fin 2026", a détaillé un porte-parole de la Commission.

L'entreprise fait également l'objet d'enquêtes en Indonésie et en Malaisie. Après avoir ouvert une enquête formelle sur X à la suite de ces images sexualisées générées par Grok, le Royaume-Uni va mettre en application une loi criminalisant la création de ces contenus dès la semaine du 13 janvier.