Le réseau social X impose des limites strictes sur Grok : les images dénudées par IA désormais interdites
Face à une forte indignation mondiale et à la pression d’organismes de divers pays, la plateforme dirigée par Elon Musk a décidé d’interdire à son assistant IA de générer des images de personnes réelles dénudées. Ce blocage est appliqué dans les zones où la législation l’exige.
Le réseau social X a communiqué, le mercredi 14 janvier, qu’il avait pris des dispositions pour « empêcher » son outil d’intelligence artificielle (IA) Grok de créer des images de personnes réelles dans des tenues suggestives, telles que des bikinis, en réponse à une vaste réprobation publique et à la pression des autorités.
« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles dans des tenues révélatrices, comme des bikinis », a précisé le réseau social dans un post partagé sur sa plateforme.
Cette limitation concerne tous les utilisateurs, y compris ceux qui paient un abonnement, alors que depuis le 9 janvier, la génération d’images via Grok, l’assistant IA créé par xAI, avait été restreinte aux seuls abonnés payants, une initiative jugée insuffisante par de nombreux critiques.
Cependant, le message de la plateforme laisse subsister une certaine ambiguïté, car il indique qu’un blocage géographique est mis en place là où la loi l’exige.
Lire en complément: L’échec du métavers : Meta arrête les frais après 70 milliards d’investissements
Enquêtes judiciaires en cours
Début janvier, la plateforme avait déclaré qu’elle prenait des mesures contre les contenus illégaux, en particulier ceux d’ordre pédopornographique, en les supprimant, en suspendant des comptes de manière définitive et en collaborant avec les autorités locales.
Néanmoins, elle était restée muette face à l’augmentation des protestations officielles et à l’ouverture d’enquêtes judiciaires ou administratives.
La Commission européenne a annoncé, le jeudi 8 janvier, avoir imposé une mesure conservatoire à X, suivie par l’Ofcom, l’autorité britannique de régulation des télécommunications, qui a révélé, le lundi 12 janvier, avoir lancé une enquête formelle contre le réseau social X.
Des doutes sur les mesures de la plate-forme de Musk
L’Union européenne (UE) et le Royaume-Uni ont accueilli ces nouvelles mesures annoncées par X avec prudence, peu avant leur publication officielle.
« Nous prenons acte des mesures supplémentaires adoptées par X » et « nous évaluerons attentivement ces changements afin de nous assurer qu’ils protègent efficacement les citoyens de l’UE », a déclaré Thomas Regnier, porte-parole de la Commission européenne.
« J’ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique », a affirmé le premier ministre britannique, Keir Starmer, devant son Parlement.
Pas de tolérance
Une étude réalisée par l’ONG AI Forensics, basée sur plus de 20 000 images produites par Grok et publiée la semaine dernière, révèle que plus de la moitié d’entre elles montraient des personnes légèrement vêtues, dont 81 % étaient des femmes et 2 % semblaient être des mineures. Vingt-huit ONG ont, en date de mercredi, signé l’appel de l’organisation féministe Ultraviolet demandant à Google et Apple de retirer Grok et X de leurs boutiques d’applications.
Rob Bonta, le procureur général de Californie et un élu démocrate opposé aux tentatives de l’administration Trump de freiner la régulation de l’IA, a exprimé, mercredi, sa volonté d’exhorter « xAI à prendre des mesures immédiates pour que cela ne se reproduise plus », annonçant l’ouverture de sa propre enquête « afin de déterminer si, et comment, xAI a violé la loi ».
Le procureur, qui vise sa réélection en novembre prochain pour un deuxième mandat, défend « une tolérance zéro pour la création et la diffusion par l’IA d’images intimes non consenties ou de matériel pédopornographique ».
« Le principe de fonctionnement de Grok est de respecter les lois de chaque pays et de chaque État », a écrit Elon Musk sur X, en ajoutant qu’il « peut arriver que des tentatives de piratage malveillantes entraînent un comportement inattendu. Le cas échéant, nous corrigeons le bug immédiatement ».
M. Musk, qui se prononce publiquement tous les jours sur X, critique régulièrement les régulations mises en place par les gouvernements, les accusant de vouloir « supprimer la liberté d’expression ». Il avait déjà réagi la semaine passée sur sa plateforme, en déclarant que quiconque utilisait Grok pour « créer du contenu illégal subira les mêmes conséquences que si elle mettait en ligne du contenu illégal ».
