L'Indonésie menace de bloquer l'IA Grok pour contenus inappropriés
L'Indonésie envisage d'interdire Grok d'Elon Musk suite à des images dégradantes de femmes et d'enfants.
Le ministère indonésien des Communications a annoncé mercredi sa menace de bloquer la plateforme X d’Elon Musk et son chatbot d’intelligence artificielle, Grok, à la suite de la diffusion croissante d'images dégradantes de femmes et d'enfants générées sans consentement sur le réseau social.
Grok est accusé de répondre aux demandes des utilisateurs de X en modifiant des images réelles de femmes et d’enfants, les réduisant à être vêtus uniquement de sous-vêtements. Ce phénomène, devenu viral, suscite une vive inquiétude à l’échelle mondiale.
Une enquête révélatrice
Une enquête préliminaire menée par le ministère a révélé que Grok " ne dispose pas encore de réglementations explicites et adéquates pour empêcher la production et la distribution de contenus pornographiques basés sur des photos réelles " de citoyens indonésiens, selon un communiqué du ministère des Communications et des Affaires numériques.
L’Indonésie, connue pour ses lois strictes contre la production et la diffusion de contenu pornographique, a rappelé que les fournisseurs de services numériques opérant sur son territoire devaient impérativement respecter ses réglementations. " L'obligation de se conformer aux lois et réglementations indonésiennes s'applique à toutes les plateformes numériques opérant en Indonésie ", a insisté le ministère.
En cas de non-respect ou de coopération insuffisante, les autorités indonésiennes ont averti qu’elles pourraient imposer des sanctions administratives, y compris la suspension de l'accès aux services d'IA de Grok et à la plateforme X.
Des chiffres alarmants
L'inquiétude s’est amplifiée après une mise à jour du chatbot en décembre, facilitant la soumission de photographies par les utilisateurs pour demander la suppression de vêtements sur les images. Un rapport publié mardi par l’organisation européenne à but non lucratif AI Forensics a révélé que Grok " déshabille systématiquement les femmes ".
L’analyse de 20 000 images générées par Grok entre le 25 décembre et le 1er janvier a montré que 53 % d’entre elles contenaient des individus en tenue minimale, dont 81 % étaient des femmes. Par ailleurs, 2 % des photos représentaient des personnes semblant avoir 18 ans ou moins.
Mesures et appels à la responsabilité
Le ministère indonésien des Communications a également rappelé que les prestataires de services d’IA, ainsi que leurs utilisateurs, s’exposaient à des sanctions administratives ou pénales s’ils produisaient ou diffusaient des contenus pornographiques, ou modifiaient des images personnelles sans autorisation.
" Chaque plateforme numérique doit s'assurer que la technologie qu'elle propose ne devienne pas un moyen de violation de la vie privée, d'exploitation sexuelle ou de dégradation de la dignité d'une personne ", a déclaré Alexander Sabar, directeur général de l’espace numérique au ministère.
Il a ajouté : " Nous exhortons toutes les parties à utiliser la technologie d’intelligence artificielle de manière responsable. L’espace numérique n’est pas un espace sans loi ; la vie privée et le droit à l’image de chaque citoyen doivent être respectés et protégés. "
Une pression croissante à l’échelle mondiale
L’Indonésie rejoint ainsi une liste croissante de pays, dont la Malaisie, l’Inde et la France, qui réclament des enquêtes ou envisagent des actions contre Grok. Ces initiatives traduisent des préoccupations croissantes concernant les usages inappropriés des technologies d’intelligence artificielle et les éventuelles violations de droits fondamentaux qu’elles peuvent engendrer.
Yohann B.
