Images générées par l’IA : l’Indonésie bloque l’accès à Grok

L’Indonésie a temporairement bloqué l’accès à Grok, le chatbot d’intelligence artificielle (IA) développé par xAI et intégré à la plateforme X d’Elon Musk, invoquant les risques liés à la création de contenus sexuellement explicites et non consensuels générés par IA, notamment des images manipulées de femmes et d’enfants. Cette décision intervenait après que Grok a été critiqué pour permettre la production de deepfakes pornographiques, malgré des restrictions techniques mises en place par la société.

Selon le ministère indonésien des Communications, les deepfakes sexuels non consentis constituent une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique, justifiant une suspension jusqu’à ce que des mesures de modération plus robustes soient appliquées.

Cette action indonésienne s’inscrit dans une vague mondiale de réactions contre Grok, avec la Malaisie qui a également restreint son accès pour des motifs similaires et d’autres pays, dont le Royaume-Uni, envisageant des enquêtes sur la conformité de la plateforme aux lois sur la sécurité en ligne.

Les critiques estiment que les mécanismes actuels de signalement et de modération ne suffisent pas à prévenir les abus, malgré les tentatives de xAI de limiter les fonctions d’image aux utilisateurs payants, jugées insuffisantes par les régulateurs.