Grok bloque la production d’images sexuelles mais les enquêtes se poursuivent

Le chatbot d’intelligence artificielle Grok, développé par xAI et intégré à la plateforme X d’Elon Musk, a récemment restreint ses capacités de création et d’édition d’images susceptibles de sexualiser des personnes réelles, alors qu’un nombre croissant de deepfakes non consensuels ont été générés en ligne. Selon la société, Grok ne peut plus modifier ou produire des images de personnes en tenues révélatrices, comme en bikinis ou sous-vêtements, dans les juridictions où ce type de contenu est illégal, et ces restrictions s’appliquent même aux abonnés payants.

Cette décision intervient après un tollé international et une enquête officielle ouverte par le procureur général de Californie, Rob Bonta, qui examine si xAI a enfreint la loi en facilitant la large production d’images sexuelles explicites non consensuelles impliquant femmes et enfants. Dans un communiqué, Bonta a dénoncé une « avalanche » de signalements quant à l’utilisation de Grok à ces fins sans consentement des personnes représentées.

Malgré les mesures de limitation annoncées par xAI, les régulateurs internationaux, dont les autorités britanniques et européennes, ainsi que plusieurs pays d’Asie du Sud-Est, poursuivent leurs enquêtes ou ont déjà pris des mesures restrictives contre Grok. Certains gouvernements ont bloqué l’accès à l’outil, tandis que d’autres exigent des explications détaillées sur les garde-fous déployés pour prévenir toute exploitation abusive à des fins sexuelles ou illégales.

Critiques et défenseurs de la technologie s’accordent sur un point : si les outils d’IA comme Grok peuvent offrir des avancées créatives, leur explosion d’usage sans garde-fous solides pose des défis éthiques et juridiques majeurs, notamment en matière de respect de la vie privée et de protection des mineurs.