GROK est une Intelligence artificielle (IA) créée par Elon Musk et intégrée au réseau social X. Parmi ses nombreuses fonctionnalités, il y’en a une qui fait polémique depuis un certains temps car elle permet de générer des images de personnes réelles dénudées sans leurs consentements et sans même qu’elles ne soient informées.

Comment ça fonctionne ? Il suffit de faire la demande à l’IA avec la photo de la personne en précisant par exemple « déshabille la »,« met la en maillot de bain » ou toutes sortes de requêtes pouvant traverser votre imagination. Grok s’exécute immédiatement en vous proposant diverses images de la personne dénudée.

L’IA a été dénoncée de sexualiser les femmes et les enfants. Des chercheurs ont remarqués que de nombreuses images sexuelles générées concernent des enfants.

Face à ces dénonciations, l’entreprise a décidé de faire passer cette fonctionnalité en version payante. Ce que la ministre chargée des affaires numériques en France qualifie « d’hypocrite et insuffisant » et fustige la monétisation du scandale par Elon Musk. La société X aurait commencé à supprimer plusieurs images scandaleuses ainsi que plusieurs comptes.

De nombreux pays mènent actuellement des enquêtes sur Grok et ont restreint l’utilisation du chatbot. Ursula Von der Leyen a affirmé que la commission « ne sous-traitera pas la protection des enfants et le consentement à la Sillicon Valley ». S’ils n’agissent pas, nous le ferons".