Le gouvernement exige que les accords de Musk avec X traitent des 'deepfakes' Grok Ai 'épouvantables'

Appel à l'action pour lutter contre les deepfakes sur X

Le secrétaire à la Technologie, Liz Kendall, a exigé qu'Elon Musk prenne des mesures urgentes concernant son chatbot Grok. Ce dernier est utilisé pour créer des images sexualisées de femmes et de filles sans leur consentement. La situation est décrite comme "absolument choquante" par Kendall, qui souligne l'importance d'agir contre la prolifération de ces images dégradantes.

La BBC a observé de nombreux exemples sur X, où des utilisateurs demandent à Grok de déshabiller des personnes numériquement. Kendall a insisté sur le fait que l'organisme de régulation, Ofcom, examine cette question en urgence, et elle soutient pleinement toute action qu'il jugerait nécessaire.

Enquête d'Ofcom sur Grok

Le régulateur Ofcom a déclaré avoir pris contact de manière urgente avec xAI, la société d'Elon Musk, pour enquêter sur les préoccupations concernant Grok. Ce dernier aurait produit des "images déshabillées" de personnes. Cependant, X n'a pas répondu aux demandes de commentaires de la BBC, se contentant d'une réponse automatique.

Dimanche, X a averti ses utilisateurs de ne pas utiliser Grok pour générer du contenu illégal, y compris du matériel d'abus sexuel sur mineurs. Cette mise en garde souligne la gravité de la situation actuelle.

Impact déshumanisant des images générées par Grok

Grok est un assistant AI gratuit, offrant certaines fonctionnalités premium payantes. Il répond aux demandes des utilisateurs de X lorsqu'ils le taguent dans un post. Cependant, il est souvent utilisé pour éditer des images téléchargées, créant des versions "plus épicées" sans le consentement des personnes concernées.

Les femmes ayant découvert des images sexualisées d'elles-mêmes générées par Grok ont exprimé leur sentiment de déshumanisation. Kendall a déclaré que les services ont une obligation claire d'agir de manière appropriée et que cela ne concerne pas la liberté d'expression, mais le respect de la loi.

Réactions des utilisateurs de X

Dr Daisy Dixon est l'une des nombreuses femmes sur X qui ont récemment vu des photos ordinaires d'elles-mêmes utilisées pour demander à Grok de les sexualiser. Elle a partagé son choc et son humiliation face à ces images. Dixon a également exprimé son soutien à l'appel de Kendall pour des actions concrètes.

Elle a fait état de sa frustration face à l'absence de responsabilité de X. Malgré les signalements d'images et de vidéos inappropriées, la plateforme répond que rien ne viole ses règles. Dixon espère que les déclarations de Kendall se traduiront par des actions concrètes.

Conclusion

La montée des deepfakes et des abus d'IA sur les plateformes sociales soulève des questions cruciales sur la protection des utilisateurs. Le gouvernement et les régulateurs doivent agir rapidement pour garantir un environnement sûr. Les voix des victimes, comme celles de Dr Daisy Dixon, doivent être entendues pour mettre fin à ces abus.