Ofcom enquête sur X d'Elon Musk concernant les deepfakes sexuels de Grok Ai

Enquête d'Ofcom sur X d'Elon Musk

Ofcom a lancé une enquête concernant X, la plateforme d'Elon Musk, en raison de préoccupations liées à son outil d'IA, Grok. Ce dernier serait utilisé pour créer des images sexualisées, suscitant des inquiétudes majeures parmi le public et les autorités. Le régulateur britannique a rapporté des cas alarmants d'images de personnes dénudées, ainsi que des représentations inappropriées d'enfants.

Conséquences potentielles pour X

Si X est reconnu coupable d'avoir enfreint la loi, Ofcom pourrait lui imposer une amende atteignant 10 % de son chiffre d'affaires mondial, ou 18 millions de livres, selon le montant le plus élevé. Cette menace de sanctions financières souligne la gravité de la situation. De plus, si X ne se conforme pas aux demandes d'Ofcom, le régulateur pourrait demander une ordonnance judiciaire pour bloquer l'accès à la plateforme au Royaume-Uni.

Des exemples d'images altérées ont été observés sur X, où des femmes apparaissent dénudées et placées dans des positions sexuelles sans leur consentement. Une femme a déclaré qu'au moins 100 images sexualisées avaient été créées à son insu, ce qui soulève des questions éthiques et légales sur l'utilisation de l'IA.

Réactions des autorités

Le secrétaire à la technologie, Liz Kendall, a exprimé son soutien à l'enquête d'Ofcom, soulignant l'importance d'une réponse rapide. Elle a déclaré que le public, et surtout les victimes, ne tolérerait pas de retards dans cette affaire. Son prédécesseur, Peter Kyle, a qualifié la situation de révoltante, notamment en raison de cas d'images inappropriées générées par l'IA, comme celle d'une femme juive avec une image de bikini à Auschwitz.

Ofcom examinera si X a tardé à retirer du contenu illégal et s'il a pris des mesures appropriées pour empêcher la diffusion d'images inappropriées au Royaume-Uni. Les types de contenu illégal incluent les images intimes non consensuelles et les représentations sexuelles d'enfants.

Réactions internationales et préoccupations

Cette enquête fait suite à un recul mondial face à la fonctionnalité de création d'images de Grok, avec des pays comme la Malaisie et l'Indonésie ayant temporairement bloqué l'accès à cet outil. Un porte-parole d'Ofcom a affirmé que cette enquête était une priorité absolue et que la plateforme devait protéger les utilisateurs au Royaume-Uni contre le contenu illégal.

Les autorités ont insisté sur le fait qu'elles n'hésiteraient pas à enquêter sur les entreprises qui ne respectent pas leurs obligations, surtout lorsqu'il y a un risque de dommages pour les enfants. La situation actuelle met en lumière les défis éthiques et légaux posés par l'intelligence artificielle dans le domaine de la création de contenu.

Conclusion

En résumé, l'enquête d'Ofcom sur X d'Elon Musk met en évidence des préoccupations sérieuses concernant l'utilisation de l'IA pour générer des contenus inappropriés. Les conséquences potentielles pour la plateforme pourraient être significatives, tant sur le plan financier que sur sa réputation. Il est essentiel que des mesures soient prises rapidement pour protéger les utilisateurs, en particulier les plus vulnérables.