L'UE enquête sur X d'Elon Musk concernant les deepfakes sexuels de Grok AI
Enquête de l'UE sur X d'Elon Musk concernant Grok AI
La Commission européenne a lancé une enquête sur X, la plateforme d'Elon Musk, en raison de l'utilisation de son outil AI, Grok, pour créer des images sexualisées de personnes réelles. Cette décision fait suite à une annonce similaire faite en janvier par l'organisme de régulation britannique, Ofcom.
Si X est reconnu coupable d'avoir enfreint les règles de l'UE selon la Digital Services Act, la Commission pourrait infliger une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial. X a précédemment déclaré que la plateforme avait empêché Grok de modifier numériquement des images pour enlever des vêtements dans des "juridictions où ce contenu est illégal".
Réactions des responsables et des victimes
Regina Doherty, membre du parlement européen représentant l'Irlande, a indiqué que la Commission examinerait si des images manipulées sexuellement explicites avaient été montrées aux utilisateurs dans l'UE. Les défenseurs des droits et les victimes affirment que la capacité de générer de telles images avec cet outil ne devrait "jamais avoir eu lieu".
Ofcom a également précisé que son enquête restait en cours. Le régulateur de l'UE a averti qu'il pourrait "imposer des mesures provisoires" si X refusait d'apporter des ajustements significatifs.
Contexte et implications de l'enquête
Avant l'annonce de la Commission, Elon Musk a publié une image sur X, semblant se moquer des nouvelles restrictions entourant Grok. Le propriétaire de X a critiqué les personnes qui examinent la fonction de modification d'images de l'application, en particulier le gouvernement britannique, qualifiant cela de "prétexte à la censure".
Le compte Grok sur X a déclaré avoir généré plus de 5,5 milliards d'images en seulement 30 jours. D'autres enquêtes sur le chatbot de la plateforme sont en cours en Australie, en France et en Allemagne.
Déclarations sur la dégradation inacceptable
Henna Virkkunen, vice-présidente exécutive pour la souveraineté technologique, la sécurité et la démocratie à la Commission, a qualifié les deepfakes sexuels de "forme de dégradation violente et inacceptable". Elle a ajouté que cette enquête déterminera si X a respecté ses obligations légales en vertu de la DSA.
Doherty a souligné qu'il y avait des "questions sérieuses" concernant la capacité des plateformes comme X à respecter leurs obligations légales pour évaluer correctement les risques et prévenir la diffusion de contenu illégal et nuisible.
Conséquences possibles et réactions
Ce développement survient un mois après que l'UE a infligé une amende de 120 millions d'euros à X pour ses badges de vérification, affirmant qu'ils "trompent les utilisateurs" car l'entreprise ne vérifie pas de manière significative qui se cache derrière les comptes. En réponse, le secrétaire d'État américain Marco Rubio et la Federal Communications Commission ont accusé le régulateur de l'UE d'attaquer et de censurer les entreprises américaines.
Rubio a déclaré que l'amende de la Commission européenne n'était pas seulement une attaque contre X, mais une attaque contre toutes les plateformes technologiques américaines et le peuple américain par des gouvernements étrangers. Ses remarques ont été repostées par Musk, qui a ajouté "absolument".
Conclusion
Cette enquête met en lumière les défis croissants liés à l'utilisation des technologies AI et à la protection des droits des individus en ligne. Les résultats pourraient avoir des répercussions significatives sur la manière dont les plateformes gèrent le contenu généré par les utilisateurs, en particulier en ce qui concerne les deepfakes sexuels.
