Elon Musk's X va bloquer l'outil d'IA Grok pour empêcher le déshabillage d'images de vraies personnes après une réaction négative.

Interdiction de Grok pour l'édition d'images de personnes réelles

Le modèle d'intelligence artificielle de Elon Musk, Grok, ne pourra plus modifier les photos de personnes réelles pour les montrer en vêtements révélateurs. Cette décision fait suite à une inquiétude généralisée concernant les deepfakes sexuels, notamment au Royaume-Uni et aux États-Unis.

Dans une annonce sur X, la plateforme qui opère l'outil Grok, il a été précisé : "Nous avons mis en place des mesures technologiques pour empêcher le compte Grok d'éditer des images de personnes réelles en vêtements révélateurs tels que des bikinis." Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants.

Réactions face aux deepfakes sexuels

Cette décision a été annoncée quelques heures après que le procureur général de Californie, Rob Bonta, a déclaré que l'État enquêtait sur la propagation des deepfakes sexuels, y compris ceux impliquant des enfants. Il a souligné que "ce matériel, qui dépeint des femmes et des enfants dans des situations nues et sexuellement explicites, a été utilisé pour harceler des personnes sur Internet."

Des pays comme la Malaisie et l'Indonésie ont déjà bloqué l'accès à Grok à cause de ces images. De plus, le Premier ministre britannique, Sir Keir Starmer, a averti que X pourrait perdre son "droit à l'auto-régulation" face à l'indignation suscitée par ces images générées par l'IA.

Mesures prises par X

Pour répondre à cette crise, X a rapidement agi pour limiter les capacités de Grok. Les utilisateurs de la plateforme doivent maintenant être conscients des restrictions mises en place pour protéger les individus, en particulier les plus vulnérables. Ces mesures visent à prévenir toute forme d'abus et à garantir un environnement en ligne plus sûr.

La situation continue d'évoluer, et d'autres détails devraient être publiés prochainement. Il est essentiel de suivre les développements pour comprendre pleinement l'impact de cette décision sur l'utilisation de l'intelligence artificielle.

Conclusion

En résumé, la décision d'interdire à Grok d'éditer des images de personnes réelles en vêtements révélateurs est une réponse nécessaire aux préoccupations croissantes concernant les deepfakes sexuels. Les mesures prises par X montrent une volonté de protéger les utilisateurs et de répondre aux critiques. La vigilance demeure essentielle alors que la technologie continue d'évoluer.