La Malaisie et l'Indonésie bloquent Grok de Musk en raison de deepfakes explicites

Blocage de Grok en Malaisie et en Indonésie

La Malaisie et l'Indonésie ont récemment bloqué l'accès à Grok, un chatbot d'intelligence artificielle (IA) d'Elon Musk, en raison de sa capacité à produire des deepfakes sexuels explicites. Cette décision fait de ces pays les premiers au monde à interdire cet outil, qui permet de générer des images, souvent utilisées pour modifier des photos de personnes réelles.

Les gouvernements de ces pays ont exprimé des inquiétudes quant à l'utilisation de Grok pour créer des images pornographiques et non consensuelles, impliquant potentiellement des femmes et des enfants. Cette situation a suscité une pression croissante pour interdire Grok au Royaume-Uni, où la secrétaire à la technologie a également exprimé son soutien à cette initiative.

Réactions officielles et mesures prises

Les ministères des communications de la Malaisie et de l'Indonésie ont annoncé leur décision de bloquer Grok dans des communiqués distincts. La Commission malaisienne des communications et du multimédia a indiqué avoir prévenu X plus tôt dans l'année, en raison de l'usage répété de Grok pour générer du contenu nuisible.

En réponse, X n'a pas abordé les risques inhérents à la conception de sa plateforme, se concentrant plutôt sur le processus de signalement pour les utilisateurs. Les autorités ont précisé que Grok restera bloqué jusqu'à ce que des mesures de sécurité efficaces soient mises en place.

Conséquences pour les utilisateurs

L'utilisation de Grok pour produire du contenu sexuellement explicite a été qualifiée de violation des droits humains et de la dignité, selon Meutya Hafid, ministre indonésien des communications. Ce dernier a également demandé des éclaircissements à Musk concernant l'utilisation de Grok.

Des utilisateurs indonésiens de X ont signalé avoir découvert des images manipulées les représentant sur la plateforme, suscitant colère et frustration. Kirana Ayuningtyas, une utilisatrice en fauteuil roulant, a partagé son expérience où un inconnu a demandé à Grok de la montrer en bikini, ce qui l'a profondément embarrassée.

Réactions internationales et soutien à l'interdiction

Le recours à Grok pour générer des images sexualisées a été condamné par des dirigeants du monde entier. Le Premier ministre britannique, Keir Starmer, a qualifié cette pratique de « honteuse » et de « dégoûtante ». La secrétaire à la technologie du Royaume-Uni a également soutenu une éventuelle interdiction de X pour non-respect des lois sur la sécurité en ligne.

Elle a précisé que la loi britannique sur la sécurité en ligne permet de bloquer l'accès à des services qui ne respectent pas la législation. Si Ofcom décide d'utiliser ces pouvoirs, elle a assuré qu'elle bénéficierait d'un soutien total.

Conclusion

Le blocage de Grok par la Malaisie et l'Indonésie soulève des questions importantes sur la sécurité en ligne et les droits des utilisateurs. Alors que la technologie évolue, il est crucial de mettre en place des protections adéquates pour prévenir les abus. Les réactions internationales pourraient influencer la manière dont les plateformes gèrent de tels outils à l'avenir.