Manipulation par Deepfake : L'identité d'une femme indienne volée pour du contenu érotique généré par l'IA

Introduction

La déception deepfake a pris une tournure inquiétante lorsque l'identité d'une femme indienne a été volée pour créer du contenu érotique basé sur l'intelligence artificielle. Cette affaire a révélé les dangers croissants de la technologie moderne et son impact sur la vie des individus.

Le phénomène Babydoll Archi

Babydoll Archi, une sensation sur Instagram, a rapidement gagné 1,4 million de followers grâce à des vidéos virales. L'une d'elles la montrait dans un sari rouge, dansant sur une chanson roumaine. Un autre post la montrait avec la star du film pour adultes Kendra Lust.

Malgré son succès fulgurant, il s'est avéré qu'il n'y avait pas de véritable femme derrière ce compte. Le visage utilisé était celui d'une femme réelle, Sanchi, une femme au foyer de Dibrugarh, Assam. L'escroquerie a été révélée après qu'un membre de sa famille ait déposé une plainte auprès de la police.

Les révélations de l'enquête

Les autorités ont arrêté Pratim Bora, l'ex-petit ami de Sanchi, qui avait créé le profil faux en utilisant des photos privées. Selon l'enquête, Bora a agi par pure vengeance après une rupture. Il a utilisé des outils d'intelligence artificielle pour générer des images et vidéos deepfake.

La police a saisi plusieurs appareils électroniques de Bora et a découvert qu'il avait monétisé le compte, gagnant jusqu'à 1 million de roupies. Sanchi, quant à elle, est en état de choc, mais reçoit désormais un soutien psychologique.

Les implications légales

Les autorités ont invoqué plusieurs articles de loi concernant le harcèlement sexuel, la distribution de matériel obscène et la cybercriminalité. Si Bora est reconnu coupable, il risque jusqu'à 10 ans de prison. Cette affaire a provoqué une indignation sur les réseaux sociaux, avec des appels à des lois plus strictes.

Meghna Bal, experte en intelligence artificielle, souligne que bien que des lois existent, il est crucial d'examiner la régulation des entreprises d'IA. Les deepfakes, bien que problématiques, ne sont pas intrinsèquement mauvais et nécessitent une législation soigneusement élaborée.

La réaction des plateformes sociales

Meta, la société mère d'Instagram, n'a pas encore répondu aux demandes concernant cette affaire. En général, elle interdit la publication de contenu sexuel explicite. Récemment, elle a retiré des publicités promouvant des outils d'IA utilisés pour créer des deepfakes sexuels.

Bien que le compte Babydoll Archi ait été supprimé, de nombreuses photos et vidéos continuent de circuler sur les réseaux sociaux. Cela soulève des questions sur la protection des victimes et la nécessité d'une action rapide des plateformes.

Conclusion

Cette affaire met en lumière les dangers des deepfakes et la vulnérabilité des individus face à la technologie. Il est essentiel de renforcer les lois et de sensibiliser le public pour prévenir de telles situations à l'avenir. La protection des droits des victimes doit être une priorité pour éviter que des incidents similaires ne se reproduisent.