Des adolescents suisses utilisent l'IA pour créer et diffuser des deepfakes de leurs camarades : comment cela se produit-il ?

Exploitation des jeunes par des deepfakes

Un site web gratuit a permis à un groupe de garçons en Suisse de déshabiller leurs camarades et de les exposer sur les réseaux sociaux. Âgés de 12 à 14 ans, ces jeunes ont utilisé une intelligence artificielle pour générer des deepfakes pornographiques de filles de leur classe. Cette affaire, rapportée par Tages-Anzeiger, a suscité une enquête qui est désormais entre les mains du procureur des mineurs.

Il s’agit du premier cas de ce type en Suisse. Les noms de l’école et du canton restent confidentiels afin de protéger les adolescents impliqués. Les photos ont été créées à l’insu des adolescentes, sans leur consentement, et relayées via Snapchat, ce qui soulève des questions éthiques majeures.

Fonctionnement du site web

Le site web, d'origine chinoise, fait la promotion de sa capacité à déshabiller gratuitement n'importe qui en quelques secondes. Le processus est décrit comme extrêmement facile à utiliser, ne nécessitant aucune compétence technique. Cela met en lumière les dangers des technologies accessibles à tous.

Les utilisateurs peuvent ajuster la couleur de peau, la position et même certaines caractéristiques physiques intimes des photos. Des slogans provocateurs tels que « Curieux de son corps ? » sont utilisés pour attirer l'attention. De plus, des images d’enfants dévêtus peuvent être téléchargées, augmentant ainsi le risque d'exploitation.

Conséquences légales et sociales

Cette affaire a déclenché une réaction immédiate des autorités. Une enquête a été ouverte pour déterminer les responsabilités et les conséquences légales pour les jeunes impliqués. Le procureur des mineurs se penche sur la situation pour protéger les victimes et prévenir de futurs abus.

Il est essentiel de sensibiliser le public aux dangers des deepfakes et à l’importance du consentement dans les interactions en ligne. Les parents et éducateurs doivent jouer un rôle actif dans l'éducation des jeunes sur les risques liés à l'utilisation des technologies.

Importance de la protection des mineurs

Cette situation met en lumière la nécessité de renforcer la protection des mineurs sur internet. Les plateformes doivent être tenues responsables de la sécurité de leurs utilisateurs. La régulation des contenus et des sites web qui exploitent les jeunes est cruciale pour éviter de tels incidents à l'avenir.

Il est primordial d'éduquer les jeunes sur les dangers des technologies et de promouvoir des comportements respectueux en ligne. Une prise de conscience collective est nécessaire pour prévenir l'exploitation des adolescents et garantir leur sécurité sur les réseaux sociaux.

Conclusion

En conclusion, l'affaire des deepfakes en Suisse souligne les dangers des technologies modernes. Les jeunes doivent être protégés contre de telles exploitations. Il est essentiel de sensibiliser et d'éduquer sur les risques liés à l'utilisation d'internet pour éviter que des situations similaires ne se reproduisent.