OpenAI suspend temporairement les deepfakes d'IA de Martin Luther King Jr.

OpenAI suspend les deepfakes de Martin Luther King Jr

OpenAI a décidé de mettre en pause son application d'intelligence artificielle Sora, qui créait des vidéos deepfake représentant Dr Martin Luther King Jr. Cette décision fait suite à une demande de l'héritage de King, qui a souligné que du contenu "irrespectueux" avait été généré à son sujet.

Sora est devenue populaire aux États-Unis pour sa capacité à produire des vidéos hyper-réalistes générées par IA. Cela a conduit à des partages de clips de célébrités décédées et de figures historiques dans des scénarios souvent offensants. OpenAI a donc choisi de renforcer ses garde-fous concernant les figures historiques tout en permettant la création de clips d'autres personnes.

Réactions et controverses

Cette décision a suscité des controverses, car des vidéos mettant en scène des figures notables comme le président John F. Kennedy et la reine Elizabeth II ont circulé largement en ligne. Zelda Williams, la fille de Robin Williams, a demandé aux gens de cesser d'envoyer des vidéos générées par IA de son père, un acteur et comédien américain décédé en 2014.

Bernice A. King, la fille de Dr King, a également exprimé son désaccord, déclarant en ligne : "Je suis d'accord concernant mon père. S'il vous plaît, arrêtez." Parmi les vidéos générées, certaines modifiaient son célèbre discours "I Have a Dream", avec des contenus jugés inappropriés.

Les implications des deepfakes

Les deepfakes, qui altèrent des vidéos pour montrer quelqu'un se comportant d'une manière qu'il n'a pas, suscitent des inquiétudes quant à leur utilisation pour propager de la désinformation. OpenAI a reconnu qu'il existe des "intérêts forts en matière de liberté d'expression" pour représenter des figures historiques, mais a souligné que leurs familles devraient avoir le contrôle sur leur image.

OpenAI a déclaré que des représentants autorisés pouvaient demander que leur image ne soit pas utilisée dans les vidéos Sora. Ces "cameos" permettent aux personnes vivantes de consentir à l'utilisation de leur visage dans des vidéos générées par IA.

Mesures de protection et dialogue

OpenAI a affirmé avoir mis en place "plusieurs couches de protection" pour prévenir les abus. La société est également en dialogue direct avec des figures publiques et des propriétaires de contenu pour recueillir des retours sur les contrôles qu'ils souhaitent.

Olivia Gambelin, éthicienne de l'IA, a salué la décision d'OpenAI de limiter l'utilisation de l'image de Dr King, mais a critiqué le fait que de telles mesures n'aient pas été mises en place dès le départ. Elle a averti que la création de deepfakes de figures historiques posait des dangers pour la compréhension du vrai et du faux.

Conclusion

En somme, la décision d'OpenAI de suspendre les deepfakes de Martin Luther King Jr soulève des questions importantes sur le respect des figures historiques et les implications éthiques de l'IA. Il est crucial que les entreprises d'IA prennent des mesures pour protéger l'intégrité des personnalités historiques tout en naviguant dans les défis de la liberté d'expression.