DeepfakeTechnologie-NTIC

Le simulateur de voix ElevenLabs s’inquiète des abus

Le service de clonage de voix a relevé des détournements abusifs de ses fonctions, notamment pour tenir des propos racistes dans la bouche de stars.

Emma Watson en train de lire un extrait de Mein Kampf ? Dans une vidéo relayée sur Twitter, les internautes peuvent voir l’actrice anglaise en pleine lecture de l’ouvrage rédigé par Adolf Hitler. Il s’agit en réalité d’un deepfake, ces manipulations numériques permettant de remplacer de manière réaliste un visage ou une voix et leur faire tenir des propos créés de toutes pièces.

Ce trucage informatique a été réalisé via un outil de clonage de voix développé par ElevenLabs grâce à l’intelligence artificielle. Dans une série de tweets, la start-up explique constater un «nombre croissant d’utilisations abusives» de son logiciel alors que les trucages audio pullulent sur internet.

Basée à Londres, ElevenLabs a récemment lancé une version d’essai de sa plateforme de création d’«outils de synthèse vocale ultra-réalistes» après avoir levé 2 millions de dollars.

Des utilisateurs du forum anonyme 4Chan ont partagé des messages générés par le logiciel et imitant la voix de célébrités, comme l’animateur américain de podcasts Joe Rogan, pour leur faire prononcer des textes à caractère raciste, sexiste et homophobe. Dans l’un de ces extraits, un clone vocal du commentateur ultra-conservateur Ben Shapiro menace de violer l’élue new-yorkaise Alexandria Ocasio-Cortez. Les voix des réalisateurs Quentin Tarantino et George Lucas ont également été détournées.

Renforcer le processus d’identification
«Nous aimerions résoudre ce problème en mettant en place des mesures de protection supplémentaires», a tweeté lundi ElevenLabs, qui n’a pas renvoyé vers des incidents spécifiques. La start-up propose de renforcer le processus d’identification des utilisateurs, de mieux vérifier les droits d’auteur des échantillons soumis et de procéder à des vérifications manuelles.

Elle fait partie des nombreuses sociétés à développer des logiciels d’intelligence artificielle pour le grand public. Ces outils suscitent un fort intérêt depuis le lancement en fin d’année dernière du robot conversationnel ChatGPT par l’entreprise californienne OpenAI, capable de répondre à des questions variées et de rédiger des textes.

Mais ils s’accompagnent aussi de craintes liées aux deepfakes. L’an dernier, un rapport d’Europol alertait sur cette technologique qui, en facilitant l’usurpation d’identité, risquait de devenir un outil de base pour le crime organisé.

Articles Similaires

1 sur 53

Laisser une réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *