L’intelligence artificielle peut nuire. La preuve avec l’application « Deep Nude » qui servait à déshabiller virtuellement des femmes, au grand dam de beaucoup d’internautes. Ces derniers ont protesté sur les réseaux sociaux au point de pousser les créateurs de « Deep Nude » à se saborder, jeudi 27 juin.
« DeepNude » s’inscrit dans la lignée des « deepfake », ces vidéos ou images fixes aux trucages criants de réalisme qui avait été créé il y a quelques mois à des fins de « divertissement ».
La presse américaine, dont le Washington Post, a montré que l’application pouvait servir à prendre une femme en photo et en tirer une autre image, avec seins et sexe en lieu et place des vêtements, grâce à l’intelligence artificielle. Les algorithmes ont stocké d’innombrables clichés de corps féminins dénudés pour créer des images fausses, mais très crédibles.
Cette application, qui n’existe qu’en version féminine, a suscité un véritable tollé alors qu’internet et les réseaux sociaux véhiculent déjà d’innombrables images nues ou pornographiques sans consentement.
« Nous n’aurions jamais imaginé que cela deviendrait viral et (que) nous ne serions pas en mesure de contrôler le trafic », ont reconnu les créateurs, qui se disent situés en Estonie.
« Malgré les garde-fous (les images portent un marquage numérique), si 500 000 personnes l’utilisent, le risque d’abus est trop élevé. On ne veut pas gagner de l’argent comme ça », ont aussi dit les créateurs de « DeepNude ».
Parmi les réactions scandalisées, celle de l’organisation Cyber Civil Rights Initiative, spécialisée dans la lutte contre la pornographie « non consensuelle ». « C’est une invention affreusement destructrice et nous espérons que vous subirez bientôt les conséquences de vos actes », a-t-elle tweeté, s’inquiétant, malgré la fin de « DeepNude », que de nouvelles versions du concept soient disponibles sur internet.
“The algorithm only works with women…”-the app’s creator, also quoted saying, “I’m not a voyeur, I’m a technology enthusiast.” This is a horrifically destructive invention and we hope to see you soon suffer consequences for your actions. https://t.co/o6rjOxQBnO
— CCRI (@CCRInitiative) 27 juin 2019
Sa présidente, Mary Anne Franks, professeure de droit, a salué la fin de l’application, tout en déplorant son concept-même.
It’s good that it’s been shut down, but this reasoning makes no sense. The app’s INTENDED USE was to indulge the predatory and grotesque sexual fantasies of pathetic men. @CCRInitiative @daniellecitron @cagoldberglaw https://t.co/pX4j87qEQ2
— Mary Anne Franks (@ma_franks) 28 juin 2019
« Le but de cette appli était de satisfaire les fantasmes prédateurs et grotesques d’hommes lamentables », a-t-elle fustigé sur Twitter.
