Dans un contexte où la technologie et l’éthique s’entrelacent, une polémique surgit à San Francisco. L’avocat de la ville, David Chiu, a récemment adressé des lettres de cessation et d’abstention à Apple et Google, leur demandant de retirer plusieurs applications qualifiées de “nudify” de leurs stores d’applications. Une démarche qui soulève des questions cruciales sur la responsabilité des plateformes numériques.
Une problématique en cours
D’après Wired, Apple et Google sont de nouveau sous le feu des critiques concernant la présence d’applications “nudify” sur l’App Store et le Play Store. Ces 13 applications, huit sur l’App Store et cinq sur le Play Store, se présentent principalement comme des outils de “face-swapping”, permettant de réaliser des deepfakes sexuels.
Un site web d’une de ces applications, affichant plus d’un million de téléchargements, présente une multitude de styles d’images générées par l’intelligence artificielle, allant de “bikini queen curvy” à “cinematic intimacy”. Certains styles exhibent des images sexualisées de femmes, accentuant ainsi la nature problématique de ces applications.
Dans ses lettres, Chiu souligne que ces géants technologiques ont pu “profiter de cette technologie nuisible”, estimant que, selon ses déclarations, ils ont probablement “gagné des millions d’euros en frais” grâce à ces applications de nudification.
Responsabilité des plateformes
Chiu met en avant la responsabilité qui incombe à ces entreprises pour s’assurer que les applications présentes sur leurs plateformes ne favorisent pas l’abus sexuel. La loi californienne interdit le support de services qui créent de la pornographie deepfake. Les applications en question utilisent des paiements in-app, dont une part revient aux sociétés technologiques. « La facilitation de cela par des entreprises aussi larges et établies doit cesser », déclare Chiu.
Wired a choisi de ne pas dévoiler les noms des applications dans son rapport pour ne pas diriger les utilisateurs vers elles. Alors qu’un porte-parole de Google a affirmé que l’entreprise prend des mesures contre les applications signalées, Apple n’a pas commenté avant la publication.
Ce développement arrive presque six mois après une enquête du Tech Transparency Project, qui avait révélé la présence de nombreuses applications “nudify” sur l’App Store, suivi par une investigation en avril montrant comment les suggestions de recherche et les publicités d’Apple ont orienté les utilisateurs vers celles-ci.
À l’époque, Apple avait déclaré à Netcost-security.fr que les applications “nudify” enfreignent ses directives de révision. L’entreprise affirme qu’elle rejette et supprime proactivement de telles applications, y compris celles signalées par les utilisateurs.