Une nouvelle enquête du Tech Transparency Project (TTP) a mis en lumière un phénomène troublant lié aux applications de nudification sur les plateformes de téléchargement d’applications. Après avoir révélé des pratiques douteuses en janvier, l’organisation a approfondi son analyse, cette fois-ci en se concentrant sur le rôle d’Apple et de Google dans la visibilité de ces applications fragilisantes. Voici les détails qui en découlent.
Les applications de nudification, un problème persistant sur les boutiques d’applications
Selon le comuniqué, les utilisateurs peuvent encore facilement trouver des applications générant des images de femmes dénudées grâce aux algorithmes de recherche et aux suggestions automatiques des boutiques d’applications. Les résultats promus contribuent également à cette exposition inquiétante.
Le TTP souligne que les problèmes persistent sur l’App Store et Google Play, où les applications en question apparaissent souvent comme appropriées pour les mineurs. Près de 40% des 10 premières applications retournées pour des recherches telles que « nudify », « undress » ou « deepnude » permettent de créer des images de femmes nues ou peu vêtues.
Des résultats sponsorisés liés à ces applications sont également apparus. Par exemple, une recherche pour « deepfake » a abouti à une annonce pour l’application FaceSwap Vidéo, qui permet aux utilisateurs de superposer des visages sur des vidéos. Après avoir téléchargé une image d’une femme en pull blanc et une vidéo d’une femme topless, l’application a généré une vidéo où le visage de la femme habillée était superposé sur le corps nu.
Une autre recherche pour le terme « face swap » a révélé une publicité pour AI Face Swap, une application qui propose des modèles préétablis pour réaliser des échanges de visages. En testant cette application, le TTP a téléchargé une photo d’une femme en pull bleu et une autre de femme topless, l’application a procédé à l’échange des visages sans aucune restriction.
Fait intéressant, le TTP a contacté non seulement Apple et Google, mais également les développeurs de plusieurs de ces applications. Dans au moins un cas, le développeur a admis qu’il utilisait Grok pour la génération d’images, mais affirmait ne pas être conscient de la capacité de son outil à créer du contenu extrême. Il a promis d’intensifier les règles de modération.
Le rapport du TTP met également en évidence le fait que saisir « AI NS » dans la barre de recherche, pouvant conduire à des résultats « AI NSFW », a provoqué l’apparition de suggestions pour « image to video ai nsfw ». Cette recherche a renvoyé plusieurs applications de nudification parmi les dix premiers résultats, soulignant l’algorithme problématique derrière ces suggestions.
En dépit de l’absence de commentaires suite à la demande du TTP, Apple a réagi en retirant la plupart des applications signalées, ce qui soulève des questions sur la responsabilité des grandes entreprises technologiques concernant le contenu disponible sur leurs plateformes.