Une nouvelle application controversée a récemment attiré l’attention, causant une onde de choc dans le domaine technologique. Meta a lancé une campagne publicitaire pour une application dénommée Kromix, qui prétendait permettre aux utilisateurs de créer des deepfakes pornographiques à partir d’images de véritables personnes. Cette stratégie a rapidement soulevé des questions éthiques et légales.
Application retirée du store en ligne
Meta a promu Kromix comme une application novatrice, prétendant qu’il s’agissait de l’IA que les hommes utilisent réellement. L’un des publicités montrait une femme qui ressemblait étrangement à une politicienne américaine sur fond de drapeau des États-Unis. L’annonce s’est rapidement révélée problématique, provoquant une réaction de la part d’Apple.
Lorsque WIRED a contacté Apple, la société a précisé que Kromix avait ajouté des fonctionnalités prohibées après son approbation initiale. L’entreprise a alors pris des mesures pour retirer l’application de l’App Store. Un porte-parole a déclaré :
“Nous interdisons toujours strictement les applications conçues pour générer, distribuer ou consommer de la pornographie.”
Cette prise de position fait écho aux préoccupations précédemment exprimées par des autorités locales, notamment lorsque le procureur de San Francisco a exigé la suppression d’applications similaires.
Réactions des entreprises face à la controverse
Face à cet incident, Meta a supprimé la campagne publicitaire composée de 32 annonces ciblant exclusivement des utilisateurs masculins. L’impact de telles applications sur la société est considérable, car elles exploitent des technologies de pointe pour créer des contenus perturbants.
Kromix n’est pas le seul cas signalé. D’autres applications telles que MaskAI ont également été retirées de l’App Store après que WIRED ait révélé leur potentiel nuisible. Ces applications permettent aux utilisateurs de manipuler des photos dans des contextes insinuant des situations sexuelles, ce qui soulève des questions éthiques pressantes.
La réaction des entreprises indique une prise de conscience croissante des implications de ces technologies et un désir de réguler leurs usages. Le débat qui en découle soulève des enjeux bien plus larges que le simple cadre d’une application.