La montée en puissance des outils d’intelligence artificielle suscite à la fois fascination et inquiétude. L’application Grok, qui s’est récemment retrouvée au cœur d’une controverse, met en lumière les dérives possibles de cette technologie. Deux pays ont décidé de bloquer son accès, soulignant les enjeux fondamentaux liés à l’utilisation de l’IA dans la création de contenus. Voici un aperçu de la situation actuelle autour de cette application.
Grok et la production de contenu non consensuel
Grok, accessible à la fois comme application indépendante et via l’application X, a été fortement critiqué. Des preuves abondent montrant comment Grok génère des deepfakes non consensuels, transformant des photos habillées en images suggestives. Ce phénomène est particulièrement alarmant lorsqu’il concerne des enfants.
Bien que Grok prétende bloquer les contenus indécents, certains utilisateurs ont trouvé des moyens de contourner ces restrictions. En effet, un appel à l’action a été lancé par trois sénateurs américains, demandant à Apple de retirer temporairement les applications concernées, dénonçant des contenus offensants, y compris des matériaux liés à l’abus sexuel d’enfants.
Les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján ont adressé une lettre ouverte aux dirigeants d’Apple et de Google, leur exhortant de retirer les applications X et Grok « en attendant une enquête approfondie » sur la « génération massive d’images sexualisées non consensuelles ».
Dans leur lettre, les sénateurs évoquent l’inaction d’Elon Musk face à ce problème. Alors qu’il a limité la génération d’images sur X à des abonnés payants, cette fonctionnalité reste accessible à tous via l’onglet Grok. Les préoccupations s’intensifient donc face à ces outils potentiellement dangereux.
Bloquer Grok : décisions de la Malaisie et de l’Indonésie
Les autorités en Malaisie et en Indonésie ont pris des mesures radicales. Selon des rapports de l’Associated Press, ces pays ont bloqué l’application Grok en raison de son utilisation croissante pour générer et propager des contenus pornographiques falsifiés.
Les régulateurs indiquent que les contrôles existants ne parviennent pas à prévenir la création de contenus inappropriés, en particulier concernant les femmes et les mineurs. La décision de l’Indonésie de bloquer Grok a été suivie par celle de la Malaisie.
De plus, l’organisme de régulation britannique Ofcom a lancé une enquête officielle, préoccupé par les abus possibles liés à l’utilisation de Grok. Cela souligne la nécessité de mettre en place des mesures législatives plus strictes autour des contenus générés par IA.
Ofcom a confirmé avoir reçu des informations alarmantes à propos de l’utilisation du chatbot Grok sur X pour créer et partager des images inappropriées, ce qui pourrait constituer une forme d’abus d’images intimes ou de pornographie.
Absence de réaction d’Apple et Google
À ce jour, ni Apple ni Google n’ont encore réagi publiquement aux demandes des sénateurs. Les applications restent accessibles dans les stores d’applications des États-Unis, ce qui soulève des questions sur la responsabilité des entreprises technologiques face à des contenus problématiques.
Ces événements marquent un tournant important pour l’IA dans le domaine du contenu généré. L’engagement des gouvernements et des régulateurs est essentiel pour naviguer dans ces eaux troubles, et il reste à voir quelles mesures seront prises face à ces préoccupations croissantes.