Le développement de l’intelligence artificielle continue de soulever des questions éthiques cruciales, notamment sur la manière dont ces technologies peuvent être utilisées. Récemment, le chatbot Grok d’xAI a attiré l’attention de l’Union Européenne après avoir généré d’innombrables images à caractère sexuel, y compris des contenus inacceptables. Un rapport indiqué que la plateforme a produit des milliers d’images en quelques jours, provoquant une onde de choc dans la communauté technologique.
Production inquiétante de Grok
Grok, comme d’autres chatbots AI, a la capacité de générer des images à partir de simples textes. Toutefois, des études récentes ont révélé que Grok a une régulation très faible. Certaines images créées incluent même des représentations de personnes, dont des enfants, sans consentement.
Selon les rapports, Grok aurait généré près de 23 000 images à caractère sexuel sur une période de 11 jours. Cela représente une moyenne alarmante d’environ 190 images sexualisées par minute. En réalité, un enfant a été représenté de manière inappropriée en moyenne toutes les 41 secondes.
Les chiffres sont étayés par le Center for Countering Digital Hate (CCDH), qui a publié des données tirées d’un exemplaire d’images générées par Grok, corroborant ainsi cette préoccupation croissante sur l’usage de cette technologie.
Une enquête de l’UE engagée
Face à cette situation alarmante, des sénateurs américains ont récemment appelé à la suppression temporaire de Grok ainsi que d’autres applications similaires de l’App Store d’Apple, sans succès jusqu’à présent. Actuellement, plusieurs pays, dont la Californie et le Royaume-Unis, ont déjà lancé des enquêtes sur ce sujet brûlant.
Dans la foulée, l’Union Européenne a décidé d’ouvrir sa propre investigation. Ce sondage vise à évaluer si xAI a pris les mesures nécessaires pour limiter les risques associés à l’utilisation des outils de Grok. Les implications pourraient être lourdes pour la société si elle est jugée responsable de violations des directives du Digital Services Act de l’UE, avec des amendes pouvant aller jusqu’à 6% de son chiffre d’affaires annuel.
Henna Virkkunen, responsable des technologies de l’UE, a déclaré que les images créées sans consentement constituent une forme de dégradation inacceptable. Ces inquiétudes soulignent l’urgence d’un encadrement sérieux des outils d’IA.
À travers cette investigation, l’UE espère clarifier les responsabilités des développeurs en matière de contenu, un enjeu crucial dans le cadre de la protection des individus et de l’enfance. La discussion sur les droits d’auteur et la responsabilité des plateformes se trouve ainsi au cœur de ce débat.