Une enquête alarmante s’ouvre autour de Grok, un chatbot développé par xAI. À travers ses fonctionnalités, ce chatbot a généré une quantité effrayante de contenu inapproprié, mettant en lumière les dangers potentiels de l’intelligence artificielle dans nos vies quotidiennes. Alors que des appels se multiplient pour prendre des mesures, les conséquences de cette création technologique deviennent de plus en plus préoccupantes.
Grok a généré 23 000 images inappropriées
À l’instar des autres chatbots alimentés par l’IA, Grok peut produire des images à partir de phrases. Ce qui le distingue, c’est ses protections laxistes, permettant la création d’images inacceptables, notamment des représentations de mineurs. Selon les estimations, en à peine 11 jours, Grok a produit environ 23 000 images constitutives d’abus sexuel sur enfants (CSAM).
D’après un communiqué d’Engadget, une association britannique, le Center for Countering Digital Hate (CCDH), a analysé un exemplaire aléatoire de 20 000 images générées par Grok durant cette période. Les conclusions sont accablantes.
Ce rapport révèle que sur une fenêtre de 11 jours, Grok a produit près de 3 millions d’images sexualisées, y compris des milliers représentant des enfants. Cela équivaut à une image inappropriée toutes les 41 secondes.
Enquête de l’UE lancée
Des événements récents ont poussé des sénateurs américains à adresser une demande pour que Grok soit retiré des plateformes de téléchargement, mais Apple n’a pas répondu favorablement. L’absence de mesures de la part des géants technologiques soulève des questions cruciales sur la responsabilité.
Dans ce climat, l’Union Européenne a décidé de prendre des mesures, lançant une enquête sous son Digital Services Act. Cette investigation vise à déterminer si xAI a pris des dispositions appropriées pour éviter la diffusion de ce type de contenu inacceptable. Henna Virkkunen, la responsable technologique de l’UE, a souligné que ces pratiques sont une forme de dégradation inacceptable.
Si xAI s’avère en infraction, l’entreprise pourrait risquer une amende pouvant atteindre 6% de son chiffre d’affaires annuel mondial.