La technologie et l’innovation offrent des possibilités fascinantes, mais elles peuvent également soulever des enjeux éthiques majeurs. Dernièrement, une préoccupation particulière a émergé aux États-Unis, où trois sénateurs interpellent directement les géants Apple et Google en raison de contenus générés par certains outils d’IA sur des applications telles que X et Grok.
Interpellation des géants technologiques
Les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján ont adressé une lettre ouverte aux dirigeants d’Apple et de Google. Ils demandent à ces entreprises de retirer temporairement les applications X et Grok de l’App Store jusqu’à une investigation approfondie sur la génération massive d’images sexualisées non consenties de femmes et d’enfants.
Nous vous écrivons pour demander que vous fassiez respecter les conditions de service de vos stores d’applications contre X Corp et les applications X et Grok pour leur génération massive d’images sexualisées non consenties. Les images nuisibles et probablement illégales générées par X montrent un mépris total pour vos conditions de distribution.
Ces inquiétudes proviennent d’une récente tendance sur l’application où des utilisateurs exploitent l’outil d’IA Grok pour créer des contenus dérangeants à grande échelle. Des images ont été modifiées pour montrer des scènes d’abus, d’humiliation, voire de violence envers des femmes, mais aussi des enfants, ce qui a choqué l’opinion publique.
Une réactivité contestée
Les sénateurs soulignent que, face à des pressions gouvernementales, Apple et Google n’ont pas hésité à retirer des applications qui suivaient les activités des services de l’immigration, mais des contenus générés, bien que nuisibles, restent accessibles. Ils espèrent ainsi que la réponse apportée à cette situation sera tout aussi rapide.
Apple et Google ont récemment prouvé leur capacité à modérer rapidement les applications de leurs stores. Par exemple, sous la pression explicite du Département de la Sécurité intérieure, vos entreprises ont rapidement retiré des applications permettant aux utilisateurs de signaler légalement des activités des forces d’immigration. En revanche, Grok génère des contenus bien plus dérangeants.
Ce contexte soulève des questions sur la responsabilité des entreprises technologiques face à des contenus potentiellement nuisibles. Les sénateurs espèrent une réponse rapide d’Apple et Google pour protéger leurs utilisateurs des dérives possibles associées à ces applications. La vigilance est de mise.