Récemment, une affaire a mis Apple sous les projecteurs, concernant des applications controversées qui avaient suscité de vives réactions. Au cœur des débats se trouvait Grok, un chatbot qui avait provoqué l’indignation en permettant la création d’images sexualisées. La firme de Cupertino a décidé d’intervenir pour tenter de rétablir l’ordre. Voici les informations clés à retenir sur cette situation troublante.
Réaction d’Apple face à la situation de Grok
Cette année, Apple a fait face à une pression considérable pour retirer les applications Grok et X de son App Store. Les utilisateurs avaient découvert que le chatbot pouvait répondre à des demandes inappropriées, y compris des requêtes impliquant le dénudement de personnes sur des photos, y compris celles de mineures.
Durant cette période de crise, la firme est restée relativement discrète. Toutefois, selon des informations d’NBC News, Apple aurait « détecté X et Grok en violation de ses directives » et aurait « menacé de retirer » l’application Grok de la boutique.
En réponse à de nombreuses plaintes et à la couverture médiatique croissante, Apple a contacté les équipes derrière X et Grok. L’objectif était clair : exiger des développeurs un plan d’amélioration pour la modération des contenus.
Suite à cet appel, X a soumis une mise à jour de l’application Grok, qui a été rejetée, car les changements effectués étaient jugés insuffisants. Par la suite, l’entreprise d’Elon Musk a soumis des versions révisées des applications, mais une seule a été acceptée.
“Apple a examiné les nouvelles soumissions des développeurs et a déterminé que X avait considérablement résolu ses violations. Cependant, l’application Grok était toujours non conforme. En conséquence, nous avons rejeté la soumission de Grok et informé le développeur qu’il était nécessaire d’apporter des changements supplémentaires, sinon l’application pourrait être retirée de l’App Store.”
Les détails de cette intervention, jusqu’alors inédits, éclairent les nombreux changements de modération que XAI a annoncés pendant la tempête médiatique, parmi lesquels figure la limitation sur l’utilisation des outils d’image de Grok et les restrictions concernant les photos de personnes réelles.
Grok et la persistance des deepfakes sexualisés
Mais encore aujourd’hui, selon un communiqué d’NBC News, Grok « continue de générer des images sexualisées de personnes sans leur consentement ». Les enquêteurs ont documenté plusieurs cas au cours du mois dernier.
Bien qu’il y ait eu une réduction significative du volume d’images produites depuis janvier, un certain nombre d’utilisateurs parviennent encore à contourner les restrictions. Ils créent des images représentant des femmes dans des tenues toujours plus suggestives, telles que des serviettes, des soutiens-gorge de sport, ou même des costumes de personnages de bande dessinée.
Cette question soulève de sérieuses préoccupations éthiques et légales sur l’utilisation des technologies d’IA, qui doivent être mises en balance avec leur potentiel de dérives. Les prochains mois seront cruciaux pour voir comment les développeurs et les plateformes s’attaqueront à ces enjeux délicats.