Apple impose de nouvelles règles sur l’App Store contre les applications IA et ‘bait-and-switch’

Apple’s new App Store rules crack down on AI nudification and ‘bait-and-switch’ apps

Apple vient de procéder à une mise à jour de ses Directives de Revue d’Applications, un geste visant à renforcer la lutte contre les contenus nuisibles et les pratiques trompeuses sur l’App Store. Découvrons ensemble les principales nouveautés et leur portée.

Un contexte préoccupant

Au cours des derniers mois, plusieurs affaires ont mis en lumière des applications qui échappent aux directives d’Apple, exposant ainsi les utilisateurs, y compris les plus jeunes, à des contenus préjudiciables. Plusieurs enquêtes ont révélé des applications inquiétantes, comme celles utilisant l’IA pour dénuder des images.

Des préoccupations ont aussi été soulevées autour d’applications déguisant des plateformes de jeux d’argent en simples jeux, accessibles à tous, notamment aux enfants. Ces applications dévoilaient des fonctionnalités cachées uniquement lorsque l’utilisateur se connectait depuis des localisations spécifiques.

La controverse autour de Grok, chatbot dominé par Elon Musk, a intensifié la pression sur Apple. Son utilisation pour créer des images non consensuelles a conduit à des appels à l’action de la part de groupes de défense et de législateurs. Pour répondre à ces crises, Apple a révisé ses règles.

Nouvelle version des Directives de Revue d’Applications

Sous la section 1.2, dédiée au contenu généré par les utilisateurs, les directives stipulent désormais que les applications permettant aux utilisateurs de créer, générer, télécharger, partager ou contribuer à du contenu peuvent engendrer de sérieux défis, comme l’atteinte à la propriété intellectuelle et l’intimidation anonyme.

Les développeurs qui ne mettent pas en œuvre les protections nécessaires, ou échouent à corriger après notification, pourraient se voir considérés en infraction du Code de conduite des développeurs.

Une autre modification majeure cible les applications de type ‘appât et switch’, qui trompent durant le test avant de révéler, une fois approuvées, des capacités nuisibles. La section 2.5.19 stipule que :

Les fonctionnalités de l’app doivent être claires pour les utilisateurs et pour l’examen. Cacher des fonctionnalités non documentées expose l’application à une suppression de l’App Store et à la résiliation du compte développeur.

Bien que certaines restrictions existaient déjà, Apple les a désormais clarifiées en ciblant spécifiquement la obscurcissement de code et en soulignant que les violations peuvent entraîner de lourdes conséquences.

Enfin, la section 5 a été renforcée en matière de législation pour stipuler que les applications facilitant le traite humain ou l’exploitation des enfants seront immédiatement retirées de l’App Store.

Pour consulter les nouvelles Directives de Revue d’Applications d’Apple, un lien est disponible pour accéder à l’intégralité des détails.