Les systèmes d’Intelligence Artificielle (IA) des plateformes sont de plus en plus affinés, afin de garantir la sécurité des utilisateurs. Cette fois, l’IA de Google a signalé les comptes parents comme des abus potentiels.
La raison? Ils avaient des photos de leurs enfants nus.
Selon The Verge, citant le New York Times, un père a affirmé qu’après avoir utilisé son smartphone Android pour capturer l’infection à l’aine de son fils, il avait vu les images signalées comme du matériel d’abus sexuel d’enfants par Google.
Suite à ces images, Google a fermé ses comptes, déposé plainte auprès du Center for Missing and Exploited Children (NCMEC) et lancé une enquête policière. Cependant, les photographies ont été prises pour aider les médecins à diagnostiquer les infections.
Parallèlement à l’enquête, Google a mis en évidence les complications associées à la distinction entre un abus potentiel et une photographie sans intention malveillante.
Un père signalé par Google pour avoir des photos de son fils malade nu
Le New York Times a expliqué que le principal incident s’est produit en février 2021, alors que certains centres médicaux étaient encore fermés en raison de la pandémie. Le père de l’enfant a remarqué un gonflement de l’aine de l’enfant et, à la demande d’une infirmière, a envoyé des images de la région avant la consultation, qui s’est déroulée par appel vidéo. Après cela, le médecin a prescrit des antibiotiques et l’infection a été guérie.
Bien que tout se soit bien passé, deux jours après la capture des images, le père, nommé Mark, a reçu une notification de Google indiquant que ses comptes avaient été bloqués, en raison d’un « contenu préjudiciable » qui constituait une « violation grave des politiques » de Google. ”.
Nous identifions et signalons le matériel d’abus sexuel d’enfants avec des équipes d’experts et une technologie de pointe, y compris des classificateurs d’apprentissage automatique et une technologie de correspondance de hachage, qui crée un « hachage », ou une empreinte digitale unique, pour une image ou une vidéo afin qu’elle puisse être par rapport aux hachages de matériel connu d’abus sexuel d’enfants. Lorsque nous trouvons ces matériaux, nous le signalons au NCMEC, qui assure la liaison avec les organismes d’application de la loi du monde entier.
Le père, qui a fini par perdre l’accès à ses e-mails, contacts, photos et son numéro de téléphone, a été acquitté lorsque la police de San Francisco, chargée de l’affaire, « n’a pas trouvé les éléments d’un crime » et a conclu que » Aucun crime n’a été commis. »
Envie de vous détendre un peu ? Voici un reportage sur l’intelligence artificielle :
