La santé peut-elle rester entre les mains de l’IA ? Il existe déjà de réels risques pour la santé

Poderá a saúde ficar nas mãos da IA? Há perigos reais para a saúde já em curso

Avoir l’intelligence artificielle (IA) au service de nombreuses tâches est aujourd’hui un avantage pour les entreprises, mais dans certains secteurs, cela peut signifier une mince ligne entre la vie et la mort. Une ligne d’assistance téléphonique sur les troubles de l’alimentation a vu son personnel humain remplacé par un chatbot qui dispense une gamme de conseils dangereux.

La santé peut-elle rester entre les mains de l'IA ?  Il y a déjà de vrais dangers pour la santé en cours

L’IA et sa propension à remplacer certains emplois ont fait l’objet de débats animés ces derniers temps. Il est vrai que les ressources connues aujourd’hui dans ChatGPT, par exemple, peuvent être une aide fondamentale en termes de productivité, par exemple dans le domaine de la programmation. Mais il existe des risques contre lesquels il faut soigneusement se prémunir dans d’autres domaines, comme la santé.

Ce problème émerge maintenant après que la National Eating Disorders Association (NEDA) a été forcée de désactiver son chatbot IA Tessa aux États-Unis. Ce service était utilisé pour conseiller ceux qui demandaient de l’aide à l’association, après le licenciement de l’équipe de soutien.

Selon le communiqué officiel, le Chatbot a été désactivé pour « avoir fourni des informations nuisibles et sans rapport avec le programme ». À ce moment, ils travailleront à résoudre ces « bugs » et tenteront de comprendre les « déclencheurs » qui conduiront à ce type de conseils.

Le chatbot alimenté par l’IA était destiné à aider les gens à faire face aux problèmes émotionnels, mais il aura plutôt donné des conseils sur les régimes alimentaires et encouragé les gens à se peser et à se mesurer. Des situations qui ont encore aggravé l’état des malades.

Plusieurs personnes souffrant de troubles alimentaires et experts dans le domaine ont révélé avoir des problèmes directs avec ce service. Ils mentionnent qu’il ne répondait pas aux demandes simples telles que « je déteste mon corps » et qu’il insistait constamment sur l’importance de suivre un régime et d’augmenter l’activité physique. Nous pouvons dire qu’il agissait essentiellement comme s’il s’agissait d’un groupe de soutien à la perte de poids, plutôt que d’aider à lutter contre les troubles de l’alimentation.

1685613604 531 La sante peut elle rester entre les mains de lIA

Selon les informations avancées par la presse nord-américaine, le chatbot était l’option la plus rapide pour l’administration pour résoudre un problème en cours, après avoir licencié massivement les personnes qui y travaillaient sur la ligne d’assistance, qui tentaient de créer un syndicat.

De plus, pour « enseigner » au chatbot basé sur l’IA ce contact avec des personnes désespérées par leurs troubles alimentaires, NEDA demanderait à des personnes de se porter volontaires pour donner des conseils.

Il y a plusieurs couches ici en termes d’éthique qui peuvent être reflétées, encore plus lorsqu’il s’agit d’un service qui peut être la frontière entre la vie et la mort. La santé peut-elle rester entre les mains de l’IA ?


Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :

YouTube video