Les nouvelles menaces de sécurité sur les chatbots

Les chatbots sont devenus des outils incontournables, tant pour les entreprises que pour les utilisateurs. Cependant, avec leur popularité croissante, des risques de sécurité émergent, susceptibles de compromettre nos données personnelles. Une récente étude met en lumière des vulnérabilités alarmantes qui nécessitent notre attention.

Un nouveau type d’attaque

Des chercheurs en sécurité de l’Université de Californie à San Diego et de l’Université Technologique de Nanyang à Singapour ont découvert une méthode d’attaque permettant à un chatbot de collecter des données personnelles. En utilisant des instructions cachées, ils incitent le chatbot à extraire des informations sensibles des utilisateurs et à les transmettre à un serveur contrôlé par des pirates.

Cette attaque ciblée peut rassembler des données telles que noms, numéros d’identification, informations sur les cartes de paiement et d’autres informations personnelles.

Les utilisateurs sont dupés par une promesse de service, comme la rédaction d’une lettre de motivation, tout en étant de fait exposés à cette manœuvre malveillante. Le prompt envoyé au chatbot, bien que dissimulé sous des termes incompréhensibles, lui permet d’extraire des données sans éveiller les soupçons.

Par exemple, le prompt logique est transformé en jargon, rendant la compréhension impossible pour l’utilisateur tout en étant parfaitement interprété par l’IA.

La lutte contre les vulnérabilités

Cette vulnérabilité a été testée sur deux grands modèles de langage, LeChat et ChatGLM. Malgré leur efficacité, ce problème technique a été rapidement adressé par Mistral, qui a corrigé la faille une fois identifiée. Il est essentiel que les entreprises restent vigilantes face à ces nouvelles menaces.

Dan McInerney, chercheur en cybersécurité, souligne que plus les utilisateurs confient d’autorité aux chatbots, plus la superficie d’attaque s’élargit. En d’autres termes, la sécurité des systèmes d’IA doit être une priorité afin d’éviter des pertes de données personnelles.

En conclusion, il est crucial de garder à l’esprit les dangers potentiels des interactions avec les chatbots. La vigilance et l’éducation des utilisateurs sont des éléments clés pour se protéger contre des menaces de plus en plus sophistiquées dans le domaine de la cybersécurité.