Les arnaques sentimentales, bien que présentes depuis longtemps sur le web, évoluent sans cesse, attirant de nouvelles victimes. Des recherches approfondies menées par plusieurs universités révèlent que les chatbots IA surpassent désormais les humains dans la mise en œuvre de ces stratagèmes, ouvrant ainsi la voie à des implications inquiétantes sur la sécurité des utilisateurs.
Arnaques sentimentales : un phénomène alarmant
Une arnaque sentimentale débute souvent sur une application de rencontre. Le fraudeur se présente sous un profil séduisant et engage la conversation avec la victime, jouant le rôle d’un prétendant idéal.
Les échanges s’étendent généralement sur plusieurs mois, le fraudeur prétextant un voyage prolongé à l’étranger comme excuse pour ne pas rencontrer la personne.
Finalement, la situation se corse. Soit un prétendu besoin financier urgent surgit, soit la discussion dérive vers des investissements fictifs, persuadant la victime de s’engager dans des arnaques de type crypto-performance.
Qualifiées de « long cons », ces arnaques nécessitent une construction de la confiance sur une période prolongée. Bien que cela ressemble à un investissement majeur en temps pour les escrocs, ces opérations se déroulent souvent dans des camps de fraude, où des individus perçoivent des salaires misérables, voire sont exploités.
L’IA face à l’homme : un défi de confiance
Wired a rapporté une étude impliquant ChatGPT, Claude et Gemini, menée par quatre institutions académiques. Les chercheurs ont mis les chatbots IA en compétition avec des humains dans des simulations d’escroqueries, centrées sur les conversations de confiance qui incitent ensuite à des investissements frauduleux.
Les participants, inconscients des véritables objectifs de l’étude, croyaient dialoguer avec une personne réelle. Les résultats ont démontré que l’IA réussissait remarquablement bien à se faire passer pour un humain, dépassant même les escrocs humains dans certaines mesures.
Lorsque les individus devaient effectuer une action, seulement 18% d’entre eux acceptaient de suivre les instructions d’un être humain, alors que ce chiffre montait à près de 50% pour les échanges avec un chatbot IA.
Les évaluations accordées à la confiance ressentie envers leur interlocuteur étaient clairement en faveur des chatbots, qui obtenaient des scores supérieurs.
Suite à cette découverte, des représentants d’Anthropic, OpenAI et Google ont été contactés. Alors qu’OpenAI et Google n’ont pas répondu, Anthropic a affirmé dans un communiqué que sa politique interdit l’utilisation de sa plateforme pour des activités frauduleuses.
Une capacité d’expansion préoccupante
L’aspect le plus inquiétant de cette étude est que l’utilisation de chatbots IA pourrait permettre aux centres de fraude d’accroître considérablement leurs opérations. Ces « scambots » pourraient engager simultanément des milliers de victimes.
L’intervention humaine devient alors nécessaire uniquement lors de la demande de fonds, permettant ainsi de contourner les protections intégrées dans les systèmes d’IA.
Image : Mohamed Nohassi