ChatGPT a envahi notre quotidien, avec tous ses bons et mauvais côtés. Cet outil qui devrait pouvoir aider les utilisateurs est rapidement tombé entre les mains de tout le monde et a révélé le meilleur et le pire de la nature humaine, du moins lorsqu’il s’agit d’utiliser ce type d’aide.
D’outil de conversation et d’aide, il est devenu indispensable pour effectuer des travaux et écrire pour les utilisateurs. Cet usage peut avoir des contacts au quotidien, avec l’arrivée d’outils comme Detect GPT, qui permet désormais à n’importe qui de détecter les textes rédigés par ChatGPT.
Dès son arrivée, ChatGPT a rapidement commencé à être utilisé pour générer du texte pour alimenter les travaux scolaires et même les médias. Ces textes sont souvent dépourvus de contenu ou, ce qui est encore pire, ils libèrent par erreur leurs auteurs supposés du travail qu’ils devraient avoir.
Il était donc important de créer des outils pour contrer ce scénario indésirable. Ceux-ci existent déjà, étant spécialisés dans la détection des textes créés par ChatGPT et d’autres plateformes, mais ils ne sont pas encore accessibles et généralisés. C’est là qu’intervient Detect GPT, créé par Eric Mitchell.
ChatGPT (et d’autres) génèrent un texte très fluide (mais pas toujours véridique).
Certains craignent que les enseignants, les lecteurs de nouvelles (comme vous !) et la société en général soient submergés de contenu généré par l’IA.
C’est pourquoi nous avons construit DetectGPT, une méthode pour détecter si le texte provient d’un LM. pic.twitter.com/5xEwzSkiLw
— Éric (@_eric_mitchell_) 27 janvier 2023
Son lancement remonte à quelque temps, mais ce n’est que maintenant qu’il commence à gagner en visibilité. Il est dédié à Chrome et vérifie le contenu d’un site Web ou d’un document, en l’analysant pour identifier si un contenu présent a été généré à l’aide du modèle de langage GPT.
DetectGPT suppose que le texte échantillonné à partir d’un grand modèle linguistique a tendance à occuper des régions de courbure négative de la fonction de similarité du modèle. Cela indique qu’il ne nécessite pas de formation d’un classificateur indépendant et qu’il ne collecte pas de données réelles ou générées. Il utilise uniquement des probabilités d’enregistrement calculées à partir d’un autre modèle linguistique générique pré-entraîné.
Simple d’utilisation, il suffit de naviguer jusqu’à la page à évaluer et un degré de confiance sur l’origine des textes est rapidement apporté. Si l’utilisateur préfère, il peut également valider le texte manuellement, avec une limite de 50 caractères.
Les auteurs de cet outil mentionnent que la maîtrise et la connaissance des grands modèles linguistiques (LLM) augmentent le besoin de systèmes pour détecter si un texte est écrit par une machine. Ainsi, ce sera l’outil idéal pour pouvoir détecter ces textes créés par ChatGPT.
Détecter GPT
Envie de vous détendre un peu ? Voici un reportage sur l’intelligence artificielle :
