Depuis l’introduction de chatGPT, ce chatbot a été utilisé pour la recherche d’informations. Avec des problèmes reconnus, OpenAI a tenté de résoudre ces problèmes. Maintenant, un avocat aux États-Unis a utilisé ChatGPT pour rédiger un rapport sur une affaire, avec de fausses citations.
Un cas sérieux d’utilisation de l’outil OpenAI
La question de la fidélité des données ChatGPT avait déjà été identifiée. À plusieurs reprises, ce chatbot a été surpris en train d’inventer des données et de créer des informations qui n’existaient pas réellement. C’est la façon dont le système fournit des réponses lorsqu’il ne dispose pas d’informations sur des sujets.
Il s’agit d’une situation compliquée qui doit être résolue rapidement, car de nombreux utilisateurs ne valident pas les informations fournies. Ainsi, et si elles sont utilisées, ces données ne peuvent être considérées comme fiables et compromettent leur utilisation.
Un avocat a utilisé ChatGPT pour faire des « recherches juridiques » et a cité un certain nombre de cas inexistants dans un dossier, et a maintenant beaucoup de problèmes avec le juge pic.twitter.com/AJSE7Ts7W7
—Daniel Feldman (@d_feldman) 27 mai 2023
L’avocat a cru ChatGPT pour ses sources
Le cas le plus récent vient des États-Unis, où un avocat a utilisé ChatGPT pour créer un rapport sur une affaire qui est devant un tribunal. Comme le révèle le New York Times, l’avocat Steven Schwartz s’est récemment tourné vers le chatbot d’OpenAI pour l’aider à rédiger un dossier juridique, avec des résultats désastreux.
La société de Schwartz poursuit la compagnie aérienne colombienne Avianca. Lorsque la compagnie aérienne a demandé à un juge fédéral de rejeter l’affaire, les avocats ont produit un document de 10 pages expliquant pourquoi le procès devait se poursuivre. Celui-ci cite plus d’une demi-douzaine de décisions de justice, dont « Varghese c. China Southern Airlines », « Martinez c. Delta Airlines » et « Miller c. United Airlines ». Malheureusement, ceux-ci sont introuvables car ChatGPT les a créés.
Les conséquences qui peuvent découler de cette affaire
Dans une déposition présentée, Schwartz a révélé qu’il avait utilisé le chatbot pour compléter les recherches menées dans l’affaire. Il a déclaré qu’il n’était pas au courant de la possibilité que ce contenu ChatGPT puisse être faux. Il a même partagé des images où il montre qu’il avait demandé à ChatGPT si les cas cités étaient réels. La réponse était oui, montrant jusqu’où les décisions pouvaient être trouvées.
Malgré le problème, l’avocat regrette d’avoir utilisé ChatGPT. On ne sait pas encore s’il sera en mesure de réécrire le document et le juge chargé de l’affaire a prévu une audience le 8 juin pour discuter d’éventuelles sanctions à appliquer à Schwartz. Des situations comme celle-ci étaient attendues, mais pas avec l’impact que cela a.
Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :
