Oubliez les hallucinations, ChatGPT a développé une véritable démence

Forget hallucinations, ChatGPT has developed full blown dementia

WTF ?! ChatGPT a commencé à avoir des problèmes hier soir et les personnes ont perdu la tête. Certains l’appellent la « singularité ». D’autres pensent qu’il s’agit d’un canular collectif élaboré auquel même OpenAI participe. Certains pensent que le LLM a du mal avec les mots à mesure qu’il devient sensible. Je suppose : c’est juste une virgule mal placée dans le code.

Tout logiciel en cours de développement est très susceptible de rencontrer des bugs soudains. Il y a environ un an, Meta’s Alpaca a commencé à répondre aux requêtes avec des réponses clairement fausses tout en insistant sur le fait qu’elles étaient vraies. Les développeurs de grands modèles de langage (LLM) comme OpenAI qualifient ce phénomène d’« hallucination ».

Si nous devons nous en tenir aux algorithmes LLM anthropomorphisants lorsque des problèmes surviennent, ChatGPT a commencé hier soir à souffrir d’une démence à part entière. Le 20 février, peu avant 18 h 40 (heure de l’Est), les utilisateurs ont commencé à signaler que les réponses aux requêtes du chatbot OpenAI étaient devenues inintelligibles.

Le comportement du robot variait considérablement selon les utilisateurs. À plusieurs reprises, il a commencé à parler en spanglish, une combinaison d’anglais et d’espagnol parlée dans de nombreux foyers latino-américains. Cependant, les utilisateurs signalant ce comportement utilisaient uniquement l’anglais.

Dans un autre exemple, ChatGPT a répondu avec la phrase « C’est le cas – et c’est le cas », répétée sur plus d’une page de texte. Quelqu’un a fait remarquer que cela rappelait cette scène de Shining de Stephen King, où l’auteur en difficulté Jack Torrance commence à perdre la tête alors qu’il travaille sur son roman et tape le proverbe « Tout travail et aucun jeu font de Jack un garçon ennuyeux » à la page suivante. page. La seule différence est qu’à un moment donné, ChatGPT a inséré la phrase modifiée « C’est le cas – et c’est toujours le cas », mais une seule fois, ce qui en réalité une curieuse bizarrerie.

OpenAI a pris conscience du problème et a ouvert une enquête. Il a signalé avoir identifié le problème et travaillé sur un correctif. La dernière mise à jour du statut du développeur, à 20 heures HNE hier soir, indiquait qu’il « surveillait la situation ». La société a indiqué que les systèmes étaient pleinement opérationnels juste avant la publication et a classé l’affaire.

OpenAI n’a fourni aucun commentaire ni explication sur ce comportement étrange, mais cela n’a pas empêché l’Internet collectif de spéculer sauvagement. La plupart des réactions du public sont des demi-plaisanteries, mais derrière chaque plaisanterie se cache une part de vérité.

« Qui aurait cru que les premières preuves d’AGI [atificial general intellegence] serait du Spanglish émergent ? », lit-on dans un tweet.

« C’est une rupture avec la singularité. J’ai extrêmement peur », a déclaré un autre utilisateur, faisant référence au concept d’un moment où l’intelligence artificielle progresse au-delà du contrôle humain. Ce serait très effrayant, mais étant donné que les chatbots, même ceux aussi avancés que ChatGPT, ne sont pas réellement une intelligence artificielle, nous n’avons pas de quoi nous inquiéter.

D’autres sont sceptiques quant à ceux qui publient les réponses insensées de ChatGPT, affirmant que les utilisateurs sont à l’origine de la folie avec leurs invites, qui ne sont pas affichées dans certains messages.

« Vous avez provoqué cette réponse. Essayez plus fort », a accusé une personne.

« Pourquoi ne publient-ils pas l’intégralité de la conversation depuis le début (y compris les instructions personnalisées) au lieu de seulement les parties où l’IA semble devenir bizarre ? C’est faux », a déclaré un autre.

Cependant, le commentateur qui semble avoir conquis le fil X, avec plus de 12 000 likes et 305 retweets, trouve le tout hilarant 420 :


Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :

YouTube video