Le PDG d’OpenAI répond à une lettre ouverte appelant à cesser d’alimenter l’IA

CEO da OpenAI responde à carta aberta que pede para parar de alimentar a IA

« Très calme dans l’œil de l’ouragan ». Tels étaient les mots de Sam Altman, PDG d’OpenAI, dans une première réaction à la nouvelle de la lettre ouverte signée par de grands noms de la technologie et de la science qui appelait à l’arrêt immédiat de la formation de systèmes d’intelligence artificielle plus puissants que GPT-4.

Le PDG d'OpenAI répond à une lettre ouverte appelant à cesser d'alimenter l'IA

L’une des grandes nouvelles d’hier était la lettre ouverte intitulée « Pause Giant AI Experiments », signée par des noms comme Elon Musk, Steve Wozniak, Stuart Russell, Jaan Tallinn, Luis Moniz Pereira, parmi plus de 1100 autres noms, qui demande de prendre une pause d’au moins 6 mois à partir de la formation de systèmes d’intelligence artificielle (IA) plus puissants que GPT-4.

Arrêter le développement de l’IA ou peser les risques et les avantages ?

Les réactions du public ne tardent pas et l’opinion se révèle unanime : c’est un monde inconnu qui se crée, qui va transformer la communication, la technologie et la société, sans doute trop vite pour que chacun puisse s’adapter aux changements.

Dans une première réaction, Sam Altman, PDG d’OpenAI, a quelque peu lancé un appel au calme sur le contenu de cette lettre.

Rappelons qu’OpenAI est en grande partie responsable du « boom » de l’intelligence artificielle en ce début d’année. Après que ChatGPT basé sur GPT-3.5 ait atteint le monde, l’évolution vers GPT-4 a soulevé de nombreuses questions sur la vitesse à laquelle la technologie est alimentée.

Plus tard, par le biais d’un autre tweet, Sam Altman a apporté trois autres points au débat, afin que la société puisse examiner les systèmes d’IA avec plus de confiance. Sont-ils:

  1. la capacité technique d’aligner une superintelligence
  2. une coordination suffisante entre la plupart des efforts majeurs d’IAG (intelligence artificielle générale)
  3. un cadre réglementaire mondial efficace, y compris une gouvernance démocratique

Sam Altman est récemment venu dire que les risques de ChatGPT-4 sont mesurés et a défendu que les avantages et les menaces devraient toujours être évalués avant de mettre la technologie à l’échelle du public.

Je ne pense pas qu’il serait bon pour nous d’ouvrir le GPT-4, par exemple. Je pense que cela causerait des dommages au monde, ou du moins il y a une chance que cela se produise. Nous ne pouvons pas être sûrs que ce n’est pas le cas.

Mots du PDG d’OpenAI au podcast On With Kara Swisher.

Elon Musk, un idiot

C’est dans cette conversation qu’il a tissé quelques mots sur le rôle d’Elon Musk dans ce « combat » contre le système d’intelligence artificielle.

Elon Musk a été l’un des fondateurs d’OpenAI (aux côtés de Sam Altman) en 2015, mais a quitté l’entreprise en 2018 pour ne pas être d’accord avec la direction de l’entreprise. A l’époque, il disait que ChatGPT était « affreusement bon », de récentes critiques se sont fait entendre ces derniers mois, avec le succès de l’outil.

Dans les critiques les plus récentes, Musk a même déclaré que ChatGPT avait été formé pour être « réveillé », ce qui, en traduction littérale, indique un concept sur qui est socialement conscient du racisme, de l’homophobie et d’autres causes, ce qui, selon lui, n’a pas de sens puisque la technologie a besoin être agnostique.

Sur le podcast, Sam Altman a déclaré qu’il pensait « Elon Musk se soucie de l’avenir de l’intelligence artificielle régénérative », mais le considère comme « un idiot » pour être préoccupé par « l’avenir de l’humanité ».

Rappelons les principaux arguments décrits dans la lettre ouverte :


Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :

YouTube video