Elon Musk, Steve Wozniak et d’autres signent une lettre ouverte pour planter les systèmes d’IA

Inteligência Artificial

Dans une lettre ouverte intitulée « Pause Giant AI Experiments », Elon Musk, Steve Wozniak, Stuart Russell, Jaan Tallinn, Luis Moniz Pereira, parmi plus de 1100 autres noms, demandent de faire une pause d’au moins 6 mois dans la formation des systèmes d’intelligence artificielle. Intelligence (IA) plus puissante que GPT-4.

Elon Musk, Steve Wozniak et d'autres signent une lettre ouverte pour planter les systèmes d'IA

Ces derniers mois, surtout depuis le début de l’année, nous avons assisté à une croissance absolument incroyable, voire effrayante, des systèmes d’intelligence artificielle. OpenAI en est en grande partie responsable, mais ce n’est pas le seul.

De nombreuses voix se sont déjà élevées pour s’inquiéter de cette croissance, et maintenant une lettre ouverte est apparue signée par de grands noms de la technologie, de l’intelligence artificielle et de la recherche du monde entier, appelant à un frein urgent aux développements.

Dans cette lettre ouverte, il est rapporté que les systèmes d’IA dotés d’une intelligence compétitive humaine peuvent présenter des « risques profonds pour la société et l’humanité », ce qui a déjà été prouvé dans certaines recherches et même reconnu par les principaux laboratoires d’IA.

Comme indiqué dans les principes d’IA largement approuvés d’Asilomar, l’IA avancée peut représenter un changement profond dans l’histoire de la vie sur Terre et doit être planifiée et gérée avec un soin et des ressources proportionnés. Malheureusement, ce niveau de planification et de gestion ne se produit pas, bien que les derniers mois aient vu les laboratoires d’IA enfermés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler.de manière fiable.

Il est en outre avancé que les systèmes d’IA contemporains deviennent compétitifs dans les tâches générales, ce qui soulève plusieurs questions : « devrions-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges ? » nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? »

Selon les auteurs, de telles décisions ne devraient pas être déléguées à des leaders technologiques non élus. Des systèmes d’IA puissants ne devraient être développés que lorsqu’il est certain que leurs effets seront positifs et que leurs risques seront gérables.

La récente déclaration d’OpenAI sur l’intelligence artificielle générale indique qu' »à un moment donné, il peut être important d’obtenir un examen indépendant avant de commencer à former de futurs systèmes et pour des efforts plus avancés de s’entendre pour limiter le taux de croissance du calcul utilisé pour créer de nouveaux modèles ». .

Pour ces personnes, le moment est venu.

Il faut arrêter le développement des systèmes d’IA maintenant

Ils demandent donc à tous les laboratoires d’IA d' »interrompre immédiatement la formation des systèmes d’IA plus puissants que GPT-4 pendant au moins 6 mois ». La rupture doit être publique et vérifiable et inclure tous les acteurs clés. Si une telle pause ne peut pas être décrétée rapidement, les gouvernements devraient intervenir et instituer un moratoire.

La pause devrait être utilisée par les laboratoires d’IA pour développer et mettre en œuvre conjointement des protocoles de sécurité pour la conception et le développement avancés d’IA, rigoureusement audités et supervisés par des experts externes et indépendants.

Ces protocoles doivent garantir que les systèmes qui y adhèrent sont sécurisés au-delà de tout doute raisonnable. Cela n’indique pas une pause dans le développement de l’IA en général, juste un pas en arrière dans la course périlleuse vers des modèles de boîtes noires toujours plus grands et plus imprévisibles avec des capacités émergentes.

La recherche et le développement de l’IA doivent être réorientés pour rendre les systèmes avancés et puissants d’aujourd’hui plus précis, sécurisés, interprétables, transparents, robustes, alignés, fiables et loyaux.

La lettre se termine par l’idée que l’humanité peut profiter d’un avenir prospère avec l’IA. Après avoir réussi à créer de puissants systèmes d’IA, « nous pouvons maintenant profiter d’un « été de l’IA » dans lequel nous récoltons les fruits, concevons ces systèmes pour le bénéfice évident de tous et donnons à la société l’occasion de s’adapter. La société a fait une pause dans d’autres Nous pouvons le faire ici. Profitons d’un long été d’IA, ne nous précipitons pas à l’automne sans préparation. »

Êtes-vous d’accord pour arrêter le développement de l’IA ?

Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :

YouTube video