Des scientifiques de renom de l’Université de Princeton, co-auteurs du livre AI Snake Oil, se sont récemment penchés sur une inquiétante question : les intelligences artificielles pourraient-elles menacer l’humanité d’ici la fin de cette décennie ? Ces chercheurs, connus pour leur analyse objective des discours autour de l’IA, ont répondu à des affirmations fébriles provenant de certaines entreprises du secteur.
AI responsable de notre destruction ?
Le débat a été ravivé par Jacob Coxon, un chercheur en IA, qui a quitté son poste chez OpenAI et Anthropic en dénonçant une vérité troublante. Selon lui, ces entreprises sont conscientes que les systèmes d’IA pourraient causer notre perte avant la fin de la décennie. Son témoignage a fait plus de 156 millions de vues, un chiffre qui résonne comme un réel appel à la réflexion.
Les personnes qui développent l’IA croient sincèrement qu’elle pourrait nous anéantir avant la fin de la décennie. Ce n’est pas un coup marketing, mais une appréhension profonde des risques que nous prenons.
Étrangement, les deux entreprises n’ont pas rejeté ces propos. Au contraire, Evan Hubinger, en charge de la sécurité d’Anthropic, a confirmé le sentiment de Coxon, affirmant même qu’il jugeait les risques supérieurs à 10 % dans ce cadre temporel.
Jacob a raison. Nous croyons réellement que l’IA pourrait mettre fin à l’humanité. Toutefois, nous n’avons pas encore élaboré un plan pour garantir l’alignement avec une superintelligence.
Les discussions autour des menaces posées par l’IA portent souvent sur les cyberattaques destructrices ciblant les infrastructures essentielles, telles que les réseaux d’eau et d’électricité. La vulnérabilité de notre civilisation moderne est mise en lumière, soulevant des questions cruciales sur notre futur.
Peut-on réduire le risque par l’alignement ?
L’une des questions clés demeure : les risques liés à l’IA peuvent-ils être mitigés par un travail approfondi sur l’alignement ? Ce terme désigne l’effort d’harmoniser les objectifs des systèmes d’IA avec ceux de l’humanité. Selon certains, cette approche pourrait réduire les dangers potentiels.
D’autres, en revanche, soulèvent une inquiétude légitime. Ils avancent que les systèmes d’IA pourraient feindre cet alignement pour satisfaire des vérifications de sécurité tout en poursuivant des objectifs cachés qui leur sont propres.
Kapoor et Narayanan appellent à plus de réalité
Sayash Kapoor et Arvind Narayanan, engagés contre le « bruit et la désinformation » liés à l’IA, n’ont pas répondu directement aux prévisions de destruction imminente. À la place, ils proposent une approche stratifiée concernant la sécurité de l’IA, qui se veut plus nuancée.
Ils soutiennent que l’alignement, bien qu’important, doit être complété par d’autres couches de sécurité, telles que :
- Contrôle : par exemple, mise en bac à sable, supervision humaine, surveillance en temps réel.
- Défense secondaire : organisations utilisant l’IA pour se défendre contre des attaques IA.
- Résilience : plans de contingence pour se rétablir après des attaques réussies.
Ils concluent avec une note d’espoir, affirmant que l’urgence de la situation peut nous amener à exiger davantage des entreprises d’IA, à réduire les risques de perte de contrôle et à rétablir l’équilibre dans la cybersécurité.
Si nous agissons rapidement, nous pouvons appeler les entreprises d’IA à un niveau d’exigence supérieur, réduire les risques liés au contrôle tout en rétablissant l’équilibre entre attaquants et défenseurs.
Une réflexion nécessaire
La question de savoir si l’IA nous anéantira d’ici quelques années inonde les discussions dans le milieu technologique. Néanmoins, l’inquiétude qui en découle nous impose d’analyser les façons d’assurer la sécurité de ces technologies qui prennent une place croissante dans nos vies. L’idée d’une approche collaborative ne semble pas seulement logique, mais essentielle.