En un mot: Plusieurs des plus grandes entreprises technologiques ont signé un accord pour lutter contre l’ingérence de l’IA dans les élections. L’engagement vise à éliminer les contenus d’IA génératifs et deepfakes conçus pour influencer ou interférer avec le droit de vote démocratique des citoyens.
Cette année sera une grande année pour les élections dans le monde entier. On estime que 40 pays et 4 milliards de personnes se rendront aux urnes pour élire leurs dirigeants et représentants en 2024. Cependant, c’est aussi l’année où l’IA a atteint un niveau dangereux en matière d’ingérence électorale. La technologie peut désormais créer ou manipuler des images, du contenu audio ou vidéo de manière suffisamment réaliste pour convaincre l’individu moyen que ce qu’il voit ou entend est réel.
Pour résoudre le problème, 20 grandes entreprises, dont Amazon, Google, Meta et X, ont pris le temps, lors de la conférence sur la sécurité de Munich vendredi, de signer « l’accord technologique pour lutter contre l’utilisation trompeuse de l’IA lors des élections de 2024 ». L’accord est un engagement volontaire qui définit les « actions visant à faire avancer sept objectifs principaux » que les signataires chercheront à respecter, notamment la prévention, la détection et la sensibilisation du public.
« La génération et la distribution intentionnelles et non divulguées de contenu électoral trompeur par l’IA peuvent tromper le public de manière à mettre en danger l’intégrité des processus électoraux », indique la convention collective. « Pour les besoins de cet accord, le contenu électoral trompeur de l’IA consiste en des fichiers audio, vidéo et images convaincants générés par l’IA qui falsifient ou modifient de manière trompeuse l’apparence, la voix ou les actions des candidats politiques, des responsables électoraux et d’autres parties prenantes clés d’un système démocratique. élection, ou qui fournissent de fausses informations aux électeurs sur quand, où et comment ils peuvent légalement voter.
Le traité cherche également à apaiser les craintes de censure ou de restriction de la liberté d’expression. Les opérateurs en ligne et les détenteurs de plateformes promettent d’être attentifs au contexte dans lequel les informations sont présentées avant de les supprimer. Leur intention est de sauvegarder l’expression artistique, la satire et l’expression politique, et non de les supprimer.
L’accord n’est pas sans limites. Il s’agit d’un accord volontaire plutôt que d’un cadre réglementaire approprié. Ainsi, il n’y a aucune répercussion si vous ne prenez aucune mesure contre les contenus préjudiciables et trompeurs. Les entreprises n’ont pas précisé comment elles seraient tenues responsables si leurs plateformes étaient utilisées pour diffuser de la désinformation. Au lieu de cela, l’accord propose des « objectifs » quelque peu larges et flous quant à ce que les entreprises cherchent à atteindre.
La plus grande ironie de cette nouvelle est peut-être qu’environ la moitié des signataires développent ou contribuent à la création d’outils d’IA générative que les mauvais acteurs utiliseront sans aucun doute pour créer précisément les types de contenus trompeurs qu’ils proposent de combattre. C’est analogue à allumer le feu à un bâtiment uniquement pour éteindre les flammes et devenir le héros.
Cela dit, l’une des choses à laquelle l’Accord engage les entreprises est de « fournir de la transparence au public », il existe donc une possibilité, du moins en principe, pour un certain niveau de contrôle public des efforts des signataires. Reste à savoir si cela prendra une forme significative.
Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :
