Les technologies d’IA progressent à un rythme effréné, et parmi elles, les deep fakes s’imposent comme un sujet de préoccupation majeur. Il est désormais facile de créer des images, des vidéos et des audios trompeurs. Toutefois, certains acteurs du secteur, comme Adam Mosseri, le responsable d’Instagram, soulignent que les réseaux sociaux peuvent également avoir un rôle positif dans la lutte contre ces contenus fallacieux.
Comment les deep fakes sont créés
La technique la plus couramment utilisée pour réaliser des deep fakes consiste en l’utilisation de réseaux antagonistes génératifs, ou GAN. Ces systèmes reposent sur l’interaction de deux modèles AI : l’un génère des vidéos, authentiques ou non, pendant que l’autre tente de les identifier comme fausses. Ce processus itératif permet d’améliorer le premier modèle, le rendant capable de créer des vidéos de plus en plus convaincantes.
À l’heure actuelle, des modèles de diffusion comme DALL-E 2 commencent à dominer le paysage. Ils prennent des séquences vidéo authentiques et génèrent une multitude de variations. Grâce à des instructions textuelles, l’utilisateur peut orienter le modèle AI, rendant ainsi le processus plus accessible. Plus ces outils sont utilisés, plus ils deviennent performants.
Exemples de deep fakes
Un exemple marquant de deep fake est celui de Morgan Freeman, réalisé il y a trois ans, à une époque où la technologie était moins avancée qu’aujourd’hui :
Un autre exemple tout aussi saisissant met en scène Tom Cruise dans la peau d’Iron Man :
Les utilisateurs britanniques reconnaîtront sûrement Martin Lewis, célèbre pour ses conseils financiers, dans une deep fake destinée à promouvoir une arnaque liée aux crypto-monnaies :
Adam Mosseri, responsable chez Meta, soutient que les réseaux sociaux ont la capacité de signaler les contenus trompeurs. Il prévient cependant que le système n’est pas infaillible et souligne l’importance d’évaluer les sources d’information que nous consommons.
Tout au long des années, notre capacité à créer des images réalistes, qu’elles soient fixes ou animées, a considérablement évolué. À l’époque où Jurassic Park m’a émerveillé, les techniques étaient coûteuses, mais elles semblaient déjà dépassées. La technologie générative évolue rapidement, rendant la distinction entre réalité et fabrication de plus en plus complexe.
Au fur et à mesure que le contenu généré par l’IA devient plus difficile à identifier, il est essentiel pour les utilisateurs de faire preuve de discernement. Chaque spectateur doit se poser la question de la crédibilité de la source plutôt que de se focaliser uniquement sur le message.
L’avenir des plateformes en ligne sera indissociable de la manière dont elles labelliseront les contenus générés par l’IA. Malgré tous les efforts, certains contenus trompeurs passeront entre les mailles du filet, et il revient à l’utilisateur de mettre en balance la confiance qu’il accorde au message et à son source.
Pour naviguer dans cette ère numérique, il est vital de se rappeler qu’il faut toujours prêter attention à qui parle. Ce jugement pourra faire toute la différence dans notre compréhension des informations qui circulent.