Plus tôt ce mois-ci, après le lancement de Figma AI en tant qu’ensemble d’outils destinés à aider les concepteurs dans leur processus de conception, les choses ont rapidement mal tourné. Un concepteur a demandé à la fonction « Make Design » de Figma AI de l’aider à concevoir une application météo, et à chacune de ses nombreuses tentatives, elle a produit un clone de l’application météo d’Apple.
Après que l’incident ait fait la une des journaux, Figma a immédiatement désactivé Make Design jusqu’à ce qu’une enquête complète soit menée. L’entreprise a désormais expliqué ce qui s’est passé et ce qu’elle fait pour y remédier.
Noah Levin, écrivant pour le blog de Figma :
Pour donner au modèle suffisamment de liberté pour composer des conceptions à partir d’une grande variété de domaines, nous avons commandé deux systèmes de conception complets (un pour mobile et un pour ordinateur de bureau) avec des centaines de composants, ainsi que des exemples de différentes manières dont ces composants peuvent être assemblés pour guider la sortie.
[…]
Nous avons soigneusement examiné les systèmes de conception sous-jacents tout au long du développement et pendant une version bêta privée. Mais au cours de la semaine précédant Config, de nouveaux composants et des exemples d’écrans ont été ajoutés, que nous n’avons tout simplement pas examinés avec suffisamment d’attention. Certains de ces éléments étaient similaires à des aspects d’applications du monde réel et apparaissaient dans la sortie de la fonctionnalité avec certaines invites. Nous avons réalisé le problème pour la première fois lorsqu’Andy Allen, un designer qui a pris la parole lors de Config, a souligné que l’invite à Make Designs pour une application météo donnait lieu à des conceptions qui ressemblaient beaucoup à l’application propriétaire d’Apple.
En réalité, Figma attribue l’erreur à des ajouts de ressources de dernière minute à leurs systèmes de conception. Apparemment, l’outil Make Design fonctionnait bien jusqu’à ce que ces nouveaux composants soient ajoutés.
Ce que Figma ne dit pas, c’est d’où viennent ces nouveaux composants. S’agit-il d’éléments de conception d’Apple ? L’entreprise avait jusqu’à présent nié catégoriquement cette affirmation.
Curieusement, Figma ne réactive toujours pas la fonctionnalité Make Design… du moins pas encore.
Si ces ressources ajoutées tardivement étaient la véritable source du problème, il semblerait que la solution soit simple. Mais peut-être que l’entreprise prend simplement son temps pour effectuer un test plus approfondi et une période bêta plus longue que celle qu’elle a suivie au début.
De toute évidence, comme cet accident l’a prouvé, ce n’est pas une mauvaise idée.
Envie de vous détendre un peu ? Voici un reportage très intéressant sur l’intelligence artificielle :
