Apple dévoile la rapidité supérieure du M5 pour les LLM locaux comparé au M4

Here’s the most impressive thing about the M5 chip

Récemment, Apple a mis en lumière les avancées significatives de son nouveau processeur M5, qui s’impose comme une véritable révolution dans le domaine de l’apprentissage automatique. Grâce à des améliorations notables par rapport au M4, la société affirme que son dernier chip permet une utilisation plus efficace des modèles de langage local. Cet article explore ces innovations et leur impact sur les performances des machines Apple.

Un cadre innovant pour l’apprentissage automatique

Il y a quelques années, Apple a lancé MLX, un cadre de travail open-source spécialement conçu pour optimiser l’apprentissage automatique sur ses appareils. Son objectif principal est de faciliter le développement et l’exécution de modèles ML de manière native sur le matériel Apple.

MLX se distingue par sa flexibilité et son efficacité, permettant aux développeurs de maximiser le potentiel de la mémoire unifiée d’Apple. En intégrant des interfaces connues de la communauté AI, MLX favorise une adoption rapide et efficace des technologies avancées.

Une des fonctionnalités intéressantes de MLX est son aptitude à supporter la quantification, une technique permettant de réduire l’empreinte mémoire des grands modèles, conduisant à une exécution plus rapide des inférences.

Bilan des performances de la puce M5

Apple met en avant les gains de performance de son M5 en matière d’inférence grâce à ses nouveaux accéléra­teurs GPU. Ces derniers assurent des opérations de multiplication matricielle, essentielles pour les charges de travail en apprentissage automatique.

Lors des tests réalisés avec MLX, il a été observado que la puce M5 offre un boost de performance de 19 à 27% par rapport à son prédécesseur, le M4. Pour démontrer ces résultats, Apple a mesuré le temps nécessaire à plusieurs modèles pour générer leur première réponse après un prompt.

Apple devoile la rapidite superieure du M5 pour les LLM

Le M5 a également été testé pour la génération d’images, avec des résultats remarquables, affichant une vitesse de traitement 3,8 fois supérieure à celle du M4. Cette amélioration permet non seulement une utilisation plus fluide des applications, mais aussi une montée en puissance notable pour les tâches gourmandes en ressources.

1763673924 199 Apple devoile la rapidite superieure du M5 pour les LLM

Les progrès réalisés sur la bande passante mémoire ont également contribué à ces résultats. La nouvelle architecture du M5, avec une bande passante de 153 Go/s, se révèle être un atout majeur pour les environnements de travail exigeants.

Avec telles avancées, le temps est venu pour les passionnés de technologie d’explorer les capacités des produits Apple et de tirer parti des bénéfices offerts par la série M. Ces innovations posent les jalons d’une nouvelle ère d’efficacité et de performance dans le paysage technologique.