Meta a récemment présenté Muse Spark Open, un modèle qui se distingue comme le plus puissant dans la catégorie des modèles à poids ouverts. Les utilisateurs d’Apple peuvent tirer parti de ce modèle, particulièrement optimisé pour fonctionner sur le Mac Studio équipé du M5 Ultra.
Une avancée significative dans les capacités multimodales
Dans un billet de blog, Meta souligne que Muse Spark Open est un modèle nativement multimodal, intégrant des capacités décisionnelles directement sur votre bureau pour la première fois. Ce modèle compte 816 milliards de paramètres, dont 42 milliards sont actifs, avec une fenêtre de contexte de 1 million de tokens.
Idéal pour les tâches complexes, Muse Spark Open brille particulièrement dans le développement logiciel et le raisonnement multi-étapes. Cette capacité impressionnante en réalité un allié précieux pour les professionnels soucieux d’efficacité.
Une optimisation pour le matériel Apple
Meta met en avant l’utilisation de la dernière version de MLX, un framework open source développé par Apple. Ce framework est parfaitement adapté à l’architecture de mémoire unifiée des puces Apple, optimisant ainsi le fonctionnement du modèle.
Grâce à cette optimisation, le modèle fonctionne de manière fluide avec le Mac Studio M5 Ultra, créant une synergie qui permet d’exploiter pleinement la puissance de cette machine. Ensemble, ils forment une combinaison performante pour exécuter des modèles puissants localement.
En utilisant l’architecture de mémoire unifiée, le GPU intégré du M5 Ultra peut accéder à 512 Go par Mac Studio. Cela signifie que deux machines peuvent contenir l’intégralité d’un modèle. De plus, avec une bande passante de mémoire de 1.2 To/s, chaque token peut être traité rapidement, transformant ainsi deux Mac Studios en un véritable superordinateur.
Des tests ont été effectués sur divers flux de travail, prouvant que Muse Spark Open fonctionne parfaitement en local. Des modifications réelles d’iOS ont été expédiées vers Ice Cubes, allant de corrections de bugs à l’ajout de nouvelles fonctionnalités.
Enfin, Muse Spark Open est désormais disponible via Hugging Face. De plus, Apple a publié un article sur son site d’Research Machine Learning, mettant en avant la manière dont MLX sur Mac permet aux chercheurs et développeurs d’expérimenter localement avec des modèles de pointe.