Moi, moche et virtualisé

Apple a publié un article de recherche sur Minions, une infrastructure permettant d’agréger les ressources GPU inutilisées sur des grappes de Mac dotés de puce Apple Silicon. Si le concept n’a rien de nouveau, les travaux d’Apple prolongent l’existant et inscrivent un peu plus les Mac dans le paysage de l’IA.

Les Mac sont décidément appréciés par les entreprises désireuses de faire tourner localement des LLM plus ou moins gros. Pourquoi les Mac ? Parce qu’ils embarquent une mémoire dite « unifiée », servant à la fois pour les parties CPU et GPU des puces Apple Silicon. Si votre Mac est équipé de 32 Go de mémoire vive, le GPU peut puiser dedans. Cette mémoire est certes moins rapide que la VRAM des cartes graphiques dédiées (sans même parler de la HBM), mais ce scénario d’usage compense par le volume.

Apple sait que ses Mac Mini et Studio partent comme des petits pains auprès d’entreprises comme OpenAI, Anthropic et Meta. C’est dans ce contexte qu’elle a mis en ligne un document de recherche (prépublication sur Arxiv) exposant le fonctionnement de Minions, une infrastructure GPU virtuelle dédiée aux charges d’inférence d’apprentissage automatique à grande échelle.

Rassembler l’inaction

L’architecture proposée repose sur quatre éléments. D’abord, un serveur central reçoit les requêtes via une interface web ou des API (REST). Il s’occupe de les valider puis de les découper de manière asynchrone en sous-tâches stockées dans une base PostgreSQL. En d’autres termes, le serveur est chargé de créer une file d’attente.

Ensuite, les exécuteurs. Ils tournent sur les Mac mis à contribution et traitent localement les sous-tâches sur le GPU, avant d’écrire le résultat des calculs dans une zone de stockage S3. Ils n’accèdent jamais directement à la base PostgreSQL : ils réservent des sous-tâches en utilisant l’API du serveur, via une table de la base dotée d’une contrainte d’unicité. Même chose pour mettre à jour l’état de la base, envoyer leur signal de vie (un message bref envoyé au superviseur pour indiquer qu’il fonctionne encore) et livrer leurs résultats.

Le superviseur, justement, est ici nommé « Watchdog » (littéralement « chien de garde »). Son rôle est de surveiller les exécuteurs en cours de traitement et de remettre en file d’attente les sous-tâches des exécuteurs devenus muets. Ce silence peut provenir de multiples causes : perte réseau, veille, extinction, arrêt volontaire, etc. Ce fonctionnement autorise donc une certaine souplesse.

Quant au dernier composant, c’est tout simplement le tableau de bord pour le suivi de l’ensemble en temps réel.

De fortes limitations

Le tout permet, comme relevé par Apple Insider, de mettre à disposition la puissance inutilisée des GPU pour les mettre à contribution lors d’un travail d’inférence. Ainsi, des équipes qui lancent de grands lots asynchrones d’inférence (index de recherche, génération de texte en masse pour l’évaluation ou l’étiquetage…) n’ont plus besoin d’attendre qu’une grappe de GPU se libère. C’est du moins le fonctionnement sur le papier.

Si le document est intéressant dans le fond, il est aussi très court. Apple ne fournit aucune information mesurée : pas de tests de débits, pas de coût énergétique, de taux de reprise ou aucune comparaison quelle qu’elle soit. Il est donc difficile de se rendre compte des performances.

Les cas présentés ont également un périmètre limité. La publication n’évoque que deux types de charges : les modèles de vecteurs de représentation chargés via la bibliothèque Transformers de Hugging Face, et la génération de texte via Ollama. Il n’y a pas d’ordonnanceur central, il ne s’agit donc pas d’un modèle découpé et réparti entre les machines.

En fait, chaque exécuteur doit pouvoir faire tourner intégralement le modèle en local, ce qui limite d’autant les cas. La mémoire a beau être universelle sur les Mac Apple Silicon, sa quantité détermine directement ce que l’on peut y faire résider. Pas question par exemple d’y faire tourner le tout récent Muse Spark Open.

• Avec Muse Spark Open, Meta ouvre les poids et se rapproche d’Apple

Et si vous vous posez la question : non, l’entrainement n’est pas pris en charge, en tout cas pour l’instant. Apple compte prendre en charge l’entraînement distribué à l’avenir, sans plus de détails.

Quel intérêt ?

Au sein d’une organisation, l’infrastructure présentée peut avoir des avantages, mais il ne s’agit pas d’un projet « magique » capable de fonctionner avec tous les modèles. Il y a quand même plusieurs avantages : pas d’achat de GPU dédiés, un coût d’infrastructure considéré comme « nul », une capacité générale qui grandit avec le nombre de Mac présents sur place, ou encore un fonctionnement local puisque les données ne sortent pas de l’organisation.

L’intérêt d’Apple est d’avancer discrètement sur l’argument commercial que les Mac sont des machines taillées pour l’IA. Sur ce point, la présentation de Minions rejoint les annonces autour de Muse Spark Open et du rapprochement avec Meta, Apple ayant publié des mesures et de la documentation MLX.

En filigrane, le papier raconte également une autre histoire : celle des propres limites d’Apple. L’entreprise le dit elle-même dans son article, elle manque de GPU centraux. Ainsi, avant que Minions ne soit utilisé (montrant au passage que l’infrastructure n’est pas que théorique), certaines tâches d’inférence pouvaient attendre plus de 10 heures avant de commencer. Avec Minions, le temps ne serait plus que de quelques minutes, mais Apple ne donne aucun détail supplémentaire.

Dans l’absolu, Minions ne crée aucune rupture, car la récupération de cycles, le calcul bénévole ou encore l’inférence répartie existent déjà. C’est dans les grandes lignes le schéma adopté par l’infrastructure de calcul distribué BOINC, qui exploite les GPU depuis vingt ans. On peut également citer Petals pour répartir un grand modèle en blocs de couches sur des machines bénévoles réparties sur internet. Mais l’idée pourrait séduire les organisations déjà dotées de nombreux Mac, surtout s’ils sont récents et accompagnés d’une bonne quantité de mémoire.

« Plus largement, Minions ouvre une perspective inédite pour la communauté de l’apprentissage automatique : si les appareils macOS inactifs, à l’échelle de plusieurs organisations, voire de la communauté mondiale, pouvaient être fédérés de manière sûre, ils formeraient un vaste parc de GPU partagé, au bénéfice de l’ensemble de l’écosystème », indique Apple dans une conclusion plus ambitieuse.

Poids ouverts pour le poids lourd

Avec Muse Spark Open, Meta revient à ses premières amours, c’est à dire les modèles IA à poids ouverts. Et pour faire tourner ce poids lourd en local, l’entreprise s’est trouvé un partenaire inattendu : Apple.

Avec son ancienne famille de modèles Llama, Meta pensait avoir trouvé la botte secrète face aux LLM propriétaires d’OpenAI, d’Anthropic ou de Google : des modèles à poids ouverts, autrement dit qu’il est possible de télécharger et d’exploiter en local (sous certaines conditions). Patatras : la version 4 des modèles Llama livrée en avril 2025 a été entachée par des accusations de manipulation de benchmarks.

Derrière les modèles chinois

Piqué au vif, Mark Zuckerberg a décidé de tout remettre à plat et de créer de toutes pièces un nouveau labo dont les membres ont été débauchés à prix d’or partout dans la Silicon Valley et au-delà. Les premiers résultats sont apparus un an plus tard avec Muse Spark, un modèle… fermé.

L’idée des poids ouverts n’était cependant pas perdue. Alors que le débat autour des modèles ouverts battait son plein cet été, Meta livrait Muse Glimmer, un modèle déjà conséquent de 30 milliards de paramètres assorti d’une licence open source permissive (Apache 2.0). L’entreprise en rajoute une couche avec Muse Spark Open, « le modèle à poids ouverts américain le plus capable ».

Muse Spark Open est un modèle multimodal de 816 milliards de paramètres (42 milliards actifs pour chaque token utilisé selon une architecture Mixture of Experts) avec une fenêtre de contexte de 1 million de tokens, autrement dit la quantité d’informations qu’il peut prendre en compte durant une interaction. C’est désormais courant pour les modèles frontières, y compris Muse Wonder. Spark Open accepte du texte, des images, de la vidéo et de l’audio en entrée, mais il ne génère que du texte.

Meta présente Spark Open comme « conçu pour la programmation et les tâches agentiques », avec une prédilection pour « les travaux de longue haleine, le développement logiciel complexe et le raisonnement en plusieurs étapes. » Face à des modèles à poids ouverts concurrents, il figure en tête dans deux des trois benchmarks sur les tâches agentiques (JobBench et MCP-Atlas). Sur GDPval-AA v2 en revanche, il est dépassé par trois modèles chinois et Mistral Large 4.

En matière de programmation, Spark Open n’occupe aucune première place du podium : il est derrière quatre rivaux sur Terminal-Bench 2.1, et il se trouve dans la moyenne sur DeepSWE. Le modèle affiche de bons résultats sur les tests de connaissances et de raisonnement, et il se montre solide sur le multimodal. En tout, sur onze benchs, Meta décroche six premières places. Il manque également au tableau ses comparaisons avec les modèles fermés d’OpenAI et d’Anthropic.

Deux Mac Studio pour un modèle poids lourd

Le modèle donnera la pleine mesure de son talent sur le Mac Studio avec puce M5 Ultra, et même deux. Meta et Apple ont en effet travaillé ensemble pour que Spark Open exploite à plein le GPU intégré au silicium Apple, sa mémoire unifiée et la bande passante de la puce (jusqu’à 1,2 To/s).

Connecter deux Mac Studio dotés de 512 Go de mémoire permet de répartir le modèle entre les deux machines, qui disposent ainsi d’un téraoctet de mémoire au total : les 816 milliards de paramètres , stockés dans une version quantifiée en 4 bits, restent ainsi disponibles en mémoire (même si 42 milliards sont réellement mobilisés pour chaque token traité).

On parle d’une configuration qui devrait aisément dépasser les 30 000 euros pour deux Mac Studio M5 Ultra, Apple n’ayant pas encore annoncé le prix de l’option mémoire de 512 Go… Et Meta a indiqué qu’on pouvait même monter à quatre Mac Studio. Le tout est réalisable grâce à MLX, un framework d’Apple qui répartit l’exécution de modèles à poids ouverts entre plusieurs Mac reliés en Thunderbolt 5.

La haine recuite entre les deux entreprises est oubliée : l’IA rapproche donc même les pires ennemis ! « On est ravis que papa et maman s’entendent à nouveau », s’est amusé Alexandr Wang, le patron de l’IA chez Meta, auprès d’Axios. Les deux entreprises ont bûché pendant plusieurs mois pour cette annonce, mais cela ne les empêchera pas de conserver leur rivalité sur d’autres terrains. « Quand il est pertinent de collaborer et de nouer des partenariats, nous voulons pouvoir le faire », ajoute le dirigeant.

Les poids de Muse Spark Open sont disponibles sur Hugging Face. La licence Muse Model n’est pas aussi permissive que celle de Glimmer, même s’il est autorisé de modifier le modèle, de le distiller, de le redistribuer et même d’en vendre des copies sous réserve de respecter la licence et d’afficher une attribution. Certains usages militaires, la création de logiciels malveillants et le contournement des restrictions ou mesures de sécurité sont prohibés. Meta ne revendique aucun droit de propriété sur les sorties du modèle.