Microsoft lance la Maia 300 pour payer moins cher que Nvidia

Microsoft a dévoilé la Maia 300, la troisième génération de sa puce d'intelligence artificielle maison, et compte en faire le système principal d'inférence de ses services, autrement dit la machine qui fait tourner Copilot et les modèles hébergés sur Azure quand vous leur posez une question.

La puce est gravée par TSMC, le fondeur taïwanais qui produit aussi les processeurs d'Apple et de Nvidia, sur son procédé N2P en 2 nanomètres pour la partie calcul, avec des blocs mémoire et d'entrées-sorties gravés en 3 nanomètres juste à côté. Un assemblage de petites puces spécialisées, donc, plutôt qu'une énorme puce monolithique.

Côté muscles, chaque Maia 300 embarque 288 Go de HBM4, une mémoire ultra rapide empilée directement contre le processeur, avec une bande passante de 18 téraoctets par seconde. Le tout avale quand même 950 watts par puce.

Microsoft promet un débit de tokens, ces petits bouts de texte que les modèles produisent, jusqu'à sept fois supérieur à celui de la Maia 200 à l'échelle d'un rack, et 40 % d'inférence en plus par mégawatt que les meilleurs systèmes à base de GPU, comprenez les cartes de Nvidia. La puce serait pensée d'abord pour le code et les grosses tâches d'entreprise. Des chiffres maison, à vérifier en conditions réelles.

En production, ça prendra la forme d'armoires de 96 puces consommant autour de 167 kilowatts pièce, une densité doublée par rapport à la Maia 200, avec des grappes pouvant relier jusqu'à 12 000 accélérateurs.

Les premiers déploiements sont prévus pour 2027, avec plusieurs gigawatts de capacité au programme et plus d'un million d'exemplaires évoqués dès la première année, alors que la génération précédente tourne déjà dans les serveurs de la maison.

L'opération cherche surtout à baisser la facture Nvidia, ces dizaines de milliards de dollars que Microsoft dépense chaque année en GPU achetés au prix fort chez un fournisseur en quasi monopole, alors qu'une requête Copilot servie par du silicium maison coûte une fraction du prix.

Google suit la même logique avec ses TPU depuis presque dix ans, Amazon avec ses Trainium, OpenAI avec les puces qu'elle dessine chez Broadcom et Samsung, et tout ce petit monde continue quand même d'acheter du Nvidia par camions entiers, faute de mieux pour entraîner les très gros modèles.

Rani Borkar, qui dirige le matériel Azure, promet "plus de calcul pour chaque watt, chaque dollar et chaque octet de mémoire". Les fermes de serveurs engloutissent déjà des quantités folles d'électricité. On la croit donc volontiers.

Source : The Verge