9 600 GPU Nvidia A100 : un cluster IA affiché à 59,7 millions de dollars

Un lot de matériel informatique hors norme attire l’attention : un revendeur a affiché sur eBay un ensemble de 300 racks de serveurs, annoncé avec jusqu’à 9 600 accélérateurs Nvidia A100 et 4 200 processeurs AMD EPYC, pour 59,7 millions de dollars. Derrière ce chiffre spectaculaire, la vraie question n’est pas seulement la puissance de calcul : c’est le coût de remise en service d’une infrastructure de cette taille.

les contraintes électriques qui freinent le déploiement des GPU IA

L’annonce du vendeur Core 4 Solutions sur eBay décrit du matériel d’occasion décommissionné. Le prix est un prix demandé, avec possibilité de faire une offre : il ne prouve ni qu’une transaction a eu lieu, ni que l’ensemble a été vendu à ce montant.

Que contient ce gigantesque lot de serveurs ?

Selon la fiche de vente, chaque rack comprend quatre nœuds de calcul, chacun équipé de huit GPU Nvidia A100 SXM4 de 40 Go. Le vendeur indique également deux processeurs AMD EPYC Rome à 64 cœurs par nœud de calcul, 1 To de mémoire DDR4, des cartes réseau ConnectX-6 et une interconnexion GPU NVSwitch. Chaque rack comprend aussi trois nœuds de gestion dotés de processeurs EPYC.

• 300 racks annoncés dans le lot.
• Jusqu’à 9 600 GPU Nvidia A100 de 40 Go, soit 32 par rack.
• 4 200 processeurs AMD EPYC Rome annoncés, en comptant les nœuds de calcul et de gestion.
• Environ 1,4 pétaoctet de mémoire système selon les chiffres rapportés autour de l’annonce.
• Un prix affiché de 59,7 millions de dollars, négociable selon la fiche eBay.

Ces chiffres décrivent la configuration annoncée, pas un audit indépendant. Il faut aussi distinguer la mémoire système de la mémoire vidéo : les 40 Go de chaque A100 s’ajoutent à la mémoire des serveurs, mais ne constituent pas une réserve unique automatiquement accessible comme un seul bloc par n’importe quelle application.

Pourquoi des GPU A100 restent-ils intéressants ?

L’A100 appartient à la génération Ampere de Nvidia, présentée en 2020 pour les centres de données. Ce n’est pas une carte graphique gaming classique : elle vise notamment l’entraînement et l’inférence de modèles d’intelligence artificielle, ainsi que le calcul scientifique. Une grande flotte de ces accélérateurs peut encore intéresser un opérateur qui dispose déjà des logiciels, des équipes et des installations nécessaires.

La documentation du constructeur présente l’architecture et les usages de la plateforme dans la page officielle Nvidia A100. En pratique, l’intérêt dépend du modèle utilisé, de la mémoire nécessaire, de la vitesse des échanges entre GPU et du coût par tâche accomplie. Le nombre de puces, à lui seul, ne permet pas de prédire les performances d’un service d’IA.

Le prix d’achat ne représente qu’une partie de la facture

Un cluster de cette taille demande un site adapté, une alimentation électrique conséquente, un refroidissement industriel, du réseau haut débit et une équipe capable de maintenir les machines. Il faut également prévoir le transport, l’installation, les pièces de rechange, la supervision, la sécurité physique et le temps nécessaire pour valider le fonctionnement de l’ensemble.

À titre d’ordre de grandeur théorique, 9 600 GPU consommant chacun jusqu’à 400 watts représenteraient 3,84 mégawatts pour les accélérateurs seuls. Ce calcul à partir de la puissance nominale ne mesure pas la consommation réelle du cluster et n’inclut ni les processeurs, ni la mémoire, ni le réseau, ni les pertes électriques, ni le refroidissement. Il serait donc trompeur d’en déduire une facture d’électricité précise sans connaître la charge effective et le tarif du site.

Le réseau est un autre point essentiel. Une machine distribuée sur des centaines de racks ne se comporte pas comme un PC géant que l’on branche simplement à une prise : la topologie, la latence entre nœuds, la configuration logicielle et les tests de stabilité peuvent changer radicalement les résultats obtenus.

Une estimation de valeur ne garantit pas une bonne affaire

Une estimation journalistique évoquée autour de cette annonce évalue certains composants à environ 28,1 millions de dollars, sans couvrir nécessairement toute l’infrastructure. Ce type de comparaison reste indicatif : la valeur dépend de l’état réel des équipements, des accessoires inclus, de la garantie, du coût de déploiement et de la demande sur le marché de l’occasion. Elle ne suffit pas à établir que le prix demandé est juste ou excessif.

Avant d’engager une somme pareille, un acheteur devrait demander un inventaire vérifiable, les historiques de maintenance, les conditions exactes de garantie, des tests de charge, la liste complète du matériel réseau et de stockage, ainsi qu’un plan logistique. La fiche indique du matériel d’occasion et des restrictions de conformité à l’exportation : ces points doivent être examinés avant toute commande.

Ce qu’il faut retenir

Cette annonce illustre surtout le changement d’échelle de l’informatique dédiée à l’IA : des accélérateurs autrefois réservés aux grands opérateurs circulent désormais aussi sur le marché de l’occasion, sous forme de lots industriels. Mais 9 600 GPU ne deviennent pas une infrastructure rentable par magie. Sans alimentation, refroidissement, réseau, maintenance et charge de travail adaptée, le matériel peut coûter bien davantage que son prix d’achat ne le laisse penser.

À ce stade, le montant de 59,7 millions de dollars reste une demande affichée, et les spécifications restent celles déclarées dans l’annonce. Aucune vente conclue ni validation indépendante de l’ensemble du cluster n’est établie par ces seuls éléments.