Un supercomputer con 9.600 GPU A100 in vendita su eBay per $59,7 milioni (inserzione chiusa)

• Core 4 Solutions, rivenditore di hardware IT del Minnesota, ha messo su eBay un cluster dismesso da 300 rack, proveniente da un hyperscaler, a $59,7 milioni o miglior offerta: fino a 9.600 Nvidia A100 40GB SXM4, 4.200 AMD EPYC Rome da 64 core (268.800 core in tutto), circa 1,4 PB di RAM e 384 TB di memoria GPU. L'inserzione ora risulta chiusa.
• Ogni rack ha 4 nodi di calcolo (8 A100 collegate da NVSwitch, 2 EPYC, 1 TB di DDR4, schede ConnectX-6 da 200 Gb/s) e 3 nodi di gestione. Il prezzo fa circa $6.200 per GPU tutto compreso, o circa $199.000 a rack. Spedizione gratuita con FedEx Ground, $50 per la consegna overnight, ritiro sul posto e garanzia di 30 giorni.
• Le A100 (architettura Ampere, del 2020) restano utili per inferenza, training più piccoli e calcolo scientifico, e un'inserzione così mostra quanto si stia muovendo il mercato dell'usato delle infrastrutture AI.

Fuentes

• Inserzione eBay
• TweakTown