Per addestrare un'intelligenza artificiale come Grok o ChatGPT servono migliaia di processori speciali che lavorano insieme per mesi. Nel 2024 xAI, l'azienda di intelligenza artificiale di Elon Musk, ne costruisce uno dei più grandi al mondo. Si chiama Colossus.
I numeri
- 100.000 GPU Nvidia H100 all'avvio: sono i chip più richiesti per l'intelligenza artificiale, ciascuno del costo di decine di migliaia di dollari;
- 122 giorni per costruirlo, secondo xAI: un tempo che per strutture del genere di solito si misura in anni;
- raffreddamento a liquido, perché tanti chip insieme producono un calore enorme.
L'addestramento parte il 22 luglio 2024. Musk scrive su X che è iniziato alle 4:20 del mattino, ora locale, e lo definisce il cluster per l'IA più potente del mondo. Pochi mesi dopo xAI annuncia di volerne raddoppiare la dimensione.
Dove si trova
Colossus sta a Memphis, in Tennessee, dentro un grande capannone che un tempo era una fabbrica di elettrodomestici. Riutilizzare un edificio esistente è uno dei motivi della velocità.
- 100.000GPU Nvidia H100 all'avvio
- 122 giorniper costruirlo
- 22 luglio 2024parte l'addestramento
Il prezzo nascosto: l'energia
Un supercomputer del genere consuma quanto una piccola città. Per avere energia subito, xAI ha usato anche turbine a gas installate sul posto. Associazioni ambientaliste e residenti della zona hanno protestato per l'inquinamento dell'aria, chiedendo più controlli.
Lo sapevi?
La GPU nasce per i videogiochi: serve a disegnare milioni di pixel insieme. Proprio questa capacità di fare tanti piccoli calcoli in parallelo l'ha resa perfetta per l'intelligenza artificiale. È per questo che Nvidia, partita dalle schede video, è diventata una delle aziende più ricche del mondo.
Un'IA che consuma quanto una città ne vale la pena?
Tocca una risposta per vedere come hanno risposto gli altri.
Hai trovato un errore? Segnalacelo. Le eventuali correzioni restano visibili in questa pagina.
