NVIDIA ha aggiornato le specifiche tecniche della piattaforma Vera Rubin, riducendo le prestazioni dichiarate per la memoria HBM4 e per l’interconnessione NVLink.
Le modifiche riguardano in particolare la velocità della memoria per pin e la larghezza di banda disponibile tra le GPU, con possibili ripercussioni sulle prestazioni complessive dei sistemi destinati all’intelligenza artificiale e al calcolo ad alte prestazioni.
Stando alle specifiche aggiornate, il sistema rack-scale Vera Rubin NVL72 offre ora una larghezza di banda complessiva della memoria pari a 1.400 TB/s, contro i 1.580 TB/s indicati in precedenza. Anche la banda bidirezionale di NVLink è stata ridimensionata, passando da 3,6 TB/s a 3 TB/s per GPU.
Le revisioni riducono quindi alcuni dei valori prestazionali inizialmente annunciati da NVIDIA e modificano il confronto con le soluzioni concorrenti, in particolare con la piattaforma Helios di AMD.
NVIDIA Vera Rubin: la memoria HBM4 scende a 9,6 Gbps per pin
La prima modifica riguarda la memoria HBM4, una componente fondamentale per le piattaforme dedicate all’intelligenza artificiale, dove la capacità di trasferire rapidamente grandi quantità di dati rappresenta un fattore determinante.
Secondo la precedente documentazione, NVIDIA puntava a una velocità di 11,7 Gbps per pin. La nuova scheda tecnica indica invece un valore di 9,6 Gbps per pin, con una conseguente riduzione della larghezza di banda complessiva del sistema.
Nel rack Vera Rubin NVL72, che integra 72 GPU, la banda totale della memoria passa così da 1.580 TB/s a 1.400 TB/s. Si tratta di una diminuzione di circa l’11,4% rispetto al valore precedentemente dichiarato.
La revisione non viene attribuita direttamente a un problema dei fornitori di memoria. Le informazioni disponibili suggeriscono piuttosto possibili difficoltà legate all’implementazione della memoria, all’ampiezza del bus e alla gestione dei segnali elettrici necessari per sostenere velocità di trasferimento più elevate.
In sistemi di questa complessità, infatti, aumentare la velocità della memoria non significa intervenire esclusivamente sui chip HBM4: è necessario garantire che l’intero percorso del segnale mantenga caratteristiche elettriche adeguate.
Anche NVLink perde banda: da 3,6 a 3 TB/s per GPU
Le modifiche introdotte da NVIDIA non si fermano alla memoria HBM4. La nuova documentazione ridimensiona anche le prestazioni dell’interconnessione NVLink, la tecnologia proprietaria utilizzata per consentire alle GPU di comunicare ad alta velocità.
La larghezza di banda per GPU scende da 1,8 TB/s a 1,5 TB/s per direzione, con una banda bidirezionale complessiva che passa da 3,6 TB/s a 3 TB/s.
La variazione viene associata a questioni di integrità del segnale (signal integrity), un aspetto particolarmente delicato quando si devono trasferire dati ad altissima velocità attraverso collegamenti elettrici, cavi e materiali di interconnessione.
Stando alle informazioni riportate, NVIDIA avrebbe abbassato anche la frequenza di Nyquist di riferimento per NVLink, portandola da 56 GHz a 47 GHz.
La frequenza di Nyquist è un parametro importante nella progettazione dei collegamenti digitali ad alta velocità: ridurne il valore può attenuare le difficoltà legate alla trasmissione dei segnali e diminuire le esigenze imposte ai circuiti SerDes, ai cavi e ai materiali impiegati.
In termini pratici, una frequenza di funzionamento meno ambiziosa può rendere più semplice ottenere collegamenti stabili e migliorare la resa produttiva. Il compromesso consiste nell’accettare una larghezza di banda di picco inferiore.
NVIDIA sembra quindi privilegiare la stabilità del sistema e la fattibilità produttiva rispetto ai valori massimi di banda inizialmente dichiarati. Le informazioni disponibili, tuttavia, non sono sufficienti per attribuire con certezza la revisione a una singola causa tecnica.
AMD Helios contro NVIDIA Vera Rubin: il confronto sulla memoria HBM4
La riduzione delle specifiche di Vera Rubin modifica anche il confronto con AMD Helios, la piattaforma rack-scale progettata per i sistemi di intelligenza artificiale e basata sugli acceleratori Instinct MI455X.
Secondo i dati riportati, la soluzione AMD dispone di una capacità di memoria HBM4 superiore per GPU e di una maggiore larghezza di banda complessiva a livello di rack.
AMD Instinct MI455X vs NVIDIA Vera Rubin
Confronto dei valori dichiarati per GPU:
AMD Instinct MI455X
432 GB HBM4
Banda HBM4: 23,3 TB/s
NVIDIA Vera Rubin
288 GB HBM4
Valori riportati nel testo di partenza. Il confronto presuppone configurazioni e metriche omogenee.
L’acceleratore AMD Instinct MI455X viene indicato con 432 GB di HBM4 e 23,3 TB/s di larghezza di banda, mentre la GPU Vera Rubin viene associata a 288 GB di memoria e 19,2 TB/s.
Il vantaggio di AMD è quindi pari al 50% in termini di capacità di memoria per GPU, mentre la banda dichiarata è superiore di circa il 21,4%.
Queste differenze possono avere un peso significativo nei carichi di lavoro che richiedono di mantenere grandi quantità di dati direttamente nella memoria degli acceleratori, riducendo la necessità di ricorrere a trasferimenti aggiuntivi.
Helios offre più memoria e banda a livello di rack
Il divario emerge anche considerando i sistemi completi. Per un rack composto da 72 GPU, i dati riportati indicano circa 31 TB di HBM4 e una larghezza di banda complessiva di 1,67 PB/s per AMD Helios.
Il sistema NVIDIA Vera Rubin NVL72 si attesterebbe invece su circa 20,7 TB di memoria HBM4 e 1,4 PB/s di banda complessiva.
| Specifica | AMD Helios | NVIDIA Vera Rubin NVL72 |
|---|---|---|
| Memoria HBM4 per GPU | 432 GB | 288 GB |
| Banda HBM4 per GPU | 23,3 TB/s | 19,2 TB/s |
| Memoria HBM4 per rack | Circa 31 TB | Circa 20,7 TB |
| Banda memoria per rack | Circa 1,67 PB/s | 1,4 PB/s |
| Banda bidirezionale per GPU | 3,6 TB/s | 3 TB/s |
| Banda aggregata dell’interconnessione | 260 TB/s | 216 TB/s |
Anche sul fronte dell’interconnessione, AMD viene indicata con una banda bidirezionale di 3,6 TB/s per GPU attraverso UALoE, per un totale aggregato di 260 TB/s. NVIDIA, con la revisione di NVLink, scenderebbe invece a 3 TB/s per GPU e 216 TB/s aggregati.
Nel confronto riportato, Helios mantiene quindi un vantaggio sia nella capacità di memoria sia nella banda disponibile per i trasferimenti tra acceleratori.
È importante, tuttavia, considerare che i valori di picco non determinano da soli le prestazioni effettive: architettura, software, comunicazione tra GPU, consumi e caratteristiche dei singoli carichi di lavoro possono influenzare sensibilmente i risultati.
Quali conseguenze per i sistemi di intelligenza artificiale?
La memoria HBM4 e le interconnessioni ad alta velocità sono elementi essenziali per i sistemi destinati all’addestramento e all’esecuzione di modelli di intelligenza artificiale di grandi dimensioni.
Una maggiore capacità di memoria consente di gestire modelli e insiemi di dati più estesi, mentre un’elevata larghezza di banda può ridurre i tempi necessari per trasferire i dati tra memoria e processori. Allo stesso modo, un’interconnessione più veloce favorisce la comunicazione tra GPU quando un carico di lavoro viene distribuito su più acceleratori.
La riduzione delle specifiche di Vera Rubin potrebbe quindi incidere sul confronto teorico con le piattaforme concorrenti, soprattutto negli scenari particolarmente sensibili alla banda della memoria e alla comunicazione tra GPU.
Questo non significa, però, che AMD Helios sarà necessariamente più veloce in ogni applicazione. Per stabilire quale piattaforma offra le prestazioni migliori sarà necessario attendere benchmark indipendenti, misurazioni in condizioni comparabili e dati sulle prestazioni reali dei sistemi completi.
NVIDIA Vera Rubin, un compromesso tra prestazioni e stabilità
L’aggiornamento delle specifiche di Vera Rubin evidenzia le difficoltà che accompagnano lo sviluppo di infrastrutture AI sempre più complesse. Portare la memoria HBM4 e le interconnessioni a velocità elevate richiede un equilibrio tra prestazioni, integrità del segnale, affidabilità e possibilità di produzione su larga scala.
La riduzione della banda HBM4 da 1.580 a 1.400 TB/s e quella di NVLink da 3,6 a 3 TB/s per GPU rappresentano modifiche rilevanti rispetto agli obiettivi iniziali. Allo stesso tempo, un funzionamento più conservativo può contribuire a rendere il sistema più gestibile dal punto di vista elettrico e produttivo.
Per NVIDIA, la sfida sarà dimostrare che Vera Rubin può mantenere prestazioni competitive anche dopo queste revisioni. Per AMD, invece, i valori dichiarati di Helios e Instinct MI455X costituiscono un elemento importante nel confronto tra le due piattaforme.
Il verdetto definitivo arriverà soltanto con i sistemi disponibili e i primi test indipendenti: fino ad allora, i dati di targa indicano un vantaggio di AMD su alcuni parametri chiave, ma non bastano da soli a stabilire quale infrastruttura AI garantirà le migliori prestazioni complessive.
HW Legend Staff
