NVIDIA ha annunciato l’intenzione di rendere open source cuFile, insieme al relativo stack software dedicato alla gestione dello storage. L’annuncio è stato effettuato in occasione del Future of Memory and Storage 2026, evento durante il quale l’azienda ha illustrato la propria strategia per migliorare il trasferimento dei dati tra sistemi di archiviazione e acceleratori GPU.
La tecnologia cuFile rappresenta uno degli elementi fondamentali di GPUDirect Storage, l’architettura sviluppata per consentire il trasferimento diretto dei dati tra dispositivi di storage, come SSD e sistemi di archiviazione collegati via rete, e la memoria della GPU.
L’obiettivo è ridurre il più possibile i passaggi intermedi attraverso CPU e memoria di sistema, una caratteristica particolarmente importante nei carichi di lavoro legati all’intelligenza artificiale e all’elaborazione di grandi quantità di dati.
GPUDirect Storage riduce i passaggi tra storage e GPU
Nelle architetture tradizionali, il trasferimento di dati da un dispositivo di archiviazione verso una GPU può richiedere il coinvolgimento della CPU e della memoria RAM di sistema.
GPUDirect Storage introduce invece un percorso più diretto, consentendo ai dati di essere trasferiti dallo storage verso la memoria della GPU senza dover necessariamente effettuare le tradizionali copie intermedie attraverso i buffer gestiti dalla CPU.
Questo approccio può contribuire a ridurre la latenza e il carico sulla CPU, migliorando l’efficienza complessiva del sistema nei carichi caratterizzati da un’elevata intensità di I/O.
Il vantaggio diventa particolarmente evidente nei sistemi dedicati all’intelligenza artificiale, dove GPU e acceleratori devono elaborare rapidamente enormi quantità di dati.
cuFile entra nel mondo open source
Il passaggio più importante annunciato da NVIDIA riguarda la decisione di aprire il codice e le specifiche di cuFile.
Le librerie e le specifiche saranno ospitate su GitHub dalla nuova organizzazione xio-sig, alla quale partecipano inizialmente aziende come Google, Intel, Meta e NVIDIA.
L’iniziativa punta quindi a trasformare cuFile da tecnologia strettamente legata all’ecosistema NVIDIA in un progetto maggiormente aperto e interoperabile.
Il progetto dovrebbe comprendere diversi componenti, tra cui:
- una API universale cuFile;
- benchmark conformi agli standard;
- la libreria multipiattaforma libxFile;
- il database xioLinux.
L’apertura dell’ecosistema potrebbe favorire lo sviluppo di implementazioni compatibili con differenti piattaforme hardware e software, aumentando l’interoperabilità tra GPU, sistemi di storage e infrastrutture di calcolo.
Oltre 40 produttori coinvolti nello Storage-Next
L’iniziativa si inserisce inoltre nel programma Storage-Next, che punta alla definizione di standard più aperti per le tecnologie di archiviazione utilizzate nei moderni sistemi di calcolo.
Secondo NVIDIA, alla collaborazione prenderanno parte oltre 40 produttori di hardware, tra cui Micron, KIOXIA e DDN.
Il coinvolgimento di un numero così elevato di aziende potrebbe essere particolarmente importante per la definizione di interfacce e standard comuni, soprattutto considerando la crescente necessità di collegare direttamente sistemi di storage ad alte prestazioni agli acceleratori utilizzati nei data center.
L’obiettivo non è quindi limitato all’apertura del codice cuFile, ma sembra inserirsi in un progetto più ampio destinato a ridefinire il modo in cui storage e acceleratori comunicano all’interno delle infrastrutture HPC e AI.
Gli SSD non possono sostituire la memoria HBM
L’apertura di cuFile non significa, tuttavia, che gli SSD possano diventare un sostituto diretto della HBM (High Bandwidth Memory) utilizzata dalle GPU.
Le caratteristiche fisiche delle due tecnologie rimangono profondamente differenti. La HBM offre una combinazione di latenza estremamente ridotta e banda passante molto elevata, mentre gli SSD, pur raggiungendo prestazioni I/O sempre più elevate, operano con latenze e livelli di banda differenti.
Il vantaggio di un accesso diretto allo storage consiste quindi soprattutto nella possibilità di ridurre i tempi di trasferimento e il numero di copie intermedie, non nel trasformare un SSD in una memoria ad alte prestazioni equivalente alla HBM.
Un ruolo importante per l’intelligenza artificiale
L’ottimizzazione del percorso tra storage e GPU assume particolare rilevanza con l’aumento delle dimensioni dei modelli di intelligenza artificiale.
I moderni modelli AI possono gestire enormi quantità di parametri e dataset, mentre applicazioni basate su finestre di contesto molto estese possono richiedere un continuo movimento di dati tra differenti livelli della gerarchia di memoria.
Portare i dati direttamente verso la memoria della GPU può contribuire a ridurre i colli di bottiglia associati alla CPU e alla RAM di sistema, permettendo agli acceleratori di rimanere maggiormente alimentati con dati durante le operazioni di elaborazione.
Secondo le informazioni diffuse nell’ambito dell’iniziativa, il collegamento diretto tra storage e GPU può portare le latenze nell’ordine dei microsecondi, un risultato particolarmente interessante per infrastrutture AI e sistemi di calcolo ad alte prestazioni.
Compressione e crittografia accelerate
L’architettura proposta non riguarda esclusivamente il trasferimento dei dati.
Secondo NVIDIA, le piattaforme basate sulle architetture SCADA e sui processori Vera possono accelerare alcune operazioni di compressione e cifratura dei dati fino a 3,21 volte rispetto alle tradizionali architetture x86.
Questo tipo di accelerazione può assumere un ruolo significativo nei data center moderni, dove i dati devono frequentemente essere compressi, decompressi o protetti durante le operazioni di archiviazione e trasferimento.
L’integrazione di queste capacità direttamente all’interno della pipeline di storage può quindi contribuire a ridurre ulteriormente il carico sui processori general purpose.
Un passo verso uno storage più vicino agli acceleratori
L’apertura di cuFile rappresenta un passaggio importante nella strategia di NVIDIA per l’evoluzione dell’infrastruttura AI.
La crescita dei modelli di intelligenza artificiale sta infatti rendendo sempre più evidente che le prestazioni complessive di un sistema non dipendono esclusivamente dalla potenza di calcolo della GPU. Memoria, interconnessioni e storage sono diventati elementi altrettanto importanti per evitare che gli acceleratori rimangano in attesa dei dati.
Rendere disponibili API, librerie e benchmark attraverso un ecosistema open source potrebbe favorire la nascita di implementazioni interoperabili e consentire a un numero maggiore di produttori di contribuire allo sviluppo dello stack.
Il progetto xio-sig e l’iniziativa Storage-Next potrebbero quindi rappresentare un tentativo di creare uno standard più aperto per il collegamento diretto tra storage e acceleratori.
La sfida, nei prossimi anni, sarà riuscire a ridurre ulteriormente la distanza prestazionale tra i diversi livelli della gerarchia di memoria, senza sacrificare interoperabilità, affidabilità e sicurezza. In questo scenario, cuFile open source potrebbe diventare uno dei tasselli tecnologici più interessanti per le infrastrutture dedicate all’AI e al calcolo ad alte prestazioni.
HW Legend Staff
