La corsa all’hardware per l’intelligenza artificiale sta dando vita a soluzioni sempre più sorprendenti, soprattutto quando si parla di schede grafiche dotate di grandi quantità di memoria VRAM.
Se durante il boom del mining di criptovalute erano le GPU da gaming a diventare introvabili e costosissime, oggi l’attenzione del mercato si è spostata verso gli acceleratori professionali per IA, dove la quantità di memoria rappresenta uno degli elementi più importanti.
La crescente domanda ha già spinto alcune aziende a recuperare schede grafiche consumer di fascia alta, come le NVIDIA GeForce RTX 5090, per trasformarle in acceleratori destinati all’intelligenza artificiale.
Ora, però, una ricercatrice hardware ha dimostrato che è possibile ottenere risultati ancora più sorprendenti partendo da una vecchia scheda progettata per il mining di criptovalute.
La protagonista è una NVIDIA CMP 170HX da 8 GB, trasformata in un acceleratore equivalente a una NVIDIA A100 con 80 GB di memoria HBM2e attraverso una tecnica conosciuta come voltage glitching.
NVIDIA CMP 170HX: da scheda per mining a GPU professionale da 80 GB
La protagonista dell’esperimento è Kate, ricercatrice hardware conosciuta su GitHub con il nome di kate-land, che è riuscita a sbloccare le risorse hardware nascoste all’interno della NVIDIA CMP 170HX.
Il risultato è particolarmente interessante perché questa scheda grafica, originariamente progettata per il mining di criptovalute, utilizza lo stesso chip GA100 basato sull’architettura Ampere presente negli acceleratori professionali NVIDIA A100.
Nonostante la CMP 170HX venisse commercializzata con appena 8 GB di memoria accessibile, il modello disponeva fisicamente di una configurazione HBM2e molto più ampia, fino a 80 GB. NVIDIA aveva infatti disabilitato numerose risorse attraverso specifici blocchi hardware, impedendo l’accesso a una parte della memoria e delle unità di elaborazione.
Il meccanismo di limitazione si basava sugli eFuse, ovvero fusibili elettronici programmabili utilizzati per disattivare determinate funzionalità del processore grafico, comprese alcune unità di calcolo, le connessioni PCIe e le caratteristiche professionali.
L’esperimento di Kate ha dimostrato che queste limitazioni possono essere aggirate senza dover sostituire fisicamente i chip di memoria.
Voltage glitching: come è stato possibile sbloccare gli 80 GB di VRAM
La tecnica utilizzata prende il nome di voltage glitching e consiste nell’introdurre alterazioni estremamente precise e controllate nella tensione elettrica fornita a un componente hardware.
Nel caso della CMP 170HX, Kate ha utilizzato una piccola scheda elettronica basata su un microcontrollore STM32G4, dal costo di circa 8 dollari, per provocare variazioni controllate dell’alimentazione della GPU.
Il dispositivo è stato progettato con l’aiuto di GPT-6 Astra e ha permesso di intervenire sul comportamento del controller responsabile della gestione degli eFuse.
Attraverso questa tecnica, la ricercatrice è riuscita a far entrare temporaneamente il controller in uno stato anomalo, rendendo possibile modificare alcune configurazioni hardware che normalmente sarebbero state bloccate in modo permanente.
L’operazione ha consentito di recuperare una parte consistente delle risorse presenti fisicamente nel chip GA100, compresa la memoria HBM2e non accessibile nella configurazione originale.
Un aspetto fondamentale del lavoro è stato mantenere disabilitate le unità identificate come difettose, evitando così di compromettere la stabilità della scheda o di attivare componenti non funzionanti.
Nove schede su dieci hanno raggiunto gli 80 GB di memoria
I risultati ottenuti durante i test sono particolarmente significativi. Su dieci NVIDIA CMP 170HX sottoposte alla modifica, nove sono riuscite a raggiungere tutti gli 80 GB di memoria VRAM, mentre una si è fermata a 64 GB funzionanti.
Non si è trattato soltanto di recuperare memoria aggiuntiva. L’intervento ha permesso anche di riattivare ulteriori multiprocessori di streaming, aumentando le capacità di elaborazione del chip GA100.
In uno dei test, una delle schede modificate è riuscita a superare di circa il 20% le prestazioni FP16 FMA di una NVIDIA A100 standard.
Il risultato trova una possibile spiegazione nella configurazione fisica del chip GA100: il processore può integrare fino a 128 Streaming Multiprocessor, mentre la versione commerciale della A100 utilizza 108 unità.
Alcune delle CMP 170HX modificate disponevano quindi di un numero di unità di elaborazione funzionanti superiore a quello presente nell’acceleratore professionale standard.
Recuperate anche PCIe 4.0, NVLink, ECC e Multi-Instance GPU
Oltre alla memoria e alla potenza di calcolo, la modifica ha permesso di recuperare diverse funzionalità professionali normalmente associate agli acceleratori NVIDIA per data center. Tra queste troviamo:
PCIe 4.0: per garantire una maggiore larghezza di banda nella comunicazione con il sistema;
NVLink: tecnologia che permette la comunicazione ad alta velocità tra acceleratori compatibili;
ECC: sistema di correzione degli errori della memoria, particolarmente importante negli ambienti professionali;
Multi-Instance GPU (MIG): funzionalità che consente di suddividere una GPU in più istanze indipendenti, ciascuna con risorse dedicate.
Si tratta di caratteristiche particolarmente utili per applicazioni di intelligenza artificiale, elaborazione ad alte prestazioni e infrastrutture server.
Naturalmente, il recupero di queste funzionalità non significa che una CMP 170HX modificata sia automaticamente equivalente a una A100 certificata e supportata ufficialmente da NVIDIA. Rimangono da considerare compatibilità software, affidabilità e stabilità operativa.
NVIDIA informata della vulnerabilità: la ricerca è stata resa pubblica
Kate ha comunicato a NVIDIA i risultati della propria ricerca, decidendo successivamente di rendere pubblica la scoperta anche dopo aver appreso che un’altra persona aveva individuato indipendentemente la stessa vulnerabilità.
L’esperimento dimostra quanto possa essere importante conoscere a fondo l’architettura hardware delle GPU, soprattutto in un periodo in cui la domanda di acceleratori per intelligenza artificiale continua a crescere.
La possibilità di recuperare fino a 80 GB di memoria HBM2e partendo da una scheda CMP 170HX commercializzata con appena 8 GB accessibili rappresenta un risultato decisamente interessante.
Il mercato delle GPU per IA è ormai diventato uno dei settori più competitivi dell’industria tecnologica e, mentre i produttori faticano a soddisfare la domanda di acceleratori professionali, esperimenti di questo tipo dimostrano che parte delle risorse necessarie potrebbe essere già presente in hardware apparentemente molto meno potente.
HW Legend Staff
