HBM4 in produzione di massa per data center AI

Samsung Electronics ha avviato la produzione di massa e le spedizioni commerciali della HBM4, nuova generazione di memoria ad altissima larghezza di banda (High-Bandwidth Memory), progettata per rispondere ai crescenti requisiti di throughput nelle applicazioni di intelligenza artificiale (AI) e high-performance computing (HPC). La tecnologia è destinata principalmente ad acceleratori AI avanzati e infrastrutture di data center.

Architettura di memoria per carichi di lavoro AI intensivi
HBM4 rappresenta la quarta generazione della memoria impilata ad alta larghezza di banda e affronta il cosiddetto problema della “memory wall”, che limita le prestazioni dei processori quando il trasferimento dati tra memoria e unità di calcolo diventa il collo di bottiglia.

Gli stack HBM4 utilizzano un processo DRAM di sesta generazione in classe 10 nm, combinato con un die logico di base a 4 nm. Questa configurazione migliora le caratteristiche elettriche, i rendimenti produttivi e la scalabilità industriale.

Nella configurazione standard, HBM4 raggiunge una velocità di trasferimento di 11,7 gigabit al secondo (Gb/s) per pin, superiore alla specifica JEDEC di circa 8 Gb/s per HBM4 e circa 22% più veloce rispetto alla precedente generazione HBM3E di Samsung. In determinate condizioni operative sono possibili picchi fino a 13 Gb/s.

Per i sistemi di training e inferenza AI, ciò significa un’alimentazione dati più costante verso GPU e acceleratori dedicati, con un miglior utilizzo delle risorse di calcolo.

Maggiore larghezza di banda e capacità
Il raddoppio dei pin I/O, da 1.024 a 2.048 connessioni, consente di raggiungere una larghezza di banda massima di circa 3,3 terabyte al secondo (TB/s) per stack, pari a circa 2,7 volte quella di HBM3E.

Le prime configurazioni includono stack da 24 GB e 36 GB con tecnologia TSV (Through-Silicon Via) a 12 layer. È prevista anche una versione da 48 GB con impilamento a 16 layer. Queste capacità sono rilevanti per modelli linguistici di grandi dimensioni, AI generativa e simulazioni HPC, dove la memoria locale contribuisce a migliorare l’efficienza dell’ecosistema digitale del data center.

Efficienza energetica e gestione termica
L’aumento della densità I/O comporta maggiori esigenze in termini di alimentazione e dissipazione del calore. Samsung integra TSV a bassa tensione e reti di distribuzione dell’alimentazione ottimizzate per ridurre le perdite elettriche.

Secondo l’azienda, HBM4 offre un miglioramento dell’efficienza energetica di circa il 40% rispetto a HBM3E, oltre a una resistenza termica superiore del 10% e una capacità di dissipazione del calore migliorata del 30%. Questi parametri sono fondamentali per garantire la stabilità operativa nei moduli di accelerazione AI ad alta densità.

Strategia industriale e roadmap tecnologica
Samsung evidenzia l’integrazione tra attività memory e foundry, insieme a capacità avanzate di packaging, come fattori chiave per la scalabilità produttiva di HBM4. La capacità produttiva verrà ampliata in funzione della crescita della domanda nel settore AI.

I campioni della versione evoluta HBM4E sono previsti per la seconda metà del 2026. Soluzioni HBM personalizzate sono pianificate a partire dal 2027.

Inquadramento tecnico
Per gli architetti di sistema attivi negli acceleratori AI, nei cluster HPC e nelle infrastrutture cloud, HBM4 rappresenta un incremento significativo in termini di larghezza di banda ed efficienza energetica.

Grazie all’aumento del throughput per pin e della banda per stack, la tecnologia contribuisce a ridurre i colli di bottiglia della memoria e a migliorare l’utilizzo delle risorse di calcolo nei data center AI, dove larghezza di banda ed efficienza energetica costituiscono fattori determinanti per la scalabilità delle prestazioni.

www.samsung.com