Per decenni, l’intero settore informatico ha ruotato attorno a un semplice paradigma: la logica è re.CPU e GPU erano il cuore dei sistemi;la memoria era semplicemente un componente di supporto, responsabile della memorizzazione temporanea dei dati mentre i processori svolgevano il vero lavoro.Ma oggi è in corso una rivoluzione fondamentale: l’era dell’informatica incentrata sulla logica sta finendo calcolo incentrato sulla memoria è arrivato.

Questo cambiamento non è incrementale: è strutturale.Spinto dall’intelligenza artificiale, da grandi modelli linguistici, dal cloud computing e dal calcolo ad alte prestazioni, l’equilibrio di potere tra logica e memoria è stato completamente invertito.La memoria non è più un componente periferico;è diventato il il collo di bottiglia principale, il principale limitatore delle prestazioni e il vero centro del valore dei moderni sistemi informatici.

La causa principale: il muro della memoria

Per anni, le prestazioni del processore sono migliorate a un ritmo molto superiore rispetto alla larghezza di banda e alla latenza della memoria.Questo divario crescente è noto come muro della memoria.Nei sistemi tradizionali:

• I processori attendono i dati per la maggior parte del tempo
• Lo spostamento dei dati consuma molta più energia del calcolo
• La larghezza di banda non riesce a tenere il passo con la crescita delle dimensioni del modello
• La latenza determina direttamente la velocità di inferenza nel mondo reale

Mentre i modelli di intelligenza artificiale crescono da miliardi a trilioni di parametri, il muro della memoria è diventato fatale.I sistemi non possono più permettersi di spostare enormi quantità di dati avanti e indietro tra la logica e la memoria.L'unica soluzione: ricostruire l’intera architettura attorno alla memoria.

Incentrato sulla logica e incentrato sulla memoria: la differenza di paradigma

Architettura logica-centrica
- CPU/GPU come core
- Memoria come memoria esterna
- I dati vengono spostati nel calcolo
- Le prestazioni dipendono dalla velocità delle istruzioni
- Dominazione dei PC e primo cloud computing

Architettura incentrata sulla memoria
- Memoria come nucleo del sistema
- Il calcolo si sposta sui dati
- La larghezza di banda e la latenza definiscono le prestazioni
- Efficienza energetica focalizzata sullo spostamento dei dati
- Definisce l'intelligenza artificiale e l'informatica di prossima generazione

La differenza non è un dettaglio tecnico: si tratta di un completo capovolgimento della filosofia di progettazione del sistema.

Tre percorsi di innovazione incentrata sulla memoria

1. Near-Memory Computing (NMC)
Posiziona i motori informatici vicino alla memoria, riducendo al minimo lo spostamento dei dati.Riduce drasticamente la latenza e la potenza.Ampiamente adottato negli acceleratori AI e nell'infrastruttura DPU.

2. Elaborazione in memoria (IMC)
Esegui i calcoli direttamente all'interno delle celle di memoria, eliminando completamente il trasferimento dei dati.Ideale per inferenza AI, dispositivi edge e sistemi a basso consumo.Visto come l'architettura definitiva a lungo termine.

3. Impilamento memoria-logica 3D
Impila la memoria direttamente sui processori utilizzando il bonding ibrido e TSV.Crea una larghezza di banda ultraelevata tra elaborazione e memoria.HBM, HBM3E e lo stacking 3D sono fondamentali per i moderni chip AI.

Perché l’intelligenza artificiale rende inevitabile la memoria incentrata

I grandi modelli linguistici e l’intelligenza artificiale generativa hanno caratteristiche uniche:

• Set di parametri di grandi dimensioni richiedono un'enorme capacità di memoria
• L'inferenza è legata alla memoria, non al calcolo
• La larghezza di banda determina la velocità effettiva e l'esperienza dell'utente
• Il consumo energetico è dominato dal movimento dei dati

Nei sistemi di intelligenza artificiale, il processore è spesso inattivo in attesa di dati.Le prestazioni non sono limitate dalla velocità di calcolo del chip, ma da quanto velocemente può accedere alla memoria.

Ristrutturazione del settore: il valore si sposta nella memoria

Questo cambiamento architetturale sta riscrivendo il potere del settore:

• I produttori di memoria acquisiscono potere strategico sui prezzi
• La progettazione del sistema dà priorità alla topologia della memoria
• Il packaging diventa fondamentale per la connettività della memoria
• Nuovi giganti emergono nella memoria e nell’interconnessione

Chi controlla l’architettura della memoria controlla il futuro dell’informatica.

Conclusione: il futuro è guidato dalla memoria

L’era dell’informatica dominata dalla logica è finita.Siamo entrati in una nuova era in cui la memoria definisce le prestazioni, la memoria limita la scalabilità e la memoria determina il valore di sistema.

Il passaggio da un’architettura incentrata sulla logica a un’architettura incentrata sulla memoria non è solo una tendenza tecnica: è la trasformazione più fondamentale nell’informatica in mezzo secolo.Per il prossimo decennio, la memoria sarà il centro dell'universo.