Le CPU NVIDIA Grace Hopper cambiano il gioco sull’AI generativa. Ma chi era Grace Hopper?

NVIDIA ha introdotto una nuova generazione di CPU chiamate GH200 Grace Hopper SuperChip, che è un sistema a due chip di processori centrali e grafici. La piattaforma è progettata per creare sistemi HPC e piattaforme AI. 

Il cuore del GH200 Grace Hopper SuperChip è il superchip NVIDIA Grace di nuova generazione, dotato di memoria HBM3e ad alte prestazioni per velocità di accesso ai dati fino a 5 TB/s.

Dentro ai SuperChip di NVIDIA

Secondo i rappresentanti di NVIDIA, la nuova piattaforma è significativamente più avanti rispetto al suo predecessore in termini di prestazioni. Un server basato sulla piattaforma GH200 Grace Hopper con due nuovi superchip (ovvero due coppie di GPU + CPU) offre 144 core Arm Neoverse, che lavorano in tandem con 282 GB di memoria HBM3e ad alte prestazioni. Questa configurazione fornisce 3,5 volte più memoria e 3 volte più larghezza di banda rispetto alla versione precedente. Le prestazioni totali della piattaforma con due superchip raggiungono gli 8 petaflop.

Jensen Huang, CEO di NVIDIA, osserva che la nuova piattaforma GH200 Grace Hopper SuperChip è specificamente progettata per soddisfare la crescente domanda di intelligenza artificiale generativa. 

La piattaforma consente di combinare più GPU per migliorare le prestazioni e creare sistemi server facilmente scalabili nei data center.

Il superchip Grace Hopper, che è la base della nuova piattaforma, può essere combinato con altri superchip utilizzando la tecnologia di comunicazione NVIDIA NVLink. Ciò consente alla GPU di accedere alla memoria della CPU, fornendo fino a 1,2 TB di memoria in una configurazione a doppio superchip.

La memoria HBM3e utilizzata nel GH200 Grace Hopper SuperChip offre prestazioni superiori del 50% rispetto a HBM3. Il GH200 Grace Hopper SuperChip ha una larghezza di banda di memoria totale fino a 10 TB/s per sistemi multipiattaforma. Ciò consente l’elaborazione di modelli AI più grandi e migliora notevolmente le prestazioni complessive.

NVIDIA osserva che a causa della crescente domanda per la piattaforma Grace Hopper, i principali produttori hanno già iniziato a offrire sistemi basati sul superchip Grace Hopper. Il nuovo Grace Hopper SuperChip di nuova generazione con memoria HBM3e è completamente compatibile con le specifiche dell’architettura modulare del server NVIDIA MGX, annunciata al Computex 2023. Questa compatibilità garantisce che Grace Hopper sia integrato in più di 100 opzioni server sul mercato.

L’introduzione della nuova piattaforma NVIDIA dovrebbe iniziare nel secondo trimestre del 2024.

Ma chi è Grace Hopper?

Ovviamente, il nome dei nuovi Chip di NVIDIA è una “citazione” ad una grande pioniera dell’informatica. Ma chi era Grace Hopper?

Grace Hopper è stata una pioniera informatica, matematica e ufficiale della Marina degli Stati Uniti. Nata il 9 dicembre 1906 e scomparsa il 1º gennaio 1992, è stata una figura influente nello sviluppo dei primi computer e dei linguaggi di programmazione.

È particolarmente nota per il suo lavoro sulla creazione del primo compilatore, un programma che traduce il codice scritto dagli esseri umani in istruzioni comprensibili per i computer. Questo ha permesso a persone senza una conoscenza approfondita dei dettagli della macchina di scrivere software in modo più efficiente.

Hopper è anche accreditata per aver introdotto il termine “bug” (insetto) nel contesto informatico quando un’effettiva falena si incastrò all’interno di un relè del computer Mark II, causandone il malfunzionamento. Questa storia è spesso citata per illustrare l’origine del termine usato ancora oggi per descrivere un problema nei sistemi informatici.

La sua carriera si è estesa alla leadership nell’ambito delle reti e dei linguaggi di programmazione, e ha svolto un ruolo significativo nello sviluppo del COBOL, uno dei primi linguaggi di programmazione ad alto livello. La sua influenza è stata fondamentale nello sviluppo dell’informatica moderna e ha ispirato molte donne a entrare in questo campo in un’epoca in cui era dominato dagli uomini.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.