Intel dimostra ChatGPT super intensivo sul cloud in esecuzione su un singolo Xeon di quinta generazione

Intel ha dato il via oggi al suo Innovation Event 2023, un evento di due giorni, e sembra che la maggior parte dell’attenzione sarà focalizzata sull’intelligenza artificiale (AI), il che è in un certo senso previsto dato che la tecnologia ha molto potenziale .

Tra le altre cose, la società ha effettuato una dimostrazione di ChatGPT sul cloud rispetto a un modello da 7 miliardi di parametri in esecuzione su un singolo sistema Xeon. Il sistema in questione è alimentato da un singolo processore Xeon di quinta generazione (nome in codice “Emerald Rapids”). Anche se non ne siamo sicuri, il modello da 7 miliardi di parametri a cui fa riferimento Intel potrebbe essere Falcon LLM.

Sebbene GPT, tra gli altri LLM (modelli linguistici di grandi dimensioni), siano molto utili e anche divertenti con cui giocare, possono essere molto impegnativi dal punto di vista hardware e dai requisiti generali. Ad esempio, una recente ricerca ha suggerito che ChatGPT “beve” circa mezzo litro d’acqua ogni 20 richieste circa. Dal punto di vista finanziario, un rapporto di inizio anno suggeriva che ChatGPT potrebbe costare quasi tre quarti di milione o 700.000 dollari al giorno . Naturalmente, i fornitori di hardware come Intel, AMD e Nvidia vedono questa opportunità ed è per questo che stanno progettando soluzioni di nuova generazione pensando all’accelerazione dell’intelligenza artificiale.

Oltre alla demo Xeon di quinta generazione, Intel ha anche anticipato alcune delle prestazioni che possiamo aspettarci dalla prossima generazione di sesta generazione “Granite Rapids”. L’azienda dichiara un miglioramento di 2-3 volte, in parte grazie alla spinta che otterrà dall’aggiornamento del sottosistema di memoria. Intel passerà a 12 canali con supporto per DIMM MCR fino a DDR5-8800 sugli Xeon di sesta generazione rispetto ai DDR5-8000 a 8 canali sulla quinta generazione. Il primo è previsto per il rilascio nel 2024, mentre la quinta generazione è già in fase di campionamento per i clienti .