Intel vuole competere con Nvidia H100 con gli acceleratori Gaudi 3 – Computer – Notizie

Con i suoi nuovi acceleratori Gaudi 3, Intel vuole competere con Nvidia H100, che attualmente è la scheda più potente per l’addestramento dei modelli AI. Secondo Intel, può vendere un set di otto schede e una scheda madre per due terzi di quanto addebita Nvidia.

Il progettista del processore ha prodotto le sue schede Gaudi 3 sul nodo N5 di TSMC. Contiene 64 tensor core Intel e 8 motori a matrice. Il pacchetto chipset include anche 128 GB di memoria HBM2e con larghezza di banda di 3,7 TB/s e 96 MB di cache SRAM da 12,8 TB/s. Per la connettività, Intel utilizza 16 linee PCIe 5.0 e 24 porte da 200 Gb, che l’azienda conferma fa parte di uno standard aperto, a differenza di InfiniBand di Nvidia.

Secondo il produttore, un set di 8192 acceleratori Gaudi 3 è il 40% più veloce nell’addestramento del modello GPT3-175B rispetto a un set simile di Nvidia H100. Con 64 acceleratori e il modello Llama2-70B, il vantaggio di Intel sarà del 15%. A seconda dei parametri scelti e del modello di intelligenza artificiale utilizzato, l’inferenza dovrebbe essere in media due volte più veloce di Gaudi 3.

Il set Gaudi 3 di 8 metronomi e piastra base ha un prezzo al dettaglio suggerito di $ 125.000. Secondo Intel, questo fornirebbe un rapporto prezzo-prestazioni migliore del 130% rispetto alla linea comparabile Nvidia H100. Inoltre, Intel ha sottolineato il suo buon supporto software durante l’annuncio, collaborando con noti produttori di modelli per fornire un buon supporto per i nuovi modelli di intelligenza artificiale nel “Day Zero”.

Dell, HPE, Lenovo e Supermicro vendevano già sistemi con i vecchi acceleratori Gaudi di Intel, ma ora si sono aggiunti ASUS, Foxconn, Gigabyte, Inventec, Quanta e Wistron. Ciò porta il numero degli “integratori” di Gaudí a dieci fornitori. La filiale Gaudi di Intel nasce dall’acquisizione nel 2019 della società israeliana Habana Labs.