Gli acceleratori di intelligenza artificiale Intel Gaudi 3 registrano la prima importante adozione da parte di IBM e dovrebbero essere disponibili entro l’inizio del 2025 1
IBM Cloud ha ufficialmente adottato l’acceleratore AI Gaudi 3 di Intel. Questo segna il primo caso di un CSP che adotta Gaudi 3 nel suo portafoglio, uno sviluppo entusiasmante.
IBM diventa il primo CSP a offrire Gaudi 3 di Intel ai propri clienti, offrendo un’alternativa conveniente a NVIDIA
L’iniziativa AI del Team Blue non è stata brillante come quella dei suoi concorrenti, dato che l’azienda non ha capitalizzato l’hype dell’AI all’inizio . L’azienda non è riuscita a trovare una presa sul settore nemmeno ora, motivo per cui i tassi di adozione con la gamma Gaudi AI di Intel sono molto più bassi. Tuttavia, IBM Cloud è diventata la prima CSP a rivelare la disponibilità degli acceleratori Gaudi 3 AI di Intel, e questo è un tentativo di fornire soluzioni convenienti ai clienti, secondo la CSP.
Portando gli acceleratori AI Intel Gaudi 3 su IBM Cloud, stiamo consentendo alle aziende di aiutare a scalare carichi di lavoro AI generativi con prestazioni ottimizzate per l’inferenza e la messa a punto. Questa collaborazione sottolinea il nostro impegno condiviso nel rendere l’AI più accessibile e conveniente per le aziende in tutto il mondo.
– Saurabh Kulkarni, vicepresidente di Intel
I clienti possono accedere alle capacità computazionali degli acceleratori AI Gaudi 3 utilizzando i Cloud Virtual Server di IBM e, cosa interessante, Signal65 è riuscita a testare l’acceleratore sulla piattaforma e ha rivelato le prestazioni relative alle GPU basate su H100 e H200 di NVIDIA. Questa è la prima volta che Gaudi 3 di Intel verrà testato a parte quelli interni e i risultati ci hanno mostrato che Intel potrebbe fare concorrenza nel segmento AI se giocasse correttamente le sue carte.
Capacità di inferenza LLM – Input=1024, Output=1024
I benchmark rivelano che l’ultimo acceleratore Intel supera gli acceleratori AI NVIDIA H100 e H200 su entrambi i modelli Granite (8B) di IBM e Llama-3.1 di Meta. I parametri erano specifici per ogni esecuzione di test, il che significa che nei casi d’uso reali, Gaudi 3 di Intel potrebbe non riflettere le stesse prestazioni, ma questi risultati sono stati interessanti. I benchmark eseguiti su dimensioni di input variabili, ed ecco cosa ha concluso Signal65:
Gaudi 3 mantiene prestazioni altamente competitive rispetto a NVIDIA H200 e H100 in varie configurazioni, dimostrando la sua ampia applicabilità a vari casi d’uso dell’intelligenza artificiale.
Per aggiungere, Gaudi 3 di Intel è disponibile in IBM Cloud a un prezzo inferiore rispetto alle controparti di Team Green, il che lo rende un’opzione ideale per i clienti che cercano un’opzione di calcolo conveniente. Nel complesso, è sicuro affermare che Gaudi 3 di Intel potrebbe rivelarsi un’offerta impressionante, dato che riceve il giusto marketing e adozione. Sebbene non possa certamente imitare le opzioni di NVIDIA in termini di popolarità e prestazioni, Gaudi 3 è un’alternativa valida.
