Secondo quanto annunciato recentemente, nel recente keynote Advancing AI, AMD ha sottolineato l’importanza delle CPU per server nel segmento dei data center, affermando che la mancanza della giusta combinazione può influenzare le prestazioni. Il funzionario di AMD ha messo a confronto il processore Xeon 8592+ di quinta generazione di Intel con la sua CPU per server EPYC 9575F, entrambi dotati dell’acceleratore AI Instinct MI300X, dimostrando quanto sia grande la differenza di prestazioni se i clienti non hanno a bordo la giusta piattaforma CPU. Prima di immergerci nei benchmark, valutiamo l’equità della selezione delle CPU. AMD, ovviamente, ha scelto la sua ultima linea di CPU EPYC 9005, confrontandola con lo Xeon 8592+, lanciato quasi due anni fa. Per quanto riguarda le specifiche sulla carta, entrambe le CPU offrono una configurazione a 64 core/128 thread, con TDP simili; quindi, il confronto è stato almeno equilibrato.
I benchmark condivisi dall’azienda mostrano che l’adozione della piattaforma EPYC 9005, “presumibilmente” superiore, comporta un aumento medio delle prestazioni del 6% in diversi test sul modello di intelligenza artificiale Llama 3.1 8B, con una differenza che sale fino al 17% con l’aumentare del numero di parametri. I test si sono concentrati su diversi carichi di lavoro di inferenza, dimostrando che la presenza di una CPU server adeguata influisce notevolmente sulle prestazioni complessive. I benchmark sono stati condotti insieme agli acceleratori AI Instinct MI300X, ma mi chiedo se le ottimizzazioni abbiano avuto un ruolo in questo caso.
Clicca sulla copertina per leggere
