Secondo quanto svelato nella giornata odierna, AMD ha condiviso ulteriori dettagli sulla sua GPU Radeon AI PRO R9700 e sul confronto con la Radeon PRO W7800 esistente per quanto riguarda le attività di intelligenza artificiale. L’AMD Radeon AI PRO R9700 utilizza la GPU Navi 48, dotata di 64 unità di calcolo o 4096 stream processor. La GPU è dotata di 128 acceleratori AI e ha un TBP fino a 300W. In termini di memoria, la AMD Radeon AI PRO R9700 è dotata di 32 GB di memoria GDDR6, con un bus a 256 bit, che raddoppia sostanzialmente la VRAM presente sulla 9070 XT. Altri aspetti delle prestazioni condivisi da AMD sono i 96 TFLOP di calcolo FP16 e i 1531 TOPS INT4 (Sparse).
L’obiettivo della GPU AMD Radeon AI PRO R9700 è quello di consentire il completamento efficiente di modelli AI di alta qualità. Per questo motivo è stata dotata di 32 GB di VRAM, una quantità ottimale per la maggior parte dei carichi di lavoro avanzati di IA locale, come DeepSeek R1 Distill Qwen 32B Q6, Mistral Small 3.1 24B Instruct 2503 Q8, Flux 1 Schnel e SD 3.5 Medium. Per quanto riguarda le prestazioni, AMD dichiara che la Radeon AI PRO R9700 è due volte più veloce della GPU Radeon PRO W7800 da 32 GB in DeepSeek R1, mentre l’azienda mostra anche alcune misurazioni contro la RTX 5080, che dispone di un buffer VRAM da 16 GB. I 16 GB di VRAM potrebbero non essere adatti ai modelli di IA che richiedono una maggiore quantità di memoria, ed è per questo che la R9700 si dimostra fino a 5 volte più veloce.
Per quanto riguarda le metriche di calcolo, la R9700 offrirà 47,8 TFLOP di FP32, 191,4 TFLOP di FP16 / BF16, 382,7 TFLOP di FP8, 382,7 TOP di INT8 e 765,5 TOP di INT4. La GPU supporterà anche le istruzioni Wave Matrix Multiply Accumulate (WMMA) e Structured Sparsity. Con la sparsità, il totale dei TOPS INT4 raggiungerà i 1531. I dati FP16 rappresentano un aumento di 2 volte rispetto alla Radeon PRO W7800, mentre i dati INT8/INT4 registrano un aumento di 4 volte. Ma non finisce qui: AMD Radeon AI PRO R9700 può anche essere scalato in configurazioni Multi-GPU a 4 vie, utilizzando una moderna piattaforma PCIe 5.0. Ciò consente agli utenti di sfruttare un enorme pool di 128 GB, in grado di gestire modelli di buffer come Mistral 123B e DeepSeek R1 70 B. Questi modelli possono consumare fino a 112-116 GB di VRAM.
Clicca sulla copertina per leggere
