Microsoft avrebbe sviluppato dei toolkit per contrastare il predominio della tecnologia CUDA di NVIDIA

Secondo quanto annunciato recentemente, Microsoft sta esplorando modi per sfruttare lo “stack” delle sue GPU AMD per i carichi di lavoro di inferenza, mentre l’azienda sviluppa toolkit che convertono i modelli NVIDIA CUDA in codice supportato da ROCm. Rompere il dominio di CUDA non è un compito facile, poiché l’ecosistema software è così integrato nel settore dell’intelligenza artificiale che la sua adozione è quasi onnipresente, anche in nazioni come la Cina. Tuttavia, il toolkit di Microsoft, citato dal dipendente, probabilmente utilizza un percorso che è presente sul mercato già da tempo. Un modo per eseguire una conversione da CUDA a ROCm è attraverso un livello di compatibilità runtime, che consente di tradurre le chiamate API CUDA in ROCm senza richiedere la riscrittura completa del codice sorgente. Un esempio è lo strumento ZLUDA, che intercetta le chiamate CUDA, le traduce in ROCm e lo fa senza richiedere una ricompilazione completa.

Abbiamo creato alcuni toolkit per aiutare a convertire modelli CUDA in ROCm in modo da poterli utilizzare su AMD, come un 300X. Abbiamo ricevuto molte richieste di informazioni sul nostro percorso con AMD, il 400X e il 450X. Stiamo effettivamente collaborando con AMD per vedere cosa possiamo fare per massimizzarlo.

Tuttavia, poiché ROCm è ancora uno stack software relativamente “immaturi”, esistono diverse chiamate API o parti di codice in CUDA che non hanno alcuna corrispondenza con il software AMD, il che, in alcuni casi, compromette le prestazioni, rappresentando un problema ad alto rischio nei grandi ambienti di data center. Un’altra possibile variante del toolkit qui menzionato è probabilmente uno strumento di migrazione cloud end-to-end che si integra con Azure, destinato sia alle istanze AMD che NVIDIA. Naturalmente, ciò comporta dei problemi quando le conversioni avvengono su larga scala, ma a quanto pare i toolkit sviluppati da Microsoft sembrano avere un uso limitato.

A MUST-read interview with a high-ranking $MSFT employee on data centers and what is happening right now ( $NVDA/ $AMD, liquid cooling, and HHD):

1. The challenges that $MSFT is having right now are energy and liquid cooling. To improve its goodwill with municipalities, $MSFT is… pic.twitter.com/jQTfhnxQga

— Rihard Jarc (@RihardJarc) November 7, 2025