Se un progetto AI parte dal preventivo delle GPU, c’è il rischio di misurare il collo di bottiglia sbagliato. Le notizie del 21 ottobre mostrano una filiera che si sta muovendo su tre livelli meno visibili: il software per usare le CPU, il percorso dei dati dallo storage e la produzione di memoria. Per PMI e professionisti il punto non è comprare subito nuovo hardware, ma capire dove il proprio carico perde tempo e denaro.
AMD e Intel riducono la frammentazione su x86
AMD e Intel hanno annunciato un percorso software comune per ottimizzare i carichi PyTorch sulle CPU x86. AMD porterà le ottimizzazioni ZenDNN dentro oneDNN, la libreria open source governata dalla Unified Acceleration Foundation, e oneDNN diventerà il riferimento condiviso per l’accelerazione x86 in PyTorch.
È una notizia concreta per chi esegue inferenza su server general purpose: una base comune può ridurre il lavoro necessario per mantenere configurazioni separate tra CPU AMD e Intel. Non significa però che ogni modello diventi automaticamente più veloce. Versione di PyTorch, quantizzazione, batch, memoria disponibile e istruzioni della CPU restano variabili da misurare sul carico reale.
Lo storage prova a togliere lavoro alla CPU
Il secondo segnale arriva da FADU. L’azienda ha presentato un SSD PCIe 6.0 “file-semantic” che sposta parte della gestione dei file nel dispositivo e trasferisce dati verso GPU e DPU tramite PCIe peer-to-peer DMA. Il dato dichiarato è fino a 460.000 operazioni al secondo, ma va letto per quello che è: un risultato comunicato dal produttore, con campioni previsti entro il terzo trimestre 2027, non un prodotto già validato sul campo.
La direzione è comunque utile. Nei workflow con dataset grandi, checkpoint frequenti o retrieval, non conta soltanto la capacità di calcolo. Conta quanto lavoro la CPU dedica a spostare e preparare dati invece di eseguire l’applicazione. Prima di aumentare la potenza, conviene quindi osservare latenza dello storage, saturazione della rete e tempi di attesa tra una fase e l’altra.
La memoria resta un vincolo industriale
Il terzo aggiornamento riguarda la produzione. Secondo Reuters, Samsung e SK Hynix stanno aggiornando gli impianti cinesi per produrre NAND più avanzata e rispondere alla domanda legata ai data center AI. Le due aziende hanno confermato gli aggiornamenti, precisando di operare in consultazione con Washington; i dettagli produttivi riportati da Reuters provengono invece da fonti informate sui piani.
Qui il limite non è tecnico soltanto. Gli impianti devono convivere con licenze annuali statunitensi per alcune apparecchiature e con la crescita dei concorrenti cinesi. Disponibilità e prezzo di memoria e storage dipendono quindi anche da autorizzazioni, capacità produttiva e tempi di aggiornamento delle fabbriche. È lo stesso motivo per cui una strategia AI non può fermarsi alla scelta del modello: serve controllare la catena dal chip al data center.
Il filo comune: misurare la pipeline intera
Queste tre notizie descrivono lo stesso passaggio. L’infrastruttura AI viene ottimizzata come sistema: librerie comuni per sfruttare CPU diverse, storage che prova ad accorciare il percorso dei dati e fabbriche che aggiornano la produzione di memoria. La GPU resta importante, ma non è una risposta universale.
Per un sito WordPress con ricerca semantica, un assistente interno o un’automazione documentale, il test utile parte da quattro misure: latenza per richiesta, memoria usata, tempo di lettura dei dati e costo per mille esecuzioni. Poi si confrontano almeno una configurazione CPU e una accelerata, usando gli stessi input e la stessa soglia di qualità. Se il fornitore non rende portabili modello, dati e metriche, va aggiunto anche un piano di uscita, come per qualsiasi dipendenza infrastrutturale.
La scelta operativa per PMI e professionisti
Questa settimana non cambierei server sulla base di un annuncio. Preparerei invece un benchmark ripetibile e registrerei dove si accumula l’attesa. Se l’inferenza CPU soddisfa il livello di servizio, la convergenza su oneDNN può ampliare le opzioni hardware. Se il problema è alimentare rapidamente il modello, storage e rete meritano la priorità. Se il preventivo dipende da memoria che il provider non garantisce, serve un’alternativa contrattuale.
La take finale è semplice: acquistare capacità senza una misura end-to-end sposta il collo di bottiglia, non lo elimina. Per una PMI il vantaggio competitivo non sta nell’avere il componente più nuovo, ma nel sapere quale componente limita davvero il workflow.