LinkedIn: Investimento in GPU rimane stabile per il prossimo anno fiscale

LinkedIn ha comunicato che non prevede di aumentare significativamente la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta all’incirca invariata. Questa decisione è il risultato di un raddoppio dell’efficienza delle GPU esistenti, ottenuto in un periodo di sei mesi grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.

Erran Berger, CTO dell’ingegneria, ha sottolineato che l’obiettivo è quello di mantenere stabile il footprint di calcolo, pur introducendo nuove funzionalità più esigenti dal punto di vista computazionale. Questo approccio si colloca in un contesto più ampio, in cui LinkedIn, controllata da Microsoft dal 2016, adotta una strategia differente rispetto all’espansione infrastrutturale del colosso tecnologico. Microsoft ha infatti registrato una spesa di 41 miliardi di dollari in conto capitale nell’ultimo trimestre, aggiungendo 31 data center nel trimestre e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da quel momento, la società ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Il controllo dell’intero stack tecnologico è considerato un fattore chiave, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha evidenziato che mantenere invariati storage e calcolo per un anno è «non una piccola impresa» e ha richiesto un notevole impegno. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le strategie adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più leggere e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa scelta è anche motivata dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la sua strategia rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La rilevanza di questo approccio dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.