LinkedIn mantiene stabile l’investimento in GPU per il prossimo anno fiscale

LinkedIn ha comunicato che nel prossimo anno fiscale non prevede un incremento significativo della spesa per l’hardware dedicato all’intelligenza artificiale (AI). L’azienda ha deciso di mantenere sostanzialmente invariato il proprio investimento in GPU, puntando a ottimizzare l’efficienza delle risorse già in uso.

Nel corso degli ultimi sei mesi, LinkedIn ha raddoppiato l’efficienza delle GPU esistenti grazie a una serie di miglioramenti nell’utilizzo delle stesse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questo approccio consente all’azienda di impiegare il margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto alla costante espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, con l’aggiunta di 31 data center in quel periodo e 88 nell’anno, e prevede oltre 50 miliardi nel trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, l’azienda ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza un incremento di storage e compute è «non una piccola impresa» e ha richiesto un significativo impegno. I miglioramenti ottenuti sono il risultato di un processo accumulato piuttosto che di una singola innovazione tecnologica. Questi includono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Il cambiamento è anche motivato dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di non aumentare la spesa per l’hardware rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui rilevanza dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.