In Breve
- Qual è la strategia di LinkedIn per l'investimento in GPU?
- LinkedIn manterrà invariato l'investimento in GPU e si concentrerà sull'efficienza delle risorse esistenti.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è il contesto dell'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso da Microsoft, che sta espandendo significativamente la sua infrastruttura.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage. La società ha riferito di aver raddoppiato l’efficienza delle GPU esistenti in un periodo di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse e nell’allocazione dei carichi di lavoro.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio diverso rispetto all’espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha registrato una spesa di 41 miliardi di dollari in conto capitale nell’ultimo trimestre, aggiungendo 31 data center e prevedendo oltre 50 miliardi nel trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole sforzo. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le strategie adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più piccole.
Questa scelta è stata motivata anche dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la sua strategia rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.
redazione
Redazione Diarioeconomico.