In Breve
- Qual è la previsione di LinkedIn per l'investimento in GPU?
- LinkedIn prevede di mantenere invariato l'investimento in GPU per il prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è la strategia di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso da Microsoft, evitando una massiccia espansione infrastrutturale.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per hardware legato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage della piattaforma.
Secondo quanto dichiarato dall’azienda, negli ultimi sei mesi è stata raddoppiata l’efficienza delle GPU esistenti grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende utilizzare questo margine operativo per sviluppare nuove funzionalità piuttosto che investire in nuovo hardware.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio differente rispetto alla massiccia espansione infrastrutturale del colosso tecnologico.
Microsoft ha infatti registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’intero anno, con previsioni di ulteriori investimenti superiori ai 50 miliardi nel trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha concentrato i suoi sforzi su data center propri situati in Oregon, Texas e Virginia. Il controllo dell’intero stack tecnologico è considerato un fattore chiave, poiché permette di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incremento di storage e compute rappresenta una sfida significativa, frutto di un lavoro considerevole. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le strategie adottate vi sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più complessi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.
Questa scelta è anche motivata da dinamiche di costo: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza ritenuta insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la sua strategia rappresenta un’alternativa alla crescente necessità di hardware e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.
