Lambda Labs, operatore cloud che lavora sui sistemi di GPU da oltre un decennio, ha ottenuto un prestito di 500 milioni di dollari per finanziare l’espansione della sua offerta di acceleratori-as-a-service. L’accordo, sostenuto da Macquarie Group e Industrial Development Funding, servirà per l’implementazione di “decine di migliaia” degli acceleratori IA più veloci di Nvidia, che a loro volta serviranno come garanzia per il prestito.

Le GPU Nvidia impiegate da Lambda costano singolarmente dai 30.000 ai 40.000 dollari e sono particolarmente difficili da trovare sul mercato. Lambda ha spiegato che la natura “asset-based” dell’accordo le consentirà di affittare le GPU di Nvidia ai clienti senza contratti a lungo termine.

Tali contratti sono in genere il modo per affittare le risorse alla tariffa più bassa possibile. Ad esempio, il prezzo on-demand per le istanze P5 di Amazon, che includono otto acceleratori H100, è di 98,32 dollari all’ora, ovvero circa 12,29 dollari per GPU. Ma se ci si impegna a stipulare un contratto di locazione di tre anni, Amazon ridurrà il prezzo a 43,16 dollari l’ora.

Il nuovo superchip Nvidia GB200

Al contrario, sembra che la strategia di Lambda sia quella di capitalizzare la domanda delle piccole startup di intelligenza artificiale che esitano a firmare un contratto di locazione a lungo termine. Lambda offre una configurazione paragonabile a quella di AWS a 27,92 dollari l’ora.

Il mezzo miliardo di dollari di finanziamento si aggiunge ai 320 milioni di dollari di finanziamenti che Lambda ha raccolto a febbraio, quando l’azienda aveva riferito che il prestito sarebbe stato destinato ad aumentare la capacità dei superchip Nvidia H100, H200 e GH200 e ad aggiornare la rete InfiniBand.

L’H200, atteso sul mercato entro l’estate, è particolarmente importante in quanto la sua maggiore capacità di memoria HBM3e (141 GB contro gli 80 GB dell’H100) e la maggiore larghezza di banda della memoria consentono ai clienti di eseguire modelli IA più grandi con un minor numero di GPU.