Nutanix ha annunciato la disponibilità della soluzione GPT-in-a-Box per i clienti che desiderano innovare grazie ad intelligenza artificiale e machine learning mantenendo il controllo dei propri dati. Si tratta di una piattaforma software-defined completa per i progetti di IA che include servizi per aiutare le aziende a dimensionare e configurare l’infrastruttura hardware e software adatta per l’implementazione di una serie di modelli LLM (Large Language Models), utilizzando i principali framework open source di IA e MLOps sulla Nutanix Cloud Platform. La soluzione offre ai clienti un’infrastruttura IA per l’impostazione e l’esecuzione di trasformatori generativi pre-addestrati (GPT), compresi modelli LLM, sia in ambiente edge, sia nel loro datacenter.

Molte aziende sono alle prese con il problema di come sfruttare in modo rapido, efficiente e sicuro la potenza dell’IA generativa e delle applicazioni IA/ML, soprattutto per i casi d’uso che non possono essere eseguiti nel cloud pubblico a causa di problemi di sovranità dei dati, governance e privacy. Ogni giorno emergono nuovi casi d’uso e le aziende cercano di sfruttare l’IA generativa per migliorare il servizio clienti, la produttività degli sviluppatori, l’efficienza operativa e altro ancora.

Dalla trascrizione automatica di documenti interni alla ricerca ad alta velocità di contenuti multimediali e all’analisi automatizzata, molte aziende vedono nell’IA un’opportunità, ma sono preoccupate dalla perdita di proprietà intellettuale, dalla conformità e dalla privacy. Inoltre, le aziende che cercano di creare uno stack IA spesso faticano a capire come supportare al meglio gli amministratori del machine learning e i data scientist, ma anche la prospettiva di ingenti costi di investimento per l’IA fa sì che le aziende siano in fase di stallo relativamente alla loro strategia di IA e ML.

nutanix gpt

“Quando i clienti cercano di progettare e implementare soluzioni di IA generativa, si trovano a dover bilanciare le profonde competenze necessarie per installare, configurare ed eseguire questi carichi di lavoro con le preoccupazioni relative alla sicurezza dei dati e alla protezione della proprietà intellettuale aziendale, il tutto controllando i costi”, spiega Greg Macatee, Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group di IDC. “Con GPT-in-a-Box, Nutanix offre ai clienti una soluzione chiavi in mano e facile da usare per i casi d’uso dell’IA, fornendo alle aziende che hanno difficoltà nell’adottare l’IA generativa una piattaforma più semplice per l’implementazione”.

 

La nuova soluzione include:

  • La piattaforma Nutanix Cloud Infrastructure, con le soluzioni Nutanix Files Storage e Objects Storage, l’hypervisor Nutanix AHV e Kubernetes, e l’accelerazione della GPU NVIDIA, che può essere facilmente scalata.
  • I servizi Nutanix per aiutare i clienti a dimensionare correttamente il proprio cluster e implementare uno stack con i framework open source di deep learning e MLOps, un server di inferenza e una scelta di modelli linguistici ampi (LLM) come Llama2, Falcon e MPT.
  • Possibilità per data scientist e amministratori ML di utilizzare immediatamente questi modelli con la propria scelta di applicazioni, interfacce utenti avanzate o CLI standard.
  • La piattaforma può essere utilizzata anche per eseguire altri modelli GPT, nonché ottimizzare tali modelli sfruttando i dati interni, ospitati nei servizi Nutanix Files o Objects Storage inclusi.

Nutanix GPT-In-a-Box si basa inoltre sulla scalabilità full stack, sulle prestazioni, sulla resilienza e sulla facilità d’uso per cui è nota piattaforma Nutanix Cloud. L’esperienza di Nutanix in termini di infrastruttura scalabile nei casi d’uso relativi a cloud pubblico, datacenter e edge offre l’ambiente ideale per mettere a punto ed eseguire le applicazioni di intelligenza artificiale mantenendo il controllo sui dati. Infatti, in un recente sondaggio, il 78% dei clienti Nutanix ha dichiarato che probabilmente eseguirà i propri carichi di lavoro IA/ML sulla Nutanix Cloud Platform.