Qualys ha annunciato importanti aggiornamenti alla sua soluzione TotalAI progettati per proteggere l’intera pipeline MLOps delle aziende, dalla fase di sviluppo fino al deployment. Le organizzazioni potranno ora testare rapidamente i propri LLM anche durante i cicli di test in fase di sviluppo, con una protezione più solida contro un numero maggiore di attacchi e funzionalità di scansione on-premise grazie a uno scanner LLM interno.

“Poiché l’IA sta diventando un elemento centrale dell’innovazione aziendale, la sicurezza non può più essere trascurata” ha dichiarato Tyler Shields, Principal Analyst presso Enterprise Strategy Group. “Qualys TotalAI garantisce che vengano distribuiti in produzione solo modelli affidabili e verificati, consentendo alle organizzazioni di unire agilità e garanzia nell’uso dell’IA. Questa sicurezza aiuta le imprese a raggiungere i propri obiettivi di innovazione gestendo al contempo i rischi”.

Qualys TotalAI è progettato specificamente per affrontare le particolari sfide legate ai rischi dell’IA, andando oltre le semplici valutazioni dell’infrastruttura per testare direttamente i modelli alla ricerca di vulnerabilità di jailbreak, bias, esposizione di informazioni sensibili e rischi critici mappati sull’OWASP Top 10 per i LLM.

Adottando un approccio basato sul rischio, TotalAI non si limita a individuare le esposizioni specifiche dell’IA, ma aiuta anche i team a risolverle più rapidamente, proteggere la resilienza operativa e mantenere la fiducia nel brand.

TotalAI Qualys

Sono quattro le funzioni principali di TotalAI:

  • Prioritizzazione automatica dei rischi di sicurezza dell’IA: i risultati vengono mappati rispetto a tattiche avversarie reali tramite MITRE ATLAS e automaticamente prioritizzati dal motore di scoring Qualys TruRisk, consentendo ai team di sicurezza, IT e MLOps di concentrarsi sui rischi più critici per il business
  • Sviluppo di applicazioni IA più rapido e sicuro: grazie al nuovo scanner LLM interno on-premise, le organizzazioni possono ora integrare un test di sicurezza completo dei modelli LLM durante le fasi di sviluppo, staging e deployment, il tutto senza mai esporre i modelli esternamente. Questo approccio “shift-left”, che incorpora la sicurezza e il testing delle applicazioni basate su IA nei flussi di lavoro CI/CD esistenti, rafforza sia l’agilità che la postura di sicurezza, garantendo al contempo che i modelli sensibili rimangano protetti dietro i firewall aziendali
  • Difesa in modo potenziato dalle minacce emergenti dell’IA: TotalAI ora si espande per rilevare 40 diversi scenari di attacco, inclusi tecniche avanzate di jailbreak, iniezioni e manipolazioni di prompt, exploit multilingue e amplificazione dei bias. Gli scenari ampliati simulano tattiche avversarie reali e rafforzano la resilienza dei modelli contro gli exploit, impedendo agli attaccanti di manipolare i risultati o eludere le misure di protezione
  • Protezione da exploit cross-modali con copertura delle minacce multimodali: il rilevamento multimodale avanzato di TotalAI identifica prompt o alterazioni nascoste all’interno di immagini, audio e video progettati per manipolare i risultati dei LLM, aiutando le organizzazioni a proteggersi dagli exploit cross-modali

(Immagine in apertura: Shutterstock)