A Qualys, fornecedora de soluções de segurança e conformidade em nuvem, anunciou uma expansão de sua oferta com a nova solução Qualys TotalAI, projetada para enfrentar os desafios e riscos associados a aplicativos generativos de IA e grandes modelos de linguagem (LLMs).

À medida que as organizações integram IA e LLMs em suas infraestruturas, elas enfrentam uma superfície de ataque maior e riscos maiores. A necessidade de descobrir LLMs desconhecidos e não aprovados e modelos de IA arriscados, conhecidos como modelos de sombra, aumenta significativamente a exposição a ameaças como roubo de modelos, vazamentos de dados CVE e configurações incorretas. Além disso, há um risco crescente de perda acidental de dados, problemas de conformidade e danos à reputação devido ao conteúdo impróprio e alucinações de IA que esses modelos geram.

De acordo com a empresa, a solução aborda especificamente os 10 riscos mais críticos da lista OWASP Top 10 para aplicações LLM: injeção rápida, divulgação de informações confidenciais e roubo de modelos.

“Estamos apenas começando a explorar o potencial da IA para gerar valor nas empresas, mas precisamos proteger essa jornada agora para que ela não acrescente novos riscos ao negócio”, disse Sumedh Thakar, presidente e CEO da Qualys. “Com soluções como essa, a Qualys ajuda seus clientes a se manterem à frente dos riscos emergentes de segurança cibernética para que possam se concentrar no crescimento e na inovação”.