Qualys, proveedor de soluciones de cumplimiento y seguridad en la nube, ha anunciado hoy una ampliación de su oferta con la nueva solución Qualys TotalAI, diseñada para abordar los desafíos y riesgos asociados a las aplicaciones de IA generativa y los grandes modelos de lenguaje (LLM).
A medida que las organizaciones integran la IA y los LLM en sus infraestructuras, se enfrentan a una mayor superficie de ataque y mayores riesgos. La necesidad de descubrir LLM desconocidos o no aprobados o modelos de IA de riesgo, conocidos como modelos sombra, aumenta significativamente la exposición a amenazas como robo de modelos, fugas de datos CVE o configuraciones incorrectas. Además, existe un riesgo creciente de pérdida accidental de datos, problemas de cumplimiento y daño a la reputación debido al contenido inapropiado y las alucinaciones de IA que generan estos modelos.
Según la compañía, la solución aborda específicamente los 10 riesgos más críticos de la lista OWASP Top 10 para aplicaciones LLM: inyección rápida, divulgación de información confidencial y robo de modelos.
"Apenas hemos empezado a explorar el potencial de la IA para generar valor en las empresas, pero necesitamos proteger desde ya este viaje para que no sume nuevos riesgos al negocio", ha afirmado Sumedh Thakar, presidente y CEO de Qualys. "Con soluciones como esta, Qualys ayuda a sus clientes a mantenerse en vanguardia de los riesgos emergentes de ciberseguridad para que puedan centrarse en el crecimiento y la innovación".
