Caracterización del producto
Analizamos el producto y documentamos su arquitectura de IA: interfaces, modelos, datos, servicios y herramientas, y cómo se relacionan entre sí.
Seguridad de productos con IA · CCN-STIC 2011
Evaluación ESP-IA de productos con Inteligencia Artificial
Evaluamos cómo la IA puede exponer datos, alterar decisiones o ejecutar acciones no autorizadas en vuestro producto. Nos encargamos de preparar la documentación y llevar el proceso ESP-IA, desde el alcance hasta la revisión de resultados por el CCN.
¿Vuestro producto incorpora funcionalidades de IA?
Solicitar evaluaciónCuándo aplica
Seguridad de la IA, más allá de las pruebas convencionales
ESP-IA se aplica a productos cuya seguridad se ve afectada por mecanismos específicos de la IA: inferencia, aprendizaje, adaptación, contexto o estado, representación aprendida o acciones mediadas por una funcionalidad de IA. Si al sustituir la IA por software convencional la vulnerabilidad y su forma de probarla son esencialmente las mismas, queda, con carácter general, fuera del alcance específico de ESP-IA. Eso no significa que deba quedar sin evaluar: según el producto, pueden corresponder otras evaluaciones como LINCE o CICLON.
CCN-STIC 2011 define las amenazas (evasión, inyección, extracción, pertenencia, inversión, envenenamiento, divulgación, agencia y agotamiento de recursos) y las políticas de supervisión humana y trazabilidad que se verifican mediante requisitos específicos de seguridad y pruebas de penetración.
Servicio integral
Qué incluye la evaluación ESP-IA
Partimos del conocimiento técnico de vuestro producto y nos encargamos de estructurar la documentación, preparar el entorno de pruebas con los accesos que habilite vuestro equipo y gestionar el proceso hasta el resultado del CCN.
Declaración de Seguridad
Redactamos la Declaración de Seguridad con el detalle técnico necesario y gestionamos su validación por CPSTIC.
Alcance de la evaluación
Aplicamos la matriz a la arquitectura y las capacidades del producto para identificar todas las amenazas, políticas y requisitos exigibles. Los controles existentes se verifican, no eliminan requisitos aplicables.
Entorno de evaluación
Definimos y dejamos preparado el entorno de pruebas: acceso al producto, registros y evidencias necesarias para verificar cada requisito.
Pruebas de penetración específicas de IA
Ejecutamos las pruebas de penetración específicas de IA, tomando como referencia mínima la OWASP AI Testing Guide y las técnicas del estado del arte.
No conformidades y verificación de correcciones
Os ayudamos a interpretar los hallazgos, preparamos las correcciones documentales y comprobamos las correcciones de producto que deba realizar vuestro equipo.
Proceso formal
De la caracterización al resultado de la evaluación
Seguimos el proceso definido en la guía CCN-STIC 2011 y mantenemos la trazabilidad entre la arquitectura declarada, los requisitos aplicables, las pruebas ejecutadas y el resultado obtenido.
- 1
Caracterización y alcance
Describimos la arquitectura y las capacidades de la IA y acotamos el alcance y los requisitos aplicables.
- 2
DS y solicitud
Elaboramos la Declaración de Seguridad, gestionamos su validación por CPSTIC y formalizamos la solicitud de evaluación ante el CCN. La evaluación formal comienza cuando el CCN acepta la solicitud.
- 3
Ejecución técnica
Verificamos cada requisito aplicable y realizamos las pruebas adicionales de IA. Documentamos las evidencias y el seguimiento sobre la versión declarada.
- 4
Cierre y correcciones
Documentamos los resultados y las correcciones verificadas en el Informe Técnico de Evaluación. El CCN revisa el informe y emite el resultado de la evaluación.
Resultado de la evaluación
Cada requisito aplicable obtiene un resultado PASA o FALLA. El veredicto global es PASA solo si todos los requisitos aplicables pasan, no hay no conformidades y las pruebas de penetración no identifican vulnerabilidades específicas de IA que comprometan la seguridad del producto. El CCN revisa el informe técnico de evaluación y emite el resultado.
Lo que necesitamos de vuestro equipo
No es necesario que tengáis toda la información preparada antes de empezar. Sí necesitamos acceso a quienes conocen la implementación de la IA y capacidad para preparar un entorno evaluable y corregir las no conformidades que puedan aparecer.
- La versión final disponible en el mercado y la configuración que se va a evaluar
- Acceso al equipo técnico
- Información sobre interfaces, componentes de IA de terceros y dependencias externas para que preparemos la arquitectura
- Capacidad para habilitar el acceso al producto y a sus registros para las pruebas
- Disponibilidad para resolver dudas, firmar la documentación que corresponda y corregir problemas del producto
- Credenciales por un canal seguro: nunca dentro de la Declaración de Seguridad ni en el formulario de contacto
Documentación y resultados
Qué queda preparado al finalizar el proceso
La documentación técnica queda completa y verificada, y los resultados se envían al CCN mediante el informe técnico de evaluación para su validación.
Problema de seguridad documentado
Arquitectura declarada, caracterización del producto y requisitos aplicables con su justificación.
Declaración de Seguridad verificada
Declaración de Seguridad completa y coherente con la documentación del producto, validada por los responsables de CPSTIC.
Resultados de las pruebas
Resultados PASA o FALLA de cada requisito y trazabilidad de las pruebas de penetración específicas de IA ejecutadas.
Verificación de correcciones
Coordinamos la verificación de las correcciones y dejamos trazabilidad de los resultados, incluidos los hallazgos pendientes, si los hubiera.
Un punto de contacto durante todo el proceso
Nos encargamos del análisis, la preparación documental, las pruebas y el informe de evaluación. Trabajáis directamente con el equipo que evalúa vuestro producto, con un punto de contacto durante todo el proceso.
Nos ocupamos de la evaluación ESP-IA para que podáis seguir centrados en vuestro producto.
Preguntas frecuentes sobre la evaluación ESP-IA
¿Cuánto dura una evaluación ESP-IA?
La guía no fija un plazo total. El esfuerzo depende de las interfaces, los componentes de IA, los requisitos aplicables y las configuraciones. Los tres días-persona que exige la metodología son solo el mínimo para las pruebas de penetración adicionales, además de la verificación de requisitos y las otras etapas.
¿Qué productos pueden necesitar una evaluación ESP-IA?
Productos cuya seguridad depende de mecanismos propios de la IA: asistentes y chatbots con modelos de lenguaje, sistemas que interpretan instrucciones en lenguaje natural, funcionalidades que invocan herramientas, APIs o sistemas externos, componentes que aprenden o se ajustan después del despliegue, o agentes que proponen o ejecutan acciones.
¿ESP-IA sustituye a LINCE o CICLON?
No. ESP-IA evalúa la seguridad específica de la IA. No sustituye a otras evaluaciones ni concede por sí sola la inclusión en CPSTIC. Si ese es vuestro objetivo, revisamos por separado la vía de inclusión y las certificaciones o evaluaciones que correspondan.
¿Cómo se decide qué requisitos se aplican a mi producto?
Mediante las preguntas de caracterización (C01 a C21) y la matriz de aplicabilidad de CCN-STIC 2011. Sus respuestas describen hechos del producto, no vulnerabilidades: cada regla que se cumple hace aplicables una amenaza o política y sus requisitos de seguridad, que se verifican con pruebas durante la evaluación. La guía define 27 requisitos, pero a cada producto se le exigen los que resultan de las reglas y relaciones de arquitectura aplicables.
¿Quién puede ejecutar una evaluación ESP-IA?
ESP-IA solo puede ejecutarla un laboratorio de evaluación acreditado y autorizado por el CCN. En CYBSER nos encargamos de la preparación, ejecutamos la evaluación y elaboramos el Informe Técnico de Evaluación. El CCN valida la Declaración de Seguridad, revisa nuestro informe y emite el resultado final.
¿Qué ocurre si un requisito no supera las pruebas?
El resultado de ese requisito es FALLA y el veredicto de la evaluación no puede ser PASA. Analizamos la causa con vuestro equipo, os ayudamos a interpretar los hallazgos y verificamos las correcciones que realicéis. El resultado depende de las pruebas. No se garantiza un veredicto favorable.
¿Vuestro producto incorpora IA y queréis evaluar su seguridad?
Nos encargamos de la evaluación ESP-IA de principio a fin para que vuestro equipo pueda seguir centrado en el producto.