La IA no rompió tu SGSI; simplemente expuso sus puntos ciegos.
La mayoría de las organizaciones intentan gestionar el riesgo de IA con las mismas plantillas y el mismo enfoque que aplican a los sistemas de TI. No funciona. La IA introduce nuevos modos de fallo, nuevas dependencias, nuevas expectativas de gobernanza y nuevas formas de daño.
La solución no es reemplazar tu SGSI. Es actualizarlo, integrando el riesgo de IA en tu estructura existente.
Aquí se explica cómo hacerlo correctamente.
Tu SGSI ya sabe gestionar el riesgo. Solo necesita nuevos insumos.
El riesgo de IA encaja de forma natural en ISO 27001, ISO 27005 e ISO 31000, siempre que:
- definas los activos de IA
- comprendas los modos de fallo de la IA
- amplíes tus criterios de riesgo
- añadas controles específicos de IA
- actualices tus evidencias y tu monitorización
- vincules los riesgos de IA a la seguridad de la información tradicional
No necesitas un sistema paralelo de riesgo de IA. Necesitas conectar la IA al sistema que ya tienes.
Desglosamos el método paso a paso.
1. Comienza identificando los activos de IA (este es el paso que falta)
El riesgo de IA empieza por la visibilidad. La mayoría de las organizaciones no saben dónde se encuentra la IA en su arquitectura.
Clasifica cuatro categorías de activos de IA:
- Modelos de IA LLMs, clasificadores, motores de recomendación, modelos de puntuación.
- Pipelines de IA y flujos de datos Datos de entrenamiento, datos de inferencia, etapas de preprocesamiento.
- Sistemas integrados de IA Chatbots, herramientas de apoyo a la decisión, funcionalidades de IA en RRHH, finanzas y atención al cliente.
- Servicios de terceros / GPAI Azure OpenAI, Claude, Gemini, modelos basados en API, IA embebida en SaaS.
No puedes evaluar el riesgo de IA hasta que sepas:
- qué IA utilizas
- dónde se encuentra
- cómo afecta a los procesos
- qué datos maneja
- qué decisiones influencia
Inventario antes que análisis; siempre.
2. Clasifica cada activo de IA usando dimensiones específicas de IA
La clasificación tradicional de activos (confidencialidad, integridad, disponibilidad) no es suficiente.
La IA introduce nuevas dimensiones:
- autonomía (grado de independencia del modelo)
- impacto en las decisiones (orientativo frente a crítico)
- sensibilidad de los datos (entrenamiento e inferencia)
- criticidad del modelo (impacto en el negocio si falla)
- potencial de deriva del modelo
- necesidades de explicabilidad
- exposición al sesgo
- categoría regulatoria (AI Act: mínimo / limitado / alto riesgo)
Estas clasificaciones permiten priorizar los riesgos posteriormente.
Un chatbot de uso interno tiene criticidad baja. Un modelo de detección de fraude en banca es de alto riesgo. Un modelo de cribado de RRHH está regulado. Un LLM de cara al cliente tiene un impacto medio-alto.
Tu SGSI necesita estas categorías para ajustar los criterios de riesgo de forma inteligente.
3. Enriquece tus criterios de riesgo con los modos de fallo de la IA
Aquí es donde la mayoría de los registros de riesgo fallan. Los riesgos de IA no se parecen a los riesgos tradicionales.
Añade estos modos de fallo específicos de IA a tus criterios:
Riesgos relacionados con los datos
- envenenamiento de datos de entrenamiento
- filtración a través de prompts
- memorización no intencionada
- exposición de datos sensibles en las salidas
- etiquetado incorrecto de datos
Riesgos relacionados con el modelo
- alucinaciones
- sesgo y discriminación
- deriva del modelo
- pérdida de explicabilidad
- descalibración
- ataques adversariales
- dependencia excesiva / sesgo de automatización
Riesgos operacionales
- salidas incorrectas en procesos críticos
- cambios no supervisados en el comportamiento del modelo
- interrupciones de servicios de IA en la nube
- dependencia de un único proveedor
- subencargados ocultos
Riesgos de gobernanza
- falta de supervisión humana
- decisiones del modelo no documentadas
- conjuntos de datos no verificados
- falta de control de versiones
- uso indebido de modelos por parte de empleados
- incumplimiento regulatorio (EU AI Act)
Estos pasan a formar parte de tu diccionario de riesgos.
Una vez definidos, el riesgo de IA se vuelve gestionable, igual que el riesgo cibernético o el riesgo de privacidad.
4. Añade escenarios de IA a tu método de riesgo ISO 27005 existente
Los riesgos de IA encajan perfectamente en la evaluación de riesgos clásica basada en escenarios.
Ejemplo de estructura:
Amenaza: Alucinación del modelo en soporte al clienteVulnerabilidad: Sin mecanismo de revisión humanaImpacto: Asesoramiento incorrecto → daño al cliente → responsabilidad legalProbabilidad: Media (según el caso de uso)Control: Flujo de trabajo con supervisión humanaRiesgo residual: Bajo
Otro escenario:
Amenaza: La deriva del modelo altera la precisión de la detección de fraudeVulnerabilidad: Sin monitorización del rendimiento a lo largo del tiempoImpacto: Pérdida económicaControl: Monitorización de la deriva y activadores de reentrenamiento
La IA no requiere un método nuevo; solo nuevos escenarios, nuevas amenazas, nuevos controles.
5. Integra el riesgo de IA en el registro de riesgos usando las columnas existentes
Tu registro de riesgos no necesita nuevos campos; pero sí necesita una lógica ampliada.
Usa la misma estructura:
- activo
- amenaza
- vulnerabilidad
- probabilidad
- impacto
- controles
- propietario del riesgo
- riesgo residual
- plan de tratamiento
Simplemente añade elementos específicos de IA en el análisis.
Ejemplos que puedes incorporar directamente:
Riesgo: «El LLM devuelve asesoramiento legal incorrecto». Riesgo: «El modelo de cribado de IA discrimina a grupos protegidos». Riesgo: «El proveedor de GPAI modifica las condiciones o el comportamiento del modelo sin previo aviso». Riesgo: «El código generado por IA introduce vulnerabilidades de seguridad». Riesgo: «El sesgo del conjunto de datos daña la equidad y la confianza». Riesgo: «Prompts no controlados provocan filtración de datos».
Siguen la misma arquitectura; solo con contenido nuevo.
6. Vincula los riesgos de IA a los controles existentes de ISO 27001 / 27002
Los riesgos de IA se mapean de forma natural con los controles existentes:
- Control de acceso → previene la filtración de prompts y datos
- Gestión de cambios → cubre las actualizaciones del modelo
- Registro y monitorización → cubre el comportamiento del modelo
- Desarrollo seguro → aplica a los pipelines de entrenamiento
- Gestión de proveedores → cubre la dependencia de GPAI
- Continuidad de negocio → cubre las interrupciones del servicio de IA
Por eso ISO 27001 no necesita reescribirse para la IA; sus controles ya soportan los fundamentos.
Simplemente se añaden interpretaciones específicas de IA.
Ejemplo: Control 8.28 (Codificación segura) → ahora incluye la revisión de código generado por IA. Control 5.7 (Inteligencia de amenazas) → ahora incluye inteligencia de amenazas de IA. Control 8.16 (Monitorización) → ahora incluye la monitorización de la deriva del modelo.
Se amplía el entorno de control, no se reconstruye.
7. Añade medidas de gobernanza de IA de ISO/IEC 42001 (opcional pero recomendable)
ISO/IEC 42001 es el equivalente de gobernanza de IA de ISO 27001. No es necesaria la certificación completa; pero conviene adoptar su lógica.
Añade estos elementos de gobernanza:
- reglas de supervisión humana
- gobernanza de conjuntos de datos
- documentación del ciclo de vida
- expectativas de explicabilidad
- roles para propietarios de modelos de IA
- control de versiones del modelo
- notificación de incidentes por fallos de IA
Estos elementos se integran fluidamente en tu SGSI y en tu modelo de gestión de riesgos.
8. Actualiza tus planes de tratamiento del riesgo con controles de IA
Los tratamientos típicos incluyen:
- incorporar puntos de verificación con intervención humana
- implementar controles de calidad del conjunto de datos
- restringir los prompts
- añadir controles de acceso a los sistemas de IA
- introducir mecanismos de explicación
- limitar la autonomía en procesos críticos
- monitorización de la deriva
- técnicas técnicas anti-alucinación
- pruebas de sesgo
- mejora del conjunto de datos de entrenamiento
- documentación del linaje del modelo
Estos son los equivalentes en IA del parcheo, la segmentación o el registro en ciberseguridad.
9. Integra la monitorización del riesgo de IA en los procesos de tu SGSI
El riesgo de IA debe monitorizarse de forma continua porque los sistemas de IA cambian con el tiempo.
Añade tareas de monitorización en:
- revisiones de riesgos
- gestión de cambios
- auditorías internas
- gestión de incidentes
- revisiones de proveedores
- programas de formación
- ciclos de mejora continua
Tu SGSI ya cuenta con estos procesos; el riesgo de IA simplemente pasa a formar parte de ellos.
10. Haz visible el riesgo de IA para los directivos
Los directivos deben comprender:
- los riesgos de IA
- el impacto en las operaciones
- los requisitos de gobernanza
- la exposición regulatoria (EU AI Act)
- las dependencias de proveedores de GPAI
Añade la IA como sección en:
- informes de riesgo para el consejo de administración
- revisiones trimestrales del SGSI
- revisiones por la dirección
El mensaje para los directivos es sencillo: la IA aumenta tanto las oportunidades como la exposición, y la organización debe gobernarla.
Reflexión final
El riesgo de IA no es una disciplina nueva. Es una extensión de la gestión de riesgos existente.
Una vez que defines los activos de IA, añades nuevos tipos de amenazas e integras controles de IA, tu SGSI se vuelve a prueba de futuro: preparado para las obligaciones del AI Act, las expectativas del mercado y la gobernanza interna.
La IA no requiere desmantelar tu SGSI. Requiere enseñar a tu SGSI un nuevo músculo.
Esta es la evolución de la gobernanza moderna.
Si quieres integrar el riesgo de IA en ISO 27001, ISO 27005 y tu registro de riesgos existente (sin complejidad añadida), eso es exactamente lo que enseñamos en el Cyber Academy AI Risk Manager y en el ISO/IEC 42001 Lead Auditor y Lead Implementer. Únete a la próxima sesión y prepara tu gobernanza para el futuro.