La mayoría de las organizaciones ya tienen un registro de riesgos. Casi ninguna tiene un registro de riesgos de IA real.
Copian y pegan riesgos de ciberseguridad, añaden «IA» en el título y esperan que funcione. No funciona. La IA genera nuevos comportamientos, nuevas dependencias, nuevos modos de fallo y nuevas obligaciones regulatorias para las que el registro existente no fue diseñado.
La buena noticia: no se necesita un nuevo marco de riesgos, sino uno mejor, adaptado a las realidades de la IA.
A continuación se presenta el método práctico y contrastado en el campo para construir un registro de riesgos de IA que realmente funcione.
El riesgo de IA no es «riesgo cibernético con matices». Los sistemas de IA:
- evolucionan con el tiempo,
- dependen de conjuntos de datos que no siempre se controlan,
- se apoyan en proveedores que no siempre se conocen,
- producen resultados que no se pueden predecir completamente,
- afectan a decisiones que no siempre se pueden rastrear.
El registro de riesgos debe reflejar eso.
El secreto es sencillo:combinar el enfoque de ISO 27005 + ISO 31000 + ISO/IEC 42001, sin reinventar todo.
A continuación se desglosa el método paso a paso.
1. Comenzar por identificar los activos de IA
El registro de riesgos de IA comienza con un inventario claro. No se puede evaluar lo que no se puede identificar.
Hay que listar cuatro categorías de activos:
Sistemas de IA LLM, clasificadores, modelos predictivos, chatbots, motores de puntuación.
Pipelines de IA y fuentes de datos Conjuntos de datos de entrenamiento, datos de inferencia, preprocesamiento.
Servicios con IA integrada Herramientas de selección de personal, modelos de detección de fraude, motores de recomendación, copilotos de IA.
Modelos externos y GPAI Azure OpenAI, Claude, Gemini, APIs de HuggingFace, funcionalidades SaaS con IA integrada.
Si se omite este paso, el registro de riesgos se derrumba.
2. Categorizar los activos de IA por exposición al riesgo
No toda la IA es igual.
Hay que utilizar métricas de criticidad específicas para IA:
- autonomía (¿qué tan independiente es el sistema?)
- criticidad de la decisión
- impacto en el negocio
- sensibilidad de los datos
- requisito de explicabilidad
- probabilidad de deriva
- exposición a usuarios
- categoría regulatoria (EU AI Act: mínimo, limitado, alto riesgo)
Esto proporciona el criterio que se utilizará para priorizar los riesgos.
3. Ampliar el catálogo de amenazas para incluir los modos de fallo de la IA
Las bibliotecas de amenazas tradicionales no cubren el 80% del riesgo de IA. Se necesitan amenazas y vulnerabilidades específicas de IA.
Amenazas relacionadas con los datos
- sesgo en los datos de entrenamiento
- envenenamiento de datos
- etiquetas incorrectas
- filtración a través de prompts
- exposición de datos personales en los resultados
Amenazas relacionadas con el modelo
- alucinaciones
- prompts adversariales
- deriva del modelo
- pérdida de reproducibilidad
- falta de explicabilidad
Amenazas operacionales
- interrupciones del servicio de IA
- actualizaciones de modelos no controladas
- uso indebido por parte de empleados
- dependencia excesiva de los resultados de la IA
Amenazas de gobernanza y cumplimiento
- incumplimiento de los requisitos del AI Act
- documentación del modelo incompleta
- límites de supervisión humana poco claros
- herramientas de IA en uso no autorizadas
- ausencia de trazabilidad para las decisiones de IA
Estas amenazas alimentan directamente los escenarios de riesgo.
4. Redactar escenarios de riesgo con la estructura estándar de ISO 27005
No se necesita un nuevo método. Se necesitan nuevos escenarios.
Escenario de ejemplo 1
Amenaza: Un chatbot de IA alucina y proporciona consejos médicos incorrectos.Vulnerabilidad: Sin revisión humana ni validación de resultados.Impacto: Responsabilidad legal, daño reputacional, perjuicio al paciente.Probabilidad: MediaControles: Revisión humana en el proceso, filtrado de prompts, restricciones de uso.Riesgo residual: Bajo
Escenario de ejemplo 2
Amenaza: La deriva del modelo reduce la precisión de la detección de fraude.Vulnerabilidad: Sin monitorización del rendimiento del modelo a lo largo del tiempo.Impacto: Pérdida financiera, incidente regulatorio.Controles: Monitorización de la deriva, plan de reentrenamiento, umbrales de alerta.Riesgo residual: Medio
Escenario de ejemplo 3
Amenaza: Empleados comparten datos sensibles con un LLM externo.Vulnerabilidad: Sin política de uso de IA ni controles sobre los prompts.Impacto: Fuga de datos, brecha GDPR.Controles: Restricciones de acceso, política, formación, monitorización.Riesgo residual: Bajo/Medio
Este es el nivel de claridad que los auditores esperarán durante la aplicación del AI Act.
5. Puntuar los riesgos correctamente (la IA requiere dimensiones adicionales)
La probabilidad y el impacto siguen siendo aplicables, pero con factores adicionales específicos de la IA.
Hay que añadir las siguientes dimensiones a la lógica de puntuación:
- riesgo de deriva
- riesgo de calidad de los datos
- requisito de explicabilidad
- dependencia de IA de terceros
- nivel de autonomía
- predictibilidad del modelo
- potencial de discriminación
- exposición transfronteriza de datos
Estos factores influyen en la puntuación de probabilidad e impacto.
No se necesitan nuevas columnas; solo una evaluación más profunda.
6. Asociar cada riesgo con controles específicos de IA
Los riesgos de IA requieren controles tanto de seguridad como de gobernanza.
Los controles habituales de IA incluyen:
- validación de conjuntos de datos
- filtrado de contenidos
- pruebas de sesgo
- supervisión humana
- control de acceso basado en roles
- monitorización de la deriva
- políticas de uso
- registro y trazabilidad
- versionado de modelos
- respuesta a incidentes por fallos de IA
- mecanismos de explicabilidad
- evaluación de proveedores de IA
Asociar los controles a los riesgos del mismo modo que se hace con ISO 27001.
7. Integrar el riesgo de IA en el registro de riesgos existente
No se necesita un registro separado. Se necesita enriquecer el existente.
Hay que incorporar los riesgos de IA al registro principal, incluyendo:
- «activo de IA» como categoría de activo
- «modelo de IA» o «pipeline de datos de IA» como tipo de activo
- amenazas y vulnerabilidades específicas de IA
- controles específicos
- puntuación actualizada
- responsable del sistema de IA
- implicaciones regulatorias (AI Act, GDPR, normativa sectorial)
Esto garantiza que la gobernanza de IA forme parte del ISMS y no sea una iniciativa aislada.
8. Incorporar el riesgo de IA a los procesos GRC existentes
El registro de riesgos solo es útil si está integrado en la gobernanza.
Los riesgos de IA deben alimentar:
- la gestión del cambio
- la gestión de proveedores
- la respuesta a incidentes
- la auditoría interna
- la concienciación y formación
- las revisiones del ISMS
- los informes al Consejo de Administración
Los riesgos de IA evolucionan más rápido que los sistemas TI tradicionales; la gobernanza debe seguir ese ritmo.
9. Revisar los riesgos de IA con mayor frecuencia que los riesgos tradicionales
Los sistemas de IA cambian:
- mediante reentrenamiento,
- mediante deriva,
- mediante nuevos casos de uso,
- mediante actualizaciones del modelo por parte del proveedor,
- mediante hitos regulatorios.
La revisión trimestral es el mínimo. Mensual para los sistemas de IA de alto impacto.
Los riesgos de IA no son algo que se configure una vez y se olvide.
10. Proporcionar una plantilla sencilla y legible para todos los equipos
A continuación se presenta una plantilla de registro de riesgos de IA lista para usar hoy mismo. Se puede utilizar en Excel, Notion, Confluence o en la plataforma GRC existente.
📄 Plantilla de registro de riesgos de IA (Descarga)
Reflexión final
Un registro de riesgos de IA no es un ejercicio de cumplimiento. Es una herramienta de visibilidad, un mecanismo de control y la base de la gobernanza de IA.
Si se construye correctamente, no solo se protege la organización. Se habilita una adopción de IA segura, escalable y con confianza.
La gobernanza de IA no consiste en frenar la innovación. Consiste en asegurarse de que la innovación no explote en la cara de nadie.
Si se quiere construir un programa completo de gestión del riesgo de IA, con plantillas, controles y alineación con ISO/IEC 42001, eso es exactamente lo que se enseña en el curso AI Risk Manager de Cyber Academy. Únase a la próxima sesión y construya un registro de riesgos de IA que soporte cualquier escrutinio.