ISO/IEC 27090 se publicó en octubre. He leído las 66 páginas. Mi veredicto cabe en tres líneas.
Es una norma buena que llega tarde. Es ligera donde debería ser densa y densa donde no importa. Y conviene leerla de todos modos, porque está a punto de convertirse en el vocabulario que usarán su auditor, su consejo de administración y sus proveedores de IA, y es mejor dominarlo antes que ellos.
Aquí está lo que acierta, dónde flaquea, cómo la utilizaré en auditorías y la tabla que debería haber incluido y no incluyó.
Qué es, en un párrafo
Es una guía del comité que mantiene ISO 27001, dirigida a cualquier organización que desarrolle o utilice sistemas de IA. Se sitúa junto a 27001 y 27002 para el SGSI, 42001 para el sistema de gestión de IA, 23894 para el riesgo en IA y 27091 para IA y privacidad. Su función es el catálogo de amenazas que faltaba en los demás: nueve formas en que un sistema de IA puede quedar comprometido, cada una con fallos, detección y mitigaciones. No conlleva certificación. Si alguien le ofrece un "certificado 27090" el próximo trimestre, pregúntele exactamente qué se certifica.
Lo que acierta
Dice que primero hay que resolver lo básico. Antes de un solo ataque específico de IA, la norma recuerda que un sistema de IA es software que corre sobre una pila tecnológica, y que los controles de 27002 tienen prioridad. Después dice algo que me gustaría que leyera cada proveedor de seguridad para IA: asegurar la pila de software puede ser "un punto de partida más eficiente para la inversión en seguridad" que defenderse de extracciones sofisticadas mediante prompts. Traducción para la reunión de presupuesto: compruebe quién puede copiar los pesos del modelo antes de comprar un firewall de prompts.
Admite que las mitigaciones se contradicen entre sí. La cláusula 7 es la parte más honesta del documento. Afirma con claridad que "las mitigaciones que implican entrenamiento pueden mostrar efectos secundarios perjudiciales inesperados", citando trabajos de NIST en los que el entrenamiento adversarial contra un ataque dejó al modelo mucho más expuesto ante otro. Añade que las defensas construidas mediante entrenamiento se degradan a medida que los modelos derivan. Las normas raramente reconocen que sus propios controles pueden volverse en contra. Esta lo hace, y la lección para el registro de controles es directa: una línea por mitigación no dice nada. Hay que probar el conjunto.
Le da un nuevo papel al throttling. Limitar la tasa de acceso al modelo por usuario, dice la norma, "no tiene por objeto prevenir la sobrecarga del sistema, sino dificultar la experimentación". La mayoría de los ataques de extracción e inversión de modelos necesitan miles de intentos. Ralentizarlos eleva el coste del ataque, con un control que ya se sabe gestionar.
La orientación sobre agentes es precisa. Los privilegios corresponden al agente o servicio que actúa, acotados a la tarea, con expiración al terminarla, bajo la identidad propia del agente en lugar de los derechos completos del usuario. Los agentes de API pasan una verificación antes de la ejecución; los agentes de uso de equipo disponen de una lista de acciones permitidas; los orquestadores mantienen aislamiento entre componentes. Cada recuperación RAG se autoriza de forma independiente, de modo que una aplicación autorizada no pueda entregar a un usuario un documento al que nunca tuvo acceso. Si se despliegan agentes, esta subcláusula sola justifica el precio de la norma.
Dónde flaquea
La cláusula 6 no enseñará mucho al profesional. Si se ha trabajado con el OWASP Top 10 for LLM Applications, MITRE ATLAS o la taxonomía de aprendizaje automático adversarial de NIST, los nueve tipos de compromiso son terreno conocido. El valor de 27090 está en otro sitio: sitúa esos ataques en el lenguaje de un SGSI, que es el lenguaje que ya aceptan auditores, comités de riesgo y equipos de compras. Eso es valor real. Simplemente es un valor distinto del que venderán los titulares.
Los agentes obtienen una subcláusula. El aprendizaje federado obtiene un anexo. El mayor riesgo operativo de 2026 son los agentes de IA con permisos reales en sistemas reales. La orientación sobre privilegios de agentes, buena como es, ocupa alrededor de una página. El aprendizaje automático federado, que muy pocas de las organizaciones que leen esto gestionarán alguna vez, recibe un anexo informativo completo. La cronología de redacción se lee en ese desequilibrio: el documento se concibió antes de que los agentes se popularizaran, y el contenido sobre agentes se añadió después.
Algunas secciones se detienen antes de empezar. Véase el caso de la salida sensible del modelo, el riesgo de que un modelo devuelva datos personales o material protegido por derechos de autor de su conjunto de entrenamiento. El análisis completo de los fallos dice: "La confidencialidad de los datos de entrenamiento se ve comprometida." La detección consiste en filtrar las salidas en busca de patrones reconocibles, siendo el ejemplo un número de teléfono. Es un punto de partida, y la norma debería haberlo dicho.
El «si» que debería haberse eliminado. Sobre las salidas que contienen ataques de inyección, la norma dice que la salida del modelo "debe considerarse no fiable si los datos de entrenamiento pueden considerarse no fiables". Para cualquier modelo de lenguaje entrenado con la web abierta, esa condición siempre se cumple. Elimine el «si». Toda aplicación que canalice la salida del modelo hacia un navegador, una shell, un ticket o un correo electrónico tiene una nueva superficie de inyección, y el equipo de AppSec debería tratar el modelo como un usuario no fiable más.
Se contradice en el registro. En una cláusula, 27090 enumera la minimización de datos y la retención limitada como controles de seguridad por derecho propio. Tres cláusulas después, recomienda registrar cada interacción con el modelo incluyendo la entrada, la salida, el identificador de usuario, la marca de tiempo y la versión del modelo. Ni una palabra sobre retención, ni una palabra sobre las consecuencias para la privacidad. Los prompts y las respuestas son algunos de los datos más personales que una organización registrará. Si leyó el artículo de la semana pasada, sabrá que ya señalo la ausencia del DPO como hallazgo recurrente. Implemente el apartado 7.5 sin su participación y ese hallazgo se escribirá contra usted mismo.
Dos «shall» en un documento lleno de «should». Lo he contado. El cuerpo del texto usa «should» más de cien veces y «shall» solo dos, ambas en la cláusula 5.1: los controles convencionales deberán implementarse, y los compromisos específicos de IA deberán tenerse en cuenta a lo largo del ciclo de vida. En un documento de orientación, es una elección curiosa. Su auditor leerá esas dos palabras, y usted también debería hacerlo.
Cómo la utilizaré en auditorías
En tres ámbitos, comenzando por mi próxima auditoría ISO 27001 que incluya IA en el alcance.
La evaluación de riesgos. Si una organización opera sistemas de IA y su catálogo de amenazas no contiene nada sobre envenenamiento, extracción, inversión o inyección, ese catálogo está incompleto. 27090 es ahora la referencia a la que señalaré.
Permisos de agentes. 27090 ancla su orientación de mínimo privilegio en el control 8.2 de 27002, derechos de acceso privilegiado. Por tanto, un agente que opera con los derechos completos de un usuario, o con credenciales permanentes que nunca caducan, ya no es una preocupación teórica. Es un hallazgo contra un control sobre el que ya se está certificado. La pregunta que haré: escoja su agente más capaz e indíqueme qué podría hacer si alguien lo convenciera.
Registro de uso de IA. Registrar el uso del modelo es una buena práctica y 27090 hace bien en pedirlo. Verificaré que venga acompañado de un período de retención, una finalidad y la opinión del DPO documentada.
La tabla que la norma debería haber incluido
27090 señala aquí y allá hacia 27002. Nunca ofrece una visión consolidada. Aquí está la nuestra: dónde aterriza cada tipo de compromiso en un SGSI existente y en una implementación de 42001. Úsela para conectar 27090 con la evaluación de riesgos que ya tiene.
| Tipo de compromiso 27090 | Controles ISO/IEC 27002:2022 | Anexo A de ISO/IEC 42001 |
|---|---|---|
| Envenenamiento de datos | 5.21 Cadena de suministro TIC, 8.25 Ciclo de vida de desarrollo seguro, 8.32 Gestión de cambios | A.7.4 Calidad de los datos, A.7.5 Procedencia de los datos, A.10.3 Proveedores |
| Envenenamiento directo del modelo | 8.4 Acceso al código fuente, 8.31 Separación de entornos, 8.32 Gestión de cambios | A.6.2.5 Despliegue |
| Exfiltración del modelo | 8.3 Restricción de acceso a la información, 8.16 Actividades de monitorización | A.6.2.6 Operación y monitorización |
| Inferencia de pertenencia, inversión del modelo | 5.34 Privacidad y protección de PII, 8.11 Enmascaramiento de datos | A.7.6 Preparación de datos |
| Salida sensible del modelo | 8.12 Prevención de fuga de datos, 5.34 Privacidad y protección de PII | A.6.2.6 Operación y monitorización |
| Evasión | 8.26 Requisitos de seguridad de aplicaciones, 8.29 Pruebas de seguridad | A.6.2.4 Verificación y validación |
| Inyección de prompt | 8.26 Requisitos de seguridad de aplicaciones, 8.28 Codificación segura | A.6.2.4 Verificación y validación |
| Salida con inyección | 8.28 Codificación segura | A.6.2.4 Verificación y validación |
| Privilegios de agentes | 8.2 Derechos de acceso privilegiado, 5.15 Control de acceso, 5.18 Derechos de acceso | A.9.4 Uso previsto del sistema de IA |
| Registro de uso del modelo | 8.15 Registro, 8.16 Actividades de monitorización | A.6.2.8 Registro de registros de eventos |
Consejo: Comience por las filas donde ya tiene un control implantado. La mayoría de las organizaciones encontrará que cuatro o cinco de estas diez están cubiertas por controles que ya aplican hoy, extendidos al entorno de IA. Las brechas suelen estar en la procedencia de los datos, los privilegios de agentes y el registro que nadie dimensionó para prompts.
Reflexión final
Lo más útil de 27090 es lo poco que brilla. Comienza recordando que los sistemas de IA son software, que los controles existentes siguen siendo aplicables y que las defensas exóticas vienen después de lo básico. Donde flaquea, lo hace de un modo que un profesional puede compensar en una tarde.
Los nuevos ataques son reales. Rara vez son la puerta más barata hacia el sistema de IA. Cierre las obvias, conecte el resto al SGSI que ya tiene en marcha y deje de esperar a que un marco específico de IA le ahorre el trabajo.
Si está incorporando IA a un SGSI, o construyendo el sistema de gestión en torno a ella, nuestros cursos de ISO 42001 Lead Implementer e ISO 27001 Lead Implementer los imparten profesionales que implementan y auditan estas normas cada semana. Al finalizar, sabrá cuáles de esas diez filas puede cerrar el lunes.
