Certified Artificial Intelligence Security Professional (CAISP)

Cómo se construyen realmente estos sistemas

Machine learning, deep learning y el pipeline de entrenamiento, tratados con la profundidad que necesita un profesional de seguridad: dónde entran los datos, dónde se almacenan los pesos, qué se ejecuta en inferencia y quién puede intervenir en cada etapa.

Fundamentos de seguridad para IA y ML

Proyectar el modelo de seguridad conocido sobre un activo desconocido. Qué significan confidencialidad, integridad y disponibilidad para un modelo, un dataset y un prompt, y cuáles de los controles existentes se detienen en la frontera.

Dentro de un despliegue LLM

Arquitectura, flujos de entrenamiento, gestión del contexto, recuperación y uso de herramientas. La estructura debe estar clara antes de que las tácticas de ataque contra ella tengan sentido.

Técnicas de ataque y amenazas adversariales

Inyección de prompts, envenenamiento de datos, extracción de modelos y compromiso de la cadena de suministro, organizados contra MITRE ATLAS y el OWASP Top 10 for LLM Applications para que el catálogo sea navegable y no meramente anecdótico.

Lab: pruebas de inyección de prompts

Pruebas prácticas sobre un despliegue real, incluidas las rutas indirectas a través de contenido recuperado y salida de herramientas que las pruebas directas de prompt nunca alcanzan.

Controles que aguantan

Gestión de entrada y salida, aislamiento, mínimo privilegio para el tooling de agentes, guardrails y arneses de evaluación. Qué mitigaciones sobreviven a un adversario que sabe que están ahí, y cuáles solo elevan el coste del primer intento.

Cadena de suministro y procedencia del modelo

Pesos preentrenados, datasets de terceros, servicios de fine-tuning y registros de modelos, evaluados como la cadena de dependencias que son, con la gobernanza que hace verificable la procedencia.

Detección e inteligencia de amenazas

Monitorización que saca a la superficie actividad adversarial, incluido el análisis de seguridad mejorado con IA y el análisis de malware asistido por IA, más el flujo de trabajo de inteligencia de amenazas que lo alimenta.

Respuesta ante un incidente de IA

Contención, investigación y recuperación cuando el activo comprometido es un modelo, un dataset o un agente con credenciales. Por qué el playbook habitual necesita pasos nuevos y cuáles son.

Arquitectura segura y red teaming

Diseñar el perímetro alrededor de un sistema de IA y luego probarlo. El red teaming de IA como ejercicio repetible, con un formato de reporte sobre el que el responsable puede actuar, dentro de un programa de seguridad de IA que cubre gobernanza y obligaciones regulatorias.

Repaso de los cinco dominios de competencia

Un recorrido por fundamentos de seguridad, técnicas de ataque, controles y operaciones defensivas, análisis mejorado con IA e inteligencia de amenazas, y gobernanza con arquitectura segura.

Orientación al examen y preguntas

Cómo está estructurada la evaluación y cómo se formulan sus preguntas, con tiempo abierto para lo que quede sin resolver. Los cuestionarios del curso reflejan la estructura del examen, por lo que esto es consolidación y no un primer contacto.