Certified Artificial Intelligence Security Professional (CAISP)

Comment ces systèmes sont réellement construits

Machine learning, deep learning et pipeline d'entraînement, abordés au niveau de détail qu'un professionnel de la sécurité requiert : où les données entrent, où les poids sont stockés, ce qui s'exécute à l'inférence et qui peut intervenir à chaque étape.

Fondements de la sécurité pour l'IA et le ML

Application du modèle de sécurité classique à un actif non familier. Ce que confidentialité, intégrité et disponibilité signifient pour un modèle, un jeu de données et un prompt, et lesquels de vos contrôles existants s'arrêtent à la frontière.

L'intérieur d'un déploiement LLM

Architecture, workflows d'entraînement, gestion du contexte, récupération et utilisation des outils. La structure doit être claire avant que les tactiques d'attaque qui la visent aient du sens.

Techniques d'attaque et menaces adversariales

Injection de prompt, empoisonnement des données, extraction de modèle et compromission de la chaîne d'approvisionnement, organisés contre MITRE ATLAS et l'OWASP Top 10 for LLM Applications afin que le catalogue soit navigable plutôt qu'anecdotique.

Atelier : test d'injection de prompt

Tests pratiques contre un déploiement en direct, y compris les chemins indirects via le contenu récupéré et la sortie des outils que les tests de prompt directs n'atteignent jamais.

Les contrôles qui tiennent

Gestion des entrées et sorties, isolation, moindre privilège pour les outils des agents, garde-fous et harnais d'évaluation. Quelles mitigations résistent à un adversaire qui sait qu'elles sont en place, et lesquelles ne font qu'augmenter le coût de la première tentative.

Chaîne d'approvisionnement et provenance des modèles

Poids pré-entraînés, jeux de données tiers, services de fine-tuning et registres de modèles, évalués en tant que chaîne de dépendances, avec la gouvernance qui rend la provenance vérifiable.

Détection et threat intelligence

Surveillance qui fait remonter les activités adversariales, y compris l'analyse de sécurité assistée par IA et l'analyse de malwares assistée par IA, ainsi que le processus de threat intelligence qui l'alimente.

Répondre à un incident IA

Confinement, investigation et reprise lorsque l'actif compromis est un modèle, un jeu de données ou un agent disposant de credentials. Pourquoi le playbook habituel nécessite de nouvelles étapes et lesquelles.

Architecture sécurisée et red teaming

Concevoir le périmètre autour d'un système IA, puis le tester. Le red teaming IA comme exercice reproductible, avec un format de rapport sur lequel le responsable peut agir, dans le cadre d'un programme de sécurité IA couvrant la gouvernance et les obligations réglementaires.

Révision des cinq domaines de compétence

Un passage en revue des fondements de la sécurité, des techniques d'attaque, des contrôles et des opérations défensives, de l'analyse assistée par IA et de la threat intelligence, ainsi que de la gouvernance et de l'architecture sécurisée.

Présentation de l'examen et questions

Comment l'évaluation est structurée et comment ses questions sont formulées, avec du temps libre pour ce qui reste à éclaircir. Les quiz intégrés à la formation reflètent la structure de l'examen : cette séance est donc une consolidation, non une première découverte.