ISO/IEC 27090 est paru en octobre. J'ai lu les 66 pages. Mon verdict tient en trois lignes.
C'est un bon standard qui arrive tard. Il est léger là où il devrait être solide, et lourd là où ça ne change pas grand-chose. Lisez-le quand même, parce qu'il va devenir le vocabulaire de votre auditeur, de votre direction et de vos fournisseurs d'IA. Autant le maîtriser avant eux.
Voici ce qu'il réussit, là où il est faible, comment je vais l'utiliser en audit, et le tableau qu'il aurait dû inclure.
Ce que c'est, en un paragraphe
Un guide du comité qui maintient ISO 27001, destiné à toute organisation qui développe ou utilise des systèmes d'IA. Il s'articule avec 27001 et 27002 pour le SMSI, 42001 pour le système de management de l'IA, 23894 pour le risque IA et 27091 pour l'IA et la vie privée. Sa fonction : fournir le catalogue de menaces qui manquait aux autres. Neuf modes de compromission d'un système d'IA, chacun avec ses défaillances, ses indicateurs de détection et ses mesures d'atténuation. Aucune certification n'y est rattachée. Si quelqu'un vous propose un « certificat 27090 » le trimestre prochain, demandez-lui exactement ce qui est certifié.
Ce qu'il réussit
Il vous dit de régler d'abord les bases. Avant le premier type d'attaque propre à l'IA, le standard rappelle qu'un système d'IA est un logiciel qui tourne sur une pile, et que vos contrôles 27002 passent en premier. Puis il affirme quelque chose que j'aimerais voir lu par chaque éditeur de sécurité IA : sécuriser la pile logicielle peut être « un point de départ plus efficace pour l'investissement en sécurité » que de se défendre contre des extractions sophistiquées via les prompts. Traduction pour votre réunion budgétaire : vérifiez qui peut copier les poids de votre modèle avant d'acheter un pare-feu de prompts.
Il reconnaît que les mesures d'atténuation se contrarient. La clause 7 est la partie la plus honnête du document. Elle énonce clairement que « les mesures d'atténuation impliquant un réentraînement peuvent présenter des effets secondaires nocifs et inattendus », en citant des travaux NIST où l'entraînement adversarial contre une attaque rendait le modèle bien plus vulnérable à une autre. Il ajoute que les défenses construites par entraînement se dégradent à mesure que les modèles dérivent. Les standards admettent rarement que leurs propres contrôles peuvent se retourner contre vous. Celui-ci le fait, et la leçon pour votre registre de contrôles est directe : une ligne par mesure d'atténuation ne vous dit rien. Vous testez le portefeuille.
Il donne au throttling un nouveau rôle. Limiter le débit d'accès au modèle par utilisateur, précise-t-il, n'est « pas destiné à prévenir la surcharge système, mais à entraver l'expérimentation ». La plupart des attaques d'extraction et d'inversion de modèle nécessitent des milliers de requêtes. Ralentissez-les et vous avez augmenté le coût de l'attaque, avec un contrôle que vous savez déjà mettre en œuvre.
Ses recommandations sur les agents sont précises. Les privilèges appartiennent à l'agent ou au service qui agit, limités à la tâche, expirés dès la fin de la tâche, sous l'identité propre de l'agent plutôt que sous les droits complets de l'utilisateur. Les agents API font l'objet d'une vérification avant exécution, les agents à usage informatique d'une liste blanche d'actions autorisées, les orchestrateurs d'une isolation entre composants. Chaque récupération RAG est autorisée séparément, afin qu'une application autorisée ne puisse pas remettre à un utilisateur un document qu'il n'était pas habilité à lire. Si vous déployez des agents, cette seule sous-clause vaut le prix du standard.
Là où il est faible
La clause 6 n'apprendra pas grand-chose à un praticien. Si vous avez travaillé avec l'OWASP Top 10 for LLM Applications, MITRE ATLAS ou la taxonomie de machine learning adversarial de NIST, les neuf types de compromission sont un terrain connu. La valeur de 27090 est ailleurs : il traduit ces attaques dans le langage d'un SMSI, qui est le langage que les auditeurs, les comités de risques et les équipes achats acceptent déjà. C'est une valeur réelle. C'est simplement une valeur différente de celle que les gros titres vont vendre.
Les agents obtiennent une sous-clause. L'apprentissage fédéré obtient une annexe. Le risque opérationnel majeur de 2026, ce sont les agents IA qui détiennent de vraies permissions dans de vrais systèmes. Les recommandations sur les privilèges des agents, aussi bonnes soient-elles, tiennent en une page environ. L'apprentissage automatique fédéré, que très peu des organisations qui liront ce texte feront jamais tourner, obtient une annexe informative complète. Vous pouvez lire la chronologie de rédaction dans ce déséquilibre : le document a été conçu avant que les agents ne deviennent courants, et le contenu sur les agents y a été ajouté après coup.
Certaines sections s'arrêtent avant d'avoir commencé. Prenons la sortie sensible de modèle, le risque qu'un modèle restitue des données personnelles ou du contenu protégé par copyright issu de son jeu d'entraînement. L'analyse complète des défaillances se résume à : « La confidentialité des données d'entraînement est compromise. » La détection consiste à filtrer les sorties à la recherche de patterns reconnaissables, un numéro de téléphone étant l'exemple donné. C'est un point de départ, et le standard aurait dû le formuler ainsi.
Le « si » qui aurait dû être supprimé. Sur les sorties portant des attaques par injection, le standard indique que la sortie du modèle « doit être considérée comme non fiable si les données d'entraînement peuvent être considérées comme non fiables ». Pour tout modèle de langage entraîné sur le web ouvert, cette condition est toujours vraie. Supprimez le « si ». Toute application qui achemine la sortie d'un modèle vers un navigateur, un shell, un ticket ou un e-mail présente une nouvelle surface d'injection, et votre équipe AppSec doit traiter le modèle comme un utilisateur non fiable de plus.
Il se contredit sur la journalisation. Dans une clause, 27090 liste la minimisation des données et la durée de conservation limitée comme des contrôles de sécurité à part entière. Trois clauses plus loin, il recommande de journaliser chaque interaction avec le modèle, avec l'entrée, la sortie, l'identifiant utilisateur, l'horodatage et la version du modèle. Pas un mot sur la durée de conservation, pas un mot sur les conséquences en termes de vie privée. Les prompts et les réponses comptent parmi les données les plus personnelles qu'une organisation sera amenée à journaliser. Si vous avez lu l'article de la semaine dernière, vous savez que je relève déjà l'absence du DPO comme constat récurrent. Mettez en œuvre la clause 7.5 sans lui et vous écrirez ce constat contre vous-même.
Deux « shall » dans un document plein de « should ». J'ai compté. Le corps du texte utilise « should » plus d'une centaine de fois et « shall » deux fois, tous deux dans la clause 5.1 : les contrôles conventionnels shall être mis en œuvre, et les compromissions spécifiques à l'IA shall être prises en compte tout au long du cycle de vie. Dans un document de guidance, c'est un choix singulier. Votre auditeur lira ces deux mots, et vous devriez faire de même.
Comment je vais l'utiliser en audit
Trois points d'application, à commencer par mon prochain audit ISO 27001 incluant l'IA dans le périmètre.
L'appréciation des risques. Si une organisation exploite des systèmes d'IA et que son catalogue de menaces ne dit rien sur l'empoisonnement, l'extraction, l'inversion ou l'injection, ce catalogue est incomplet. 27090 est désormais la référence vers laquelle je pointerai.
Les permissions des agents. 27090 ancre ses recommandations sur le moindre privilège au contrôle 8.2 de 27002, les droits d'accès privilégiés. Un agent fonctionnant avec les droits complets d'un utilisateur, ou avec des credentials permanents qui n'expirent jamais, n'est donc plus une préoccupation théorique. C'est un constat sur un contrôle pour lequel vous êtes déjà certifié. La question que je poserai : prenez votre agent le plus capable, et dites-moi ce qu'il pourrait faire si quelqu'un le convainquait d'agir.
La journalisation IA. Journaliser l'utilisation du modèle est une bonne pratique et 27090 a raison de le demander. Je vérifierai que cela s'accompagne d'une durée de conservation, d'une finalité, et de l'avis du DPO consigné au dossier.
Le tableau que le standard aurait dû inclure
27090 renvoie ici et là à 27002. Il ne vous donne jamais la vue consolidée. Voici la nôtre : où chaque type de compromission s'inscrit dans un SMSI existant et dans une implémentation 42001. Utilisez-la pour câbler 27090 dans l'appréciation des risques que vous avez déjà.
| Type de compromission 27090 | Contrôles ISO/IEC 27002:2022 | Annexe A ISO/IEC 42001 |
|---|---|---|
| Empoisonnement des données | 5.21 Chaîne d'approvisionnement TIC, 8.25 Cycle de vie de développement sécurisé, 8.32 Gestion des changements | A.7.4 Qualité des données, A.7.5 Provenance des données, A.10.3 Fournisseurs |
| Empoisonnement direct du modèle | 8.4 Accès au code source, 8.31 Séparation des environnements, 8.32 Gestion des changements | A.6.2.5 Déploiement |
| Exfiltration de modèle | 8.3 Restriction d'accès à l'information, 8.16 Activités de surveillance | A.6.2.6 Exploitation et surveillance |
| Inférence d'appartenance, inversion de modèle | 5.34 Vie privée et protection des DCP, 8.11 Masquage des données | A.7.6 Préparation des données |
| Sortie sensible de modèle | 8.12 Prévention des fuites de données, 5.34 Vie privée et protection des DCP | A.6.2.6 Exploitation et surveillance |
| Évasion | 8.26 Exigences de sécurité des applications, 8.29 Tests de sécurité | A.6.2.4 Vérification et validation |
| Injection de prompt | 8.26 Exigences de sécurité des applications, 8.28 Codage sécurisé | A.6.2.4 Vérification et validation |
| Sortie portant une injection | 8.28 Codage sécurisé | A.6.2.4 Vérification et validation |
| Privilèges des agents | 8.2 Droits d'accès privilégiés, 5.15 Contrôle d'accès, 5.18 Droits d'accès | A.9.4 Usage prévu du système d'IA |
| Journalisation de l'utilisation du modèle | 8.15 Journalisation, 8.16 Activités de surveillance | A.6.2.8 Enregistrement des journaux d'événements |
Conseil : Commencez par les lignes où vous disposez déjà d'un contrôle en place. La plupart des organisations constateront que quatre ou cinq de ces dix points sont couverts par des contrôles qu'elles appliquent aujourd'hui, étendus au parc IA. Les lacunes concernent généralement la provenance des données, les privilèges des agents et la journalisation que personne n'a dimensionnée pour les prompts.
Pour conclure
Ce qui rend 27090 réellement utile, c'est son absence de glamour. Il s'ouvre en vous rappelant que les systèmes d'IA sont des logiciels, que vos contrôles existants s'appliquent toujours, et que les défenses exotiques viennent après les bases. Là où il est faible, il l'est d'une manière qu'un praticien peut compenser en une après-midi.
Les nouvelles attaques sont réelles. Elles sont rarement la porte d'entrée la moins chère dans votre système d'IA. Fermez les évidentes, câblez le reste dans le SMSI que vous exploitez déjà, et arrêtez d'attendre qu'un cadre spécifique à l'IA vous dispense de faire le travail.
Si vous intégrez l'IA dans un SMSI, ou si vous construisez le système de management autour de l'IA, nos formations ISO 42001 Lead Implementer et ISO 27001 Lead Implementer sont assurées par des praticiens qui implémentent et auditent ces standards chaque semaine. Vous repartirez en sachant lesquelles de ces dix lignes votre organisation peut clore dès lundi.
