ISO/IEC 27090 è uscito a ottobre. Ho letto tutte le 66 pagine. Il mio verdetto sta in tre righe.
È uno standard valido che arriva tardi. È leggero dove dovrebbe essere pesante e pesante dove non conta. Leggetelo comunque, perché sta per diventare il vocabolario che il vostro auditor, il vostro consiglio di amministrazione e i vostri fornitori di AI useranno tutti, e conviene parlarlo prima di loro.
Ecco cosa centra, dove è debole, come lo userò negli audit e la tabella che avrebbe dovuto includere e non ha incluso.
Cos'è, in un paragrafo
Una guida del comitato che gestisce ISO 27001, rivolta a qualsiasi organizzazione che sviluppa o utilizza sistemi AI. Si affianca a 27001 e 27002 per l'ISMS, a 42001 per il sistema di gestione AI, a 23894 per il rischio AI e a 27091 per AI e privacy. Il suo compito è il catalogo di minacce che gli altri mancavano: nove modi in cui un sistema AI può essere compromesso, ciascuno con i fallimenti, il rilevamento e le mitigazioni. Non è prevista alcuna certificazione. Se qualcuno Le propone un "certificato 27090" nel prossimo trimestre, chieda cosa viene esattamente certificato.
Cosa centra
Dice di sistemare prima le cose banali. Prima di qualsiasi attacco specifico all'AI, lo standard ricorda che un sistema AI è software che gira su uno stack e che i controlli 27002 vengono prima. Poi dice qualcosa che vorrei ogni vendor di sicurezza AI leggesse: mettere in sicurezza lo stack software può essere "un punto di partenza più efficiente per gli investimenti in sicurezza" rispetto alla difesa da sofisticate tecniche di estrazione tramite prompt. Traduzione per la riunione di budget: verificate chi può copiare i pesi del vostro modello prima di acquistare un prompt firewall.
Ammette che le mitigazioni si contrastano a vicenda. Il Clausola 7 è la parte più onesta del documento. Afferma chiaramente che "le mitigazioni che coinvolgono il training possono mostrare effetti collaterali dannosi e inattesi", citando lavori NIST in cui il training avversariale contro un attacco rendeva il modello molto più esposto a un altro. Aggiunge che le difese costruite tramite training si degradano con il drift del modello. Gli standard raramente ammettono che i propri controlli possono ritorcersi contro. Questo lo fa, e la lezione per il registro dei controlli è diretta: una riga per mitigazione non dice nulla. Si testa il portafoglio.
Assegni al throttling un nuovo compito. Limitare la frequenza di accesso al modello per utente, dice, è "non inteso a prevenire il sovraccarico del sistema, ma a ostacolare la sperimentazione". La maggior parte degli attacchi di estrazione e inversione del modello richiedono migliaia di tentativi. Rallentarli significa alzare il costo dell'attacco, con un controllo che si sa già come gestire.
La guida sugli agenti è precisa. I privilegi appartengono all'agente o al servizio che agisce, limitati al task, con scadenza al termine del task, sotto l'identità propria dell'agente anziché i diritti completi dell'utente. Gli agenti API ricevono una verifica prima dell'esecuzione, gli agenti computer-use una allow-list di azioni, gli orchestratori un isolamento tra i componenti. Ogni recupero RAG è autorizzato singolarmente, così un'applicazione autorizzata non può consegnare a un utente un documento che non aveva il diritto di leggere. Se si distribuiscono agenti, questa sola sottoclausola vale il prezzo dello standard.
Dove è debole
Il Clausola 6 non insegna molto al professionista. Chi ha lavorato con l'OWASP Top 10 for LLM Applications, MITRE ATLAS o la tassonomia NIST sull'adversarial machine learning troverà i nove tipi di compromissione terreno familiare. Il valore di 27090 è altrove: mette quegli attacchi nel linguaggio di un ISMS, che è il linguaggio che auditor, comitati di rischio e team di procurement già accettano. È un valore reale. È semplicemente un valore diverso da quello che i titoli venderanno.
Gli agenti ottengono una sottoclausola. Il federated learning ottiene un annesso. Il più grande rischio operativo del 2026 sono gli agenti AI con permessi reali in sistemi reali. La guida sui privilegi degli agenti, per quanto valida, occupa circa una pagina. Il federated machine learning, che pochissime organizzazioni tra quelle che leggono questo testo gestiranno mai, ottiene un intero annesso informativo. Si può leggere la cronologia di redazione in questo squilibrio: il documento è stato concepito prima che gli agenti diventassero mainstream, e il materiale sugli agenti vi è stato aggiunto sopra.
Alcune sezioni si fermano prima di iniziare. Prendete il sensitive model output, il rischio che un modello restituisca dati personali o materiale protetto da copyright dal suo training set. L'analisi completa di cosa fallisce recita: "La riservatezza dei dati di training è compromessa." Il rilevamento si riduce a filtrare gli output per pattern riconoscibili, con un numero di telefono come esempio fornito. È un punto di partenza, e lo standard avrebbe dovuto dirlo.
L'"if" che avrebbe dovuto essere eliminato. Sugli output che trasportano attacchi di injection, lo standard afferma che l'output del modello "dovrebbe essere considerato non affidabile se i dati di training possono essere considerati non affidabili". Per qualsiasi language model addestrato sul web aperto, quella condizione è sempre vera. Eliminate l'"if". Ogni applicazione che convoglia l'output del modello in un browser, una shell, un ticket o un'e-mail ha una nuova superficie di injection, e il team AppSec dovrebbe trattare il modello come un altro utente non affidabile.
Si contraddice sul logging. In una clausola, 27090 elenca la minimizzazione dei dati e la conservazione limitata come controlli di sicurezza a pieno titolo. Tre clausole dopo, raccomanda di registrare ogni interazione con il modello: input, output, identificatore utente, timestamp e versione del modello. Nessuna parola sulla retention, nessuna parola sulle conseguenze per la privacy. Prompt e risposte sono tra i dati più personali che un'organizzazione registrerà mai. Chi ha letto l'articolo della settimana scorsa sa che segnalo già l'assenza del DPO come finding ricorrente. Implementare il 7.5 senza di loro significa scrivere quel finding contro sé stessi.
Due "shall" in un documento pieno di "should". Ho contato. Il corpo usa "should" più di cento volte e "shall" due volte, entrambe nel clausola 5.1: i controlli convenzionali shall essere implementati, e i compromessi specifici AI shall essere presi in considerazione lungo tutto il ciclo di vita. In un documento di guida, è una scelta singolare. Il vostro auditor leggerà quelle due parole, e dovreste farlo anche voi.
Come lo userò negli audit
Tre ambiti, a partire dal prossimo audit ISO 27001 con AI in scope.
La valutazione del rischio. Se un'organizzazione gestisce sistemi AI e il suo catalogo di minacce non contiene nulla su poisoning, estrazione, inversione o injection, quel catalogo è incompleto. 27090 è ora il riferimento a cui punterò.
Permessi degli agenti. 27090 ancora la sua guida sul least privilege al controllo 27002 8.2, privileged access rights. Quindi un agente che opera con i diritti completi di un utente, o con credenziali permanenti che non scadono mai, non è più una preoccupazione teorica. È un finding rispetto a un controllo su cui si è già certificati. La domanda che farò: prendete il vostro agente più capace e dite cosa potrebbe fare se qualcuno lo convincesse a farlo.
Logging dell'IA. Registrare l'uso del modello è buona pratica e 27090 ha ragione a richiederlo. Verificherò che sia accompagnato da un periodo di retention, uno scopo e il parere del DPO agli atti.
La tabella che lo standard avrebbe dovuto includere
27090 rimanda a 27002 qua e là. Non fornisce mai la vista consolidata. Eccola: dove ogni tipo di compromissione ricade in un ISMS esistente e in un'implementazione 42001. Usatela per collegare 27090 alla valutazione del rischio che già avete.
| Tipo di compromissione 27090 | Controlli ISO/IEC 27002:2022 | ISO/IEC 42001 Annex A |
|---|---|---|
| Data poisoning | 5.21 Catena di fornitura ICT, 8.25 Ciclo di vita dello sviluppo sicuro, 8.32 Gestione delle modifiche | A.7.4 Qualità dei dati, A.7.5 Provenienza dei dati, A.10.3 Fornitori |
| Poisoning diretto del modello | 8.4 Accesso al codice sorgente, 8.31 Separazione degli ambienti, 8.32 Gestione delle modifiche | A.6.2.5 Deployment |
| Esfiltrazione del modello | 8.3 Limitazione dell'accesso alle informazioni, 8.16 Attività di monitoraggio | A.6.2.6 Funzionamento e monitoraggio |
| Membership inference, model inversion | 5.34 Privacy e protezione delle PII, 8.11 Mascheramento dei dati | A.7.6 Preparazione dei dati |
| Output sensibile del modello | 8.12 Prevenzione della fuga di dati, 5.34 Privacy e protezione delle PII | A.6.2.6 Funzionamento e monitoraggio |
| Evasion | 8.26 Requisiti di sicurezza delle applicazioni, 8.29 Test di sicurezza | A.6.2.4 Verifica e convalida |
| Prompt injection | 8.26 Requisiti di sicurezza delle applicazioni, 8.28 Codifica sicura | A.6.2.4 Verifica e convalida |
| Output che veicola un'injection | 8.28 Codifica sicura | A.6.2.4 Verifica e convalida |
| Privilegi degli agenti | 8.2 Diritti di accesso privilegiato, 5.15 Controllo degli accessi, 5.18 Diritti di accesso | A.9.4 Uso previsto del sistema di IA |
| Logging dell'uso del modello | 8.15 Logging, 8.16 Attività di monitoraggio | A.6.2.8 Registrazione dei log degli eventi |
Suggerimento: Partite dalle righe in cui avete già un controllo attivo. La maggior parte delle organizzazioni troverà che quattro o cinque di questi dieci sono coperti da controlli già in uso, estesi all'AI estate. I gap sono di solito data provenance, privilegi degli agenti e logging che nessuno ha dimensionato per i prompt.
Considerazione finale
La cosa più utile di 27090 è quanto sia poco spettacolare. Si apre dicendo che i sistemi AI sono software, che i controlli esistenti si applicano ancora e che le difese esotiche vengono dopo le basi. Dove è debole, lo è in modi che un professionista può compensare in un pomeriggio.
I nuovi attacchi sono reali. Raramente sono la porta più economica verso il vostro sistema AI. Chiudete quelle ovvie, collegate il resto all'ISMS che già gestite e smettete di aspettare che un framework specifico per AI vi salvi dal fare il lavoro.
Se state integrando l'AI in un ISMS, o costruendo il sistema di gestione intorno ad essa, i nostri corsi ISO 42001 Lead Implementer e ISO 27001 Lead Implementer sono tenuti da professionisti che implementano e auditano questi standard ogni settimana. Uscirete sapendo quali di quelle dieci righe la vostra organizzazione può chiudere già da lunedì.
