Andare al contenuto principale

ISO/IEC 27090 è pubblicato. Ecco cosa cambia per i suoi sistemi AI.

Ho letto tutte le 66 pagine perché Lei sappia da dove iniziare. Uno standard valido, in ritardo, leggero dove dovrebbe essere rigoroso, con due contraddizioni che il suo auditor troverà prima di Lei.

Christophe MazzolaChristophe Mazzola· CISO in attività · Fondatore di Cyber Academy7 min di lettura
Una copia stampata di ISO/IEC 27090, prima edizione 2026-10, con segnalibri adesivi su una scrivania accanto a una tazza Cyber Academy e un taccuino con checklist

ISO/IEC 27090 è uscito a ottobre. Ho letto tutte le 66 pagine. Il mio verdetto sta in tre righe.

È uno standard valido che arriva tardi. È leggero dove dovrebbe essere pesante e pesante dove non conta. Leggetelo comunque, perché sta per diventare il vocabolario che il vostro auditor, il vostro consiglio di amministrazione e i vostri fornitori di AI useranno tutti, e conviene parlarlo prima di loro.

Ecco cosa centra, dove è debole, come lo userò negli audit e la tabella che avrebbe dovuto includere e non ha incluso.

Cos'è, in un paragrafo

Una guida del comitato che gestisce ISO 27001, rivolta a qualsiasi organizzazione che sviluppa o utilizza sistemi AI. Si affianca a 27001 e 27002 per l'ISMS, a 42001 per il sistema di gestione AI, a 23894 per il rischio AI e a 27091 per AI e privacy. Il suo compito è il catalogo di minacce che gli altri mancavano: nove modi in cui un sistema AI può essere compromesso, ciascuno con i fallimenti, il rilevamento e le mitigazioni. Non è prevista alcuna certificazione. Se qualcuno Le propone un "certificato 27090" nel prossimo trimestre, chieda cosa viene esattamente certificato.

Cosa centra

Dice di sistemare prima le cose banali. Prima di qualsiasi attacco specifico all'AI, lo standard ricorda che un sistema AI è software che gira su uno stack e che i controlli 27002 vengono prima. Poi dice qualcosa che vorrei ogni vendor di sicurezza AI leggesse: mettere in sicurezza lo stack software può essere "un punto di partenza più efficiente per gli investimenti in sicurezza" rispetto alla difesa da sofisticate tecniche di estrazione tramite prompt. Traduzione per la riunione di budget: verificate chi può copiare i pesi del vostro modello prima di acquistare un prompt firewall.

Ammette che le mitigazioni si contrastano a vicenda. Il Clausola 7 è la parte più onesta del documento. Afferma chiaramente che "le mitigazioni che coinvolgono il training possono mostrare effetti collaterali dannosi e inattesi", citando lavori NIST in cui il training avversariale contro un attacco rendeva il modello molto più esposto a un altro. Aggiunge che le difese costruite tramite training si degradano con il drift del modello. Gli standard raramente ammettono che i propri controlli possono ritorcersi contro. Questo lo fa, e la lezione per il registro dei controlli è diretta: una riga per mitigazione non dice nulla. Si testa il portafoglio.

Assegni al throttling un nuovo compito. Limitare la frequenza di accesso al modello per utente, dice, è "non inteso a prevenire il sovraccarico del sistema, ma a ostacolare la sperimentazione". La maggior parte degli attacchi di estrazione e inversione del modello richiedono migliaia di tentativi. Rallentarli significa alzare il costo dell'attacco, con un controllo che si sa già come gestire.

La guida sugli agenti è precisa. I privilegi appartengono all'agente o al servizio che agisce, limitati al task, con scadenza al termine del task, sotto l'identità propria dell'agente anziché i diritti completi dell'utente. Gli agenti API ricevono una verifica prima dell'esecuzione, gli agenti computer-use una allow-list di azioni, gli orchestratori un isolamento tra i componenti. Ogni recupero RAG è autorizzato singolarmente, così un'applicazione autorizzata non può consegnare a un utente un documento che non aveva il diritto di leggere. Se si distribuiscono agenti, questa sola sottoclausola vale il prezzo dello standard.

Dove è debole

Il Clausola 6 non insegna molto al professionista. Chi ha lavorato con l'OWASP Top 10 for LLM Applications, MITRE ATLAS o la tassonomia NIST sull'adversarial machine learning troverà i nove tipi di compromissione terreno familiare. Il valore di 27090 è altrove: mette quegli attacchi nel linguaggio di un ISMS, che è il linguaggio che auditor, comitati di rischio e team di procurement già accettano. È un valore reale. È semplicemente un valore diverso da quello che i titoli venderanno.

Gli agenti ottengono una sottoclausola. Il federated learning ottiene un annesso. Il più grande rischio operativo del 2026 sono gli agenti AI con permessi reali in sistemi reali. La guida sui privilegi degli agenti, per quanto valida, occupa circa una pagina. Il federated machine learning, che pochissime organizzazioni tra quelle che leggono questo testo gestiranno mai, ottiene un intero annesso informativo. Si può leggere la cronologia di redazione in questo squilibrio: il documento è stato concepito prima che gli agenti diventassero mainstream, e il materiale sugli agenti vi è stato aggiunto sopra.

Alcune sezioni si fermano prima di iniziare. Prendete il sensitive model output, il rischio che un modello restituisca dati personali o materiale protetto da copyright dal suo training set. L'analisi completa di cosa fallisce recita: "La riservatezza dei dati di training è compromessa." Il rilevamento si riduce a filtrare gli output per pattern riconoscibili, con un numero di telefono come esempio fornito. È un punto di partenza, e lo standard avrebbe dovuto dirlo.

L'"if" che avrebbe dovuto essere eliminato. Sugli output che trasportano attacchi di injection, lo standard afferma che l'output del modello "dovrebbe essere considerato non affidabile se i dati di training possono essere considerati non affidabili". Per qualsiasi language model addestrato sul web aperto, quella condizione è sempre vera. Eliminate l'"if". Ogni applicazione che convoglia l'output del modello in un browser, una shell, un ticket o un'e-mail ha una nuova superficie di injection, e il team AppSec dovrebbe trattare il modello come un altro utente non affidabile.

Si contraddice sul logging. In una clausola, 27090 elenca la minimizzazione dei dati e la conservazione limitata come controlli di sicurezza a pieno titolo. Tre clausole dopo, raccomanda di registrare ogni interazione con il modello: input, output, identificatore utente, timestamp e versione del modello. Nessuna parola sulla retention, nessuna parola sulle conseguenze per la privacy. Prompt e risposte sono tra i dati più personali che un'organizzazione registrerà mai. Chi ha letto l'articolo della settimana scorsa sa che segnalo già l'assenza del DPO come finding ricorrente. Implementare il 7.5 senza di loro significa scrivere quel finding contro sé stessi.

Due "shall" in un documento pieno di "should". Ho contato. Il corpo usa "should" più di cento volte e "shall" due volte, entrambe nel clausola 5.1: i controlli convenzionali shall essere implementati, e i compromessi specifici AI shall essere presi in considerazione lungo tutto il ciclo di vita. In un documento di guida, è una scelta singolare. Il vostro auditor leggerà quelle due parole, e dovreste farlo anche voi.

Come lo userò negli audit

Tre ambiti, a partire dal prossimo audit ISO 27001 con AI in scope.

La valutazione del rischio. Se un'organizzazione gestisce sistemi AI e il suo catalogo di minacce non contiene nulla su poisoning, estrazione, inversione o injection, quel catalogo è incompleto. 27090 è ora il riferimento a cui punterò.

Permessi degli agenti. 27090 ancora la sua guida sul least privilege al controllo 27002 8.2, privileged access rights. Quindi un agente che opera con i diritti completi di un utente, o con credenziali permanenti che non scadono mai, non è più una preoccupazione teorica. È un finding rispetto a un controllo su cui si è già certificati. La domanda che farò: prendete il vostro agente più capace e dite cosa potrebbe fare se qualcuno lo convincesse a farlo.

Logging dell'IA. Registrare l'uso del modello è buona pratica e 27090 ha ragione a richiederlo. Verificherò che sia accompagnato da un periodo di retention, uno scopo e il parere del DPO agli atti.

La tabella che lo standard avrebbe dovuto includere

27090 rimanda a 27002 qua e là. Non fornisce mai la vista consolidata. Eccola: dove ogni tipo di compromissione ricade in un ISMS esistente e in un'implementazione 42001. Usatela per collegare 27090 alla valutazione del rischio che già avete.

Tipo di compromissione 27090Controlli ISO/IEC 27002:2022ISO/IEC 42001 Annex A
Data poisoning5.21 Catena di fornitura ICT, 8.25 Ciclo di vita dello sviluppo sicuro, 8.32 Gestione delle modificheA.7.4 Qualità dei dati, A.7.5 Provenienza dei dati, A.10.3 Fornitori
Poisoning diretto del modello8.4 Accesso al codice sorgente, 8.31 Separazione degli ambienti, 8.32 Gestione delle modificheA.6.2.5 Deployment
Esfiltrazione del modello8.3 Limitazione dell'accesso alle informazioni, 8.16 Attività di monitoraggioA.6.2.6 Funzionamento e monitoraggio
Membership inference, model inversion5.34 Privacy e protezione delle PII, 8.11 Mascheramento dei datiA.7.6 Preparazione dei dati
Output sensibile del modello8.12 Prevenzione della fuga di dati, 5.34 Privacy e protezione delle PIIA.6.2.6 Funzionamento e monitoraggio
Evasion8.26 Requisiti di sicurezza delle applicazioni, 8.29 Test di sicurezzaA.6.2.4 Verifica e convalida
Prompt injection8.26 Requisiti di sicurezza delle applicazioni, 8.28 Codifica sicuraA.6.2.4 Verifica e convalida
Output che veicola un'injection8.28 Codifica sicuraA.6.2.4 Verifica e convalida
Privilegi degli agenti8.2 Diritti di accesso privilegiato, 5.15 Controllo degli accessi, 5.18 Diritti di accessoA.9.4 Uso previsto del sistema di IA
Logging dell'uso del modello8.15 Logging, 8.16 Attività di monitoraggioA.6.2.8 Registrazione dei log degli eventi

Suggerimento: Partite dalle righe in cui avete già un controllo attivo. La maggior parte delle organizzazioni troverà che quattro o cinque di questi dieci sono coperti da controlli già in uso, estesi all'AI estate. I gap sono di solito data provenance, privilegi degli agenti e logging che nessuno ha dimensionato per i prompt.

Considerazione finale

La cosa più utile di 27090 è quanto sia poco spettacolare. Si apre dicendo che i sistemi AI sono software, che i controlli esistenti si applicano ancora e che le difese esotiche vengono dopo le basi. Dove è debole, lo è in modi che un professionista può compensare in un pomeriggio.

I nuovi attacchi sono reali. Raramente sono la porta più economica verso il vostro sistema AI. Chiudete quelle ovvie, collegate il resto all'ISMS che già gestite e smettete di aspettare che un framework specifico per AI vi salvi dal fare il lavoro.

Se state integrando l'AI in un ISMS, o costruendo il sistema di gestione intorno ad essa, i nostri corsi ISO 42001 Lead Implementer e ISO 27001 Lead Implementer sono tenuti da professionisti che implementano e auditano questi standard ogni settimana. Uscirete sapendo quali di quelle dieci righe la vostra organizzazione può chiudere già da lunedì.

Vuole la prossima nota dal campo nella sua casella di posta?

La newsletter The GRC Brief. Cinque link e un breve commento, ogni lunedì alle 8:00 CET. Tre minuti di lettura.