Come integrare il rischio AI nel proprio ISMS e Risk Register esistenti

L'AI non ha rotto il vostro ISMS; ha semplicemente esposto i suoi punti ciechi.

La maggior parte delle organizzazioni cerca di gestire il rischio AI utilizzando gli stessi modelli e lo stesso approccio usati per i sistemi IT. Non funziona. L'AI introduce nuove modalità di guasto, nuove dipendenze, nuove aspettative di governance e nuove forme di danno.

La soluzione non è sostituire il vostro ISMS. Si tratta di aggiornarlo, integrando il rischio AI nella struttura esistente.

Ecco come farlo correttamente.

Il vostro ISMS sa già come gestire il rischio. Ha semplicemente bisogno di nuovi input.

Il rischio AI si inserisce naturalmente in ISO 27001, ISO 27005 e ISO 31000, a condizione che si:

• definiscano gli asset AI
• comprendano le modalità di guasto dell'AI
• amplino i criteri di rischio
• aggiungano controlli specifici per l'AI
• aggiornino le evidenze e il monitoraggio
• colleghino i rischi AI alla sicurezza delle informazioni tradizionale

Non serve un sistema parallelo di gestione del rischio AI. Occorre collegare l'AI a quello già in uso.

Analizziamo il metodo passo per passo.

1. Iniziare identificando gli asset AI (questo è il passaggio mancante)

Il rischio AI inizia con la visibilità. La maggior parte delle aziende non sa dove sia collocata l'AI nella propria architettura.

Elencate quattro categorie di asset AI:

1. Modelli AI LLM, classificatori, motori di raccomandazione, modelli di scoring.
2. Pipeline AI e flussi di dati Dati di training, dati di inferenza, fasi di pre-elaborazione.
3. Sistemi integrati con AI Chatbot, strumenti di supporto alle decisioni, funzionalità AI in ambito HR, finance e customer-facing.
4. Servizi di terze parti / GPAI Azure OpenAI, Claude, Gemini, modelli basati su API, AI incorporata in applicazioni SaaS.

Non è possibile valutare il rischio AI finché non si sa:

• quale AI si utilizza
• dove è collocata
• come influenza i processi
• quali dati tratta
• quali decisioni influenza

Prima l'inventario, poi l'analisi. Sempre.

2. Classificare ogni asset AI utilizzando dimensioni specifiche per l'AI

La classificazione tradizionale degli asset (riservatezza, integrità, disponibilità) non è sufficiente.

L'AI introduce nuove dimensioni:

• autonomia (quanto è indipendente il modello)
• impatto sulle decisioni (consultivo vs. critico)
• sensibilità dei dati (training e inferenza)
• criticità del modello (impatto sul business in caso di errore)
• potenziale di model drift
• esigenze di spiegabilità
• esposizione al bias
• categoria regolamentare (AI Act: minimale / limitato / alto rischio)

Queste classificazioni consentono di stabilire le priorità dei rischi in una fase successiva.

Un chatbot utilizzato internamente = criticità bassa. Un modello di rilevamento frodi in ambito bancario = alto rischio. Un modello di selezione del personale = soggetto a regolamentazione. Un LLM rivolto ai clienti = impatto da medio ad alto.

Il vostro ISMS ha bisogno di queste categorie per adattare i criteri di rischio in modo intelligente.

3. Arricchire i criteri di rischio con le modalità di guasto specifiche dell'AI

Qui la maggior parte dei risk register fallisce. I rischi AI non assomigliano ai rischi tradizionali.

Aggiungete ai vostri criteri queste modalità di guasto specifiche dell'AI:

Rischi legati ai dati

• avvelenamento dei dati di training
• perdita di dati tramite prompt
• memorizzazione involontaria
• esposizione di dati sensibili negli output
• etichettatura errata dei dati

Rischi legati al modello

• allucinazioni
• bias e discriminazione
• model drift
• perdita di spiegabilità
• miscalibrazione
• attacchi avversariali
• eccessivo affidamento / automation bias

Rischi operativi

• output errati in processi critici
• modifiche non supervisionate nel comportamento del modello
• interruzioni del servizio AI cloud
• vendor lock-in
• subprocessori nascosti

Rischi di governance

• assenza di supervisione umana
• decisioni del modello non documentate
• dataset non verificati
• assenza di controllo versione
• uso improprio dei modelli da parte dei dipendenti
• non conformità normativa (EU AI Act)

Questi elementi diventano parte del vostro dizionario dei rischi.

Una volta definiti, il rischio AI diventa gestibile, esattamente come il rischio cyber o il rischio privacy.

4. Aggiungere scenari AI al metodo di risk assessment ISO 27005 esistente

I rischi AI si inseriscono perfettamente nella valutazione del rischio classica basata su scenari.

Struttura di esempio:

Minaccia: Allucinazione del modello nel supporto clientiVulnerabilità: Nessun meccanismo di revisione umanaImpatto: Consiglio errato → danno al cliente → responsabilità legaleProbabilità: Media (in base al caso d'uso)Controllo: Workflow di supervisione umanaRischio residuo: Basso

Un altro scenario:

Minaccia: Il model drift modifica l'accuratezza del rilevamento frodiVulnerabilità: Nessun monitoraggio delle performance nel tempoImpatto: Perdita finanziariaControllo: Monitoraggio del drift e trigger di re-training

L'AI non richiede un nuovo metodo; solo nuovi scenari, nuove minacce, nuovi controlli.

5. Integrare il rischio AI nel risk register utilizzando le colonne esistenti

Il vostro risk register non ha bisogno di nuovi campi; ma necessita di una logica estesa.

Usate la stessa struttura:

• asset
• minaccia
• vulnerabilità
• probabilità
• impatto
• controlli
• risk owner
• rischio residuo
• piano di trattamento

Aggiungete semplicemente elementi specifici dell'AI nell'analisi.

Esempi da inserire direttamente:

Rischio: "L'LLM fornisce consulenza legale errata". Rischio: "Il modello AI di selezione discrimina gruppi protetti". Rischio: "Il fornitore GPAI modifica le condizioni o il comportamento del modello senza preavviso". Rischio: "Il codice generato dall'AI introduce vulnerabilità di sicurezza". Rischio: "Il bias nel dataset compromette equità e fiducia". Rischio: "Prompt non controllati portano a perdita di dati".

Seguono la stessa architettura; cambia solo il contenuto.

6. Collegare i rischi AI ai controlli ISO 27001 / 27002 esistenti

I rischi AI si mappano naturalmente sui controlli esistenti:

• Controllo degli accessi → previene la perdita di dati tramite prompt
• Gestione del cambiamento → copre gli aggiornamenti del modello
• Logging e monitoraggio → copre il comportamento del modello
• Sviluppo sicuro → si applica alle pipeline di training
• Gestione dei fornitori → copre la dipendenza da GPAI
• Continuità operativa → copre le interruzioni del servizio AI

Ecco perché ISO 27001 non ha bisogno di essere riscritto per l'AI; i suoi controlli supportano già le fondamenta necessarie.

È sufficiente aggiungere interpretazioni specifiche per l'AI.

Esempio: Controllo 8.28 (Secure Coding) → include ora la revisione del codice generato dall'AI. Controllo 5.7 (Threat Intelligence) → include ora la threat intelligence sull'AI. Controllo 8.16 (Monitoring) → include ora il monitoraggio del model drift.

Si estende l'ambiente di controllo, non lo si ricostruisce.

7. Aggiungere misure di governance AI da ISO/IEC 42001 (facoltativo, ma consigliato)

ISO/IEC 42001 è il gemello di governance AI di ISO 27001. Non è necessaria la certificazione completa; ma è opportuno prenderne a prestito la logica.

Aggiungete questi elementi di governance:

• regole di supervisione umana
• governance del dataset
• documentazione del ciclo di vita
• requisiti di spiegabilità
• ruoli per i responsabili AI
• versioning del modello
• segnalazione degli incidenti per guasti AI

Questi elementi si integrano agevolmente nel vostro ISMS e nel modello di gestione del rischio.

8. Aggiornare i piani di trattamento del rischio con i controlli AI

I trattamenti tipici includono:

• aggiunta di checkpoint human-in-the-loop
• implementazione di controlli sulla qualità del dataset
• restrizione dei prompt
• aggiunta di controlli degli accessi per i sistemi AI
• introduzione di meccanismi di spiegazione
• limitazione dell'autonomia per i processi critici
• monitoraggio del drift
• tecniche anti-allucinazione di tipo tecnico
• test contro il bias
• miglioramento del dataset di training
• documentazione della lineage del modello

Questi sono gli equivalenti AI del patching, della segmentazione o del logging in cybersecurity.

9. Integrare il monitoraggio del rischio AI nei processi ISMS

Il rischio AI deve essere monitorato continuamente perché i sistemi AI cambiano nel tempo.

Inserite attività di monitoraggio in:

• revisioni del rischio
• gestione del cambiamento
• audit interni
• gestione degli incidenti
• revisioni dei fornitori
• programmi di formazione
• cicli di miglioramento continuo

Il vostro ISMS dispone già di questi processi; il rischio AI diventa semplicemente parte di essi.

10. Rendere il rischio AI visibile ai dirigenti

I dirigenti devono comprendere:

• i rischi AI
• l'impatto sulle operazioni
• i requisiti di governance
• l'esposizione normativa (EU AI Act)
• le dipendenze dai fornitori GPAI

Aggiungete l'AI come sezione in:

• report di rischio per il Board
• revisioni ISMS trimestrali
• riesami della direzione

Il messaggio per i dirigenti è semplice:l'AI aumenta sia le opportunità sia l'esposizione al rischio; l'organizzazione deve governarla.

Considerazione finale

Il rischio AI non è una nuova disciplina. È un'estensione della gestione del rischio esistente.

Una volta definiti gli asset AI, aggiunte le nuove tipologie di minaccia e integrati i controlli AI, il vostro ISMS diventa a prova di futuro: pronto per gli obblighi dell'AI Act, le aspettative di mercato e la governance interna.

L'AI non richiede di smontare il vostro ISMS. Richiede di insegnare al vostro ISMS un nuovo muscolo.

Questa è l'evoluzione della governance moderna.

Se volete integrare il rischio AI in ISO 27001, ISO 27005 e nel vostro risk register esistente, senza complessità inutile, è esattamente ciò che insegniamo nel Cyber Academy AI Risk Manager e nei corsi ISO/IEC 42001 Lead Auditor e Lead Implementer. Partecipate alla prossima sessione e rendete la vostra governance a prova di futuro.