La maggior parte delle organizzazioni dispone già di un registro dei rischi. Quasi nessuna ha un vero registro dei rischi AI.
Copiano e incollano i rischi di cybersecurity, aggiungono "AI" nel titolo e sperano che funzioni. Non funziona. L'AI introduce nuovi comportamenti, nuove dipendenze, nuove modalità di guasto e nuovi obblighi normativi per i quali il registro esistente non è stato progettato.
Buona notizia: non occorre un nuovo framework di rischio; serve uno migliore, adattato alle realtà dell'AI.
Ecco il metodo pratico e testato sul campo per costruire un registro dei rischi AI che funziona davvero.
Il rischio AI non è "cyber risk con qualche variante". I sistemi AI:
- cambiano nel tempo,
- dipendono da dataset che non si controllano sempre,
- si affidano a fornitori che non si vedono sempre,
- producono output che non si possono prevedere completamente,
- influenzano decisioni che non si possono sempre tracciare.
Il registro dei rischi deve riflettere tutto ciò.
Il segreto è semplice:Combinare il pensiero di ISO 27005 + ISO 31000 + ISO/IEC 42001; senza reinventare tutto.
Analizziamo il metodo passo per passo.
1. Iniziare identificando gli asset AI
Il registro dei rischi AI parte da un inventario chiaro. Non si può valutare ciò che non si riesce a identificare.
Elencare quattro categorie di asset:
Sistemi AI LLM, classificatori, modelli predittivi, chatbot, motori di scoring.
Pipeline AI e fonti di dati Dataset di addestramento, dati di inferenza, preprocessing.
Servizi con AI integrata Strumenti di screening HR, modelli antifrode, motori di raccomandazione, AI copilot.
Modelli esterni e GPAI Azure OpenAI, Claude, Gemini, API HuggingFace, funzionalità SaaS con AI integrata.
Se si salta questo passaggio, il registro dei rischi crolla.
2. Categorizzare gli asset AI per esposizione al rischio
Non tutti i sistemi AI sono equivalenti.
Utilizzare metriche di criticità specifiche per l'AI:
- autonomia (quanto è indipendente il sistema?)
- criticità delle decisioni
- impatto sul business
- sensibilità dei dati
- requisito di spiegabilità
- probabilità di drift
- esposizione degli utenti
- categoria normativa (EU AI Act: minimale, limitato, alto rischio)
Questo fornisce la lente con cui prioritizzare i rischi.
3. Ampliare il catalogo delle minacce per includere le modalità di guasto AI
Le librerie di minacce tradizionali ignorano l'80% del rischio AI. Occorrono minacce e vulnerabilità specifiche per l'AI.
Minacce legate ai dataset
- bias nei dati di addestramento
- data poisoning
- etichette inaccurate
- perdita di dati attraverso i prompt
- esposizione di dati personali negli output
Minacce legate al modello
- allucinazioni
- prompt avversariali
- model drift
- perdita di riproducibilità
- mancanza di spiegabilità
Minacce operative
- interruzioni del servizio AI
- aggiornamenti del modello non controllati
- uso improprio da parte dei dipendenti
- eccessiva dipendenza dagli output AI
Minacce di governance e compliance
- mancato rispetto dei requisiti dell'AI Act
- documentazione del modello mancante
- confini di supervisione umana non chiari
- strumenti AI non approvati in uso
- assenza di audit trail per le decisioni AI
Queste minacce alimentano direttamente gli scenari di rischio.
4. Redigere scenari di rischio con una struttura ISO 27005 standard
Non occorre un nuovo metodo. Occorrono nuovi scenari.
Scenario di esempio 1
Minaccia: Un chatbot AI produce consigli medici errati per allucinazione.Vulnerabilità: Nessuna revisione umana né validazione degli output.Impatto: Responsabilità legale, danno reputazionale, danno al paziente.Probabilità: MediaControlli: Revisione human-in-the-loop, filtraggio dei prompt, restrizioni d'uso.Rischio residuo: Basso
Scenario di esempio 2
Minaccia: Il model drift riduce l'accuratezza del rilevamento delle frodi.Vulnerabilità: Nessun monitoraggio delle prestazioni del modello nel tempo.Impatto: Perdita finanziaria, incidente regolatorio.Controlli: Monitoraggio del drift, pianificazione del retraining, soglie di allerta.Rischio residuo: Medio
Scenario di esempio 3
Minaccia: I dipendenti condividono dati sensibili con un LLM esterno.Vulnerabilità: Nessuna policy sull'uso dell'AI né controlli sui prompt.Impatto: Perdita di dati, violazione del GDPR.Controlli: Restrizioni di accesso, policy, formazione, monitoraggio.Rischio residuo: Basso/Medio
Questo è il livello di chiarezza che gli auditor si aspetteranno durante l'applicazione dell'AI Act.
5. Valutare i rischi correttamente (l'AI richiede dimensioni aggiuntive)
Probabilità e impatto rimangono applicabili, ma con fattori aggiuntivi specifici per l'AI.
Aggiungere le seguenti dimensioni alla logica di scoring:
- rischio di drift
- rischio di qualità dei dati
- requisito di spiegabilità
- dipendenza da AI di terze parti
- livello di autonomia
- prevedibilità del modello
- potenziale di discriminazione
- esposizione transfrontaliera dei dati
Questi fattori influenzano la valutazione di probabilità e impatto.
Non servono nuove colonne; serve una valutazione più approfondita.
6. Mappare ogni rischio su controlli specifici per l'AI
I rischi AI richiedono controlli sia di sicurezza sia di governance.
I controlli AI tipici includono:
- validazione del dataset
- filtraggio dei contenuti
- test di bias
- supervisione umana
- accesso basato sui ruoli
- monitoraggio del drift
- policy d'uso
- logging e tracciabilità
- versioning del modello
- incident response per guasti AI
- meccanismi di spiegabilità
- valutazione dei fornitori AI
Associare i controlli ai rischi con lo stesso approccio utilizzato per ISO 27001.
7. Integrare il rischio AI nel registro dei rischi esistente
Non occorre un registro separato. Occorre arricchire quello esistente.
Aggiungere i rischi AI nel registro principale, includendo:
- "asset AI" come categoria di asset
- "modello AI" o "pipeline di dati AI" come tipo di asset
- minacce e vulnerabilità specifiche per l'AI
- controlli specifici
- scoring aggiornato
- responsabile del sistema AI
- implicazioni normative (AI Act, GDPR, normative settoriali)
Questo garantisce che la governance AI diventi parte dell'ISMS; non un'iniziativa isolata.
8. Integrare il rischio AI nei processi GRC esistenti
Il registro dei rischi è utile solo se è incorporato nella governance.
I rischi AI devono alimentare:
- il change management
- la gestione dei fornitori
- l'incident response
- l'audit interno
- la formazione e sensibilizzazione
- le revisioni dell'ISMS
- il reporting al Board
I rischi AI evolvono più rapidamente dei sistemi IT tradizionali; la governance deve seguire lo stesso ritmo.
9. Rivedere i rischi AI con maggiore frequenza rispetto ai rischi tradizionali
I sistemi AI cambiano:
- attraverso il retraining,
- attraverso il drift,
- attraverso nuovi casi d'uso,
- attraverso aggiornamenti del modello da parte del fornitore,
- attraverso scadenze normative.
La revisione trimestrale è il minimo. Mensile per i sistemi AI ad alto impatto.
I rischi AI non si impostano una volta per tutte.
10. Fornire un template semplice e leggibile a tutti i team
Ecco un template di registro dei rischi AI pronto all'uso, adottabile da oggi. Utilizzarlo in Excel, Notion, Confluence o nella piattaforma GRC esistente.
📄 Template di registro dei rischi AI (Download)
Considerazione finale
Un registro dei rischi AI non è un esercizio di compliance. È uno strumento di visibilità, un meccanismo di controllo, e il fondamento della governance AI.
Se costruito correttamente, non ci si limita a proteggere l'organizzazione: si abilita un'adozione dell'AI sicura, scalabile e consapevole.
La governance AI non serve a rallentare l'innovazione. Serve a fare in modo che l'innovazione non si trasformi in un problema.
Per chi vuole costruire un programma completo di gestione del rischio AI, comprensivo di template, controlli e allineamento a ISO/IEC 42001, è esattamente ciò che viene insegnato nel corso AI Risk Manager di Cyber Academy. Partecipare alla prossima sessione e costruire un registro dei rischi AI in grado di resistere a qualsiasi verifica.