Vai al contenuto principale
AI Act

Certified Artificial Intelligence Security Professional (CAISP)

Attaccare e difendere i sistemi AI. Prompt injection, dati di addestramento avvelenati, supply chain compromesse e agenti con permessi mai verificati, mappati su MITRE ATLAS e OWASP LLM Top 10, con red teaming pratico ed esame PECB al quinto giorno.

PECBExpert5 giorniLiveSelf-pacedIn-house
  • Guidato da professionisti, erogato da un CISO in attività
  • Esame e certificato inclusi
  • Ri-esame coperto se necessario
Christophe Mazzola

Tenuto da

Christophe Mazzola

Practicing CISO · Founder of Cyber Academy

Vedi il profilo completo →

Perché questa coorte

Come si svolge questo corso

  • Coorte limitata a 6 persone
  • Guidato da professionisti, erogato da un CISO in attività
  • PECB Gold Certified Trainer
  • 99,3% di promossi all'esameTutti i candidati dal 2023, esami PECB.
  • Certificazione o rimborso

Incluso

Cosa è incluso

  • 5 giorni di formazione
  • Esame di certificazione PECB
  • Licenza del corso e materiali
  • Certificato
  • Accompagnamento durante il corso

Risultati

Cosa sarà in grado di fare

  • 1Spiegare come funzionano machine learning, deep learning, LLM e agenti AI, e individuare i rischi che la loro architettura introduce
  • 2Mappare le minacce a un sistema AI o LLM su MITRE ATLAS e OWASP Top 10 for LLM Applications
  • 3Testare un modello in produzione per prompt injection e documentare i risultati e le modalità di esecuzione
  • 4Applicare controlli di sicurezza AI e meccanismi di monitoraggio che rilevano attività avversariali che il logging standard non intercetta
  • 5Gestire un flusso di threat intelligence che copra la compromissione di modello, dati e supply chain
  • 6Contenere e investigare un incidente che coinvolge un modello, i suoi dati di addestramento o la sua toolchain
  • 7Progettare e valutare un programma di AI security che comprenda incident response, supply chain e architettura sicura
  • 8Condurre il red team di un sistema AI e presentare i risultati in termini su cui il proprietario può agire

Programma

Giorno per giorno

Giorno 1Fondamenti di AI, ML e deep learning

  • Come vengono realmente costruiti questi sistemi

    Machine learning, deep learning e pipeline di addestramento, trattati con il livello di dettaglio necessario a un professionista della sicurezza: dove entrano i dati, dove sono archiviati i pesi, cosa viene eseguito in inferenza e chi può intervenire su ciascuna fase.

  • Fondamenti di sicurezza per AI e ML

    Applicare il modello di sicurezza tradizionale a un asset non convenzionale. Cosa significano riservatezza, integrità e disponibilità per un modello, un dataset e un prompt, e quali controlli esistenti si fermano al confine.

Entro fine giornata

  • • Disegnare una pipeline AI e contrassegnare ogni punto raggiungibile da un attaccante
  • • Definire cosa significa integrità per un modello e per i suoi dati di addestramento, separatamente
Giorno 2Architettura LLM, flussi di addestramento e tattiche di attacco

  • Dentro un deployment LLM

    Architettura, flussi di addestramento, gestione del contesto, retrieval e uso degli strumenti. La struttura deve essere chiara prima che le tattiche di attacco abbiano senso.

  • Tecniche di attacco e minacce avversariali

    Prompt injection, data poisoning, model extraction e compromissione della supply chain, organizzati su MITRE ATLAS e OWASP Top 10 for LLM Applications in modo che il catalogo sia navigabile e non meramente aneddotico.

  • Lab: test di prompt injection

    Test pratici su un deployment live, inclusi i percorsi indiretti attraverso contenuti recuperati e output degli strumenti che il testing diretto non raggiunge mai.

Entro fine giornata

  • • Classificare un finding reale su MITRE ATLAS e OWASP LLM Top 10
  • • Dimostrare una prompt injection indiretta e spiegare perché il filtraggio degli input non l'ha bloccata
Giorno 3Controlli di sicurezza AI e strategie di mitigazione

  • Controlli che reggono

    Gestione di input e output, isolamento, least privilege per la toolchain degli agenti, guardrail ed evaluation harness. Quali mitigazioni resistono a un avversario che sa della loro esistenza e quali si limitano ad aumentare il costo del primo tentativo.

  • Supply chain e provenienza del modello

    Pesi pre-addestrati, dataset di terze parti, servizi di fine-tuning e registry di modelli, valutati come la catena di dipendenze che rappresentano, con la governance che rende la provenienza verificabile.

Entro fine giornata

  • • Selezionare e giustificare un insieme di controlli per un sistema AI rispetto alle minacce documentate
  • • Valutare la supply chain di un modello e identificare la dipendenza che non è attualmente verificabile
Giorno 4Rilevamento, risposta e deployment sicuro

  • Rilevamento e threat intelligence

    Monitoraggio che porta in superficie l'attività avversariale, inclusa l'analisi di sicurezza AI-enhanced e l'analisi di malware AI-assisted, più il flusso di threat intelligence che la alimenta.

  • Risposta a un incidente AI

    Contenimento, investigazione e ripristino quando l'asset compromesso è un modello, un dataset o un agente con credenziali. Perché il playbook tradizionale necessita di nuovi passi e quali sono.

  • Architettura sicura e red teaming

    Progettare il perimetro attorno a un sistema AI, poi metterlo alla prova. Il red teaming AI come esercizio ripetibile, con un formato di reporting su cui il proprietario può agire, all'interno di un programma di AI security che copre governance e obblighi regolatori.

Entro fine giornata

  • • Scrivere la logica di rilevamento per una tecnica di attacco AI documentata
  • • Condurre un red team pass su un sistema AI e presentare i risultati per severità
Giorno 5Consolidamento e preparazione all'esame

  • Revisione dei cinque domini di competenza

    Un passaggio su fondamenti di sicurezza, tecniche di attacco, controlli e operazioni difensive, analisi AI-enhanced e threat intelligence, governance e architettura sicura.

  • Orientamento all'esame e sessione di domande

    Come è strutturata la valutazione e come sono formulate le domande, con tempo libero per quanto rimane ancora aperto. I quiz durante il corso rispecchiano la struttura dell'esame, quindi questa è una fase di consolidamento e non un primo incontro.

Entro fine giornata

  • • Individuare il proprio dominio debole prima dell'esame, non durante
  • • Affrontare la valutazione conoscendone ambito e struttura

Per chi

Adatto se lei è.

  • ✓Professionisti di cybersecurity e sicurezza delle informazioni il cui ambiente ha appena acquisito modelli e agenti AI
  • ✓Analisti SOC e addetti alla threat intelligence con sistemi AI ora nel perimetro di competenza
  • ✓Ingegneri AI e machine learning responsabili della sicurezza di ciò che rilasciano in produzione
  • ✓Architetti di sicurezza IT che progettano il perimetro attorno a un modello e alla sua toolchain
  • ✓Professionisti di rischio e compliance che devono valutare la postura di sicurezza AI senza doverla accettare per fede
  • ✓Data scientist e sviluppatori AI che hanno bisogno della visuale dell'attaccante sulla propria pipeline
  • ✓Manager tecnologici responsabili della sicurezza AI

Valutazione onesta

NON adatto. Quando saltarlo.

Preferiamo che tenga i suoi soldi piuttosto che acquistare il percorso sbagliato.

  • ✗Chi non ha un background in sicurezza. Il corso presuppone che threat modelling, controllo degli accessi e incident response siano già noti. Cybersecurity Foundation è il punto di partenza corretto
  • ✗Team alla ricerca di un framework di governance su cui certificarsi. ISO 42001 Lead Implementer costruisce il sistema di gestione. CAISP opera a livello di superficie d'attacco
  • ✗Manager che necessitano della visione strategica piuttosto che di quella tecnica. Certified Artificial Intelligence Manager (CAIM) copre la supervisione senza i laboratori pratici

Prerequisiti

  • È richiesta una solida base nei concetti fondamentali di cybersecurity e sicurezza delle informazioni
  • Familiarità operativa con threat modelling, controllo degli accessi, incident response e security monitoring
  • Una comprensione di base di come i sistemi di machine learning vengono costruiti e messi in produzione. Non è necessario essere data scientist

Sessioni pubbliche

Prossime sessioni pubbliche

Coorti ad iscrizione aperta. Scelga una data e prenoti il suo posto. Preferisce una coorte privata per il suo team? Richiedi un preventivo in-house.

Nessuna coorte live confermata al momento. Può comunque:

Acquistare la licenza self-pacedRichiedere un preventivo in-house

Nessuna data per questo corso al momento. Dicci come contattarti e ti avviseremo appena una sessione è confermata.

Pronto a certificarsi?

Tenuto da un CISO in attività. Prezzi e condizioni d'esame mostrati fin dall'inizio.

Acquista un posto liveAcquista la licenza self-pacedRichiedi un preventivo

Approfondimento

Tutto ciò che è incluso in questa certificazione

Il dettaglio dietro il titolo. Legga al suo ritmo. Ogni sezione risponde a una domanda che riceviamo nelle discovery call.

Perché partecipare

Un sistema di intelligenza artificiale presenta rischi che i controlli IT tradizionali non sono stati progettati per rilevare. Può essere manipolato attraverso i suoi input, corrotto tramite i dati di addestramento, compromesso attraverso la supply chain del modello e sfruttato tramite gli strumenti e i permessi che gli sono stati assegnati, spesso senza generare una singola voce nei log attualmente monitorati.

Il corso illustra come questi sistemi vengono attaccati, come vengono difesi e come tale difesa viene governata. È interamente pratico: test di prompt injection, AI red teaming, workflow di threat intelligence e analisi di malware assistita dall'IA, costruiti su MITRE ATLAS e OWASP Top 10 for LLM Applications. Quattro giorni di formazione, poi l'esame di certificazione.

Cosa copre l'esame

  • Dominio 1: Fondamenti di sicurezza per AI e ML
  • Dominio 2: Tecniche di attacco all'IA e minacce avversariali
  • Dominio 3: Controlli di sicurezza per l'IA e operazioni difensive
  • Dominio 4: Analisi della sicurezza e threat intelligence potenziate dall'IA
  • Dominio 5: Governance dell'IA, gestione del rischio e architettura sicura

Come si svolge il corso

Le sessioni con docente sono abbinate a esercitazioni pratiche in laboratorio e a scenari reali; i lab utilizzano gli strumenti effettivamente impiegati sul campo, non una loro simulazione. Ogni sezione viene consolidata con esercitazioni pratiche immediatamente dopo la teoria, e i quiz intermedi rispecchiano la struttura dell'esame di certificazione, rendendo la valutazione del quinto giorno un terreno familiare.

I partecipanti che frequentano il corso ricevono un'attestazione di completamento del corso del valore di 31 crediti CPD.

FAQ

Le domande che fanno sempre gli acquirenti

Quanto è tecnico questo corso?+

Sufficientemente tecnico da richiedere una vera preparazione in ambito security. PECB presuppone che threat modelling, controllo degli accessi, incident response e security monitoring siano già familiari, insieme a una comprensione di base del funzionamento dei sistemi di machine learning.

I laboratori sono pratici: prompt injection testing, AI red teaming, workflow di threat intelligence e analisi di malware assistita dall'AI, con strumenti reali. Non è richiesto addestrare modelli, ma è richiesto attaccarli e difenderli mentre sono in esecuzione.

Perché i controlli esistenti non sono sufficienti per i sistemi AI?+

Perché i vettori di attacco sono nuovi. Un sistema AI può essere manipolato attraverso i propri input, corrotto tramite i dati di addestramento, compromesso attraverso la supply chain del modello e sfruttato tramite gli strumenti e i permessi che gli sono stati assegnati, spesso senza lasciare traccia nei log standard.

I controlli già in uso restano rilevanti. Il corso analizza i loro limiti e ciò che occorre aggiungere a quel confine: gestione di input e output, isolamento, least privilege per gli strumenti degli agenti, verifica della provenienza e logica di rilevamento progettata per comportamenti avversariali.

Su quali framework si basa il corso?+

MITRE ATLAS e l'OWASP Top 10 for LLM Applications sono i due framework di riferimento, utilizzati per organizzare le tecniche di attacco in modo sistematico anziché come un elenco di aneddoti.

Questo conta tanto per la reportistica quanto per il testing. Un finding mappato su un framework riconosciuto ha più peso all'interno di un'organizzazione rispetto a uno descritto con parole proprie.

Cosa richiede la certificazione oltre all'esame?+

Esistono due livelli. Il PECB Certified Provisional Artificial Intelligence Security Professional richiede il superamento dell'esame e la firma del Codice Etico PECB, senza requisiti di esperienza.

La certificazione completa PECB Certified Artificial Intelligence Security Professional richiede cinque anni di esperienza professionale, di cui due in information o cyber security, e 300 ore di progetto. I requisiti sono definiti da PECB e possono variare; verificare quelli vigenti prima di presentare la domanda.

Come si posiziona CAISP rispetto a ISO 42001?+

Rispondono a domande diverse. ISO 42001 costruisce un sistema di gestione dell'IA su cui è possibile essere sottoposti ad audit: scope, policy, ruoli, trattamento del rischio e miglioramento continuo. È il livello di governance.

CAISP opera al di sotto di esso, a livello della superficie di attacco, e presuppone che qualcuno verifichi se uno specifico deployment possa essere compromesso. I professionisti senior in ambienti ad alto contenuto di IA detengono sempre più spesso entrambi, perché un sistema di gestione privo di test tecnici a supporto è solo un documento.

Passo successivo

Dove porta questo percorso

Guida pillar

Leggi la guida completa su AI Act

EU AI Act readiness work for providers and deployers across the four risk tiers.