Ir para o conteúdo principal
AI Act

Certified Artificial Intelligence Security Professional (CAISP)

Atacar e defender sistemas de IA. Prompt injection, dados de treino envenenados, cadeias de abastecimento comprometidas e agentes com permissões que ninguém auditou, mapeados contra o MITRE ATLAS e o OWASP LLM Top 10, com red teaming prático e o exame PECB no quinto dia.

PECBExpert5 diasAo vivoAo seu ritmoFormação interna
  • Conduzido por profissionais, lecionado por um CISO em exercício
  • Exame e certificado incluídos
  • Re-exame coberto se necessário
Christophe Mazzola

Lecionado por

Christophe Mazzola

Practicing CISO · Founder of Cyber Academy

Ver perfil completo →

Porquê esta coorte

Como esta formação é conduzida

  • Coorte limitada a 6 pessoas
  • Conduzido por profissionais, lecionado por um CISO em exercício
  • PECB Gold Certified Trainer
  • 99,3% de aprovação no exameTodos os candidatos desde 2023, exames PECB.
  • Certificado ou Reembolso

Incluído

O que está incluído

  • 5 dias de formação
  • Exame de certificação PECB
  • Licença do curso e materiais
  • Certificado
  • Acompanhamento durante a formação

Resultados

O que será capaz de fazer

  • 1Explicar como funcionam machine learning, deep learning, LLMs e agentes de IA, e identificar os riscos que o seu desenho cria
  • 2Mapear ameaças a um sistema de IA ou LLM contra o MITRE ATLAS e o OWASP Top 10 for LLM Applications
  • 3Testar um modelo em produção para prompt injection e documentar o que foi encontrado e como
  • 4Aplicar controlos de segurança de IA e monitorização que detetem atividade adversarial que o logging standard não capta
  • 5Executar um workflow de threat intelligence que cubra o comprometimento do modelo, dos dados e da cadeia de abastecimento
  • 6Conter e investigar um incidente que envolva um modelo, os seus dados de treino ou as suas ferramentas
  • 7Conceber e avaliar um programa de segurança de IA que cubra resposta a incidentes, cadeia de abastecimento e arquitetura segura
  • 8Fazer red team a um sistema de IA e reportar as conclusões em termos sobre os quais o proprietário possa agir

Programa

Dia a dia

Dia 1Fundamentos de IA, ML e deep learning

  • Como estes sistemas são efetivamente construídos

    Machine learning, deep learning e o pipeline de treino, abordados com a profundidade que um profissional de segurança necessita: onde os dados entram, onde os pesos são armazenados, o que corre na inferência e quem pode intervir em cada etapa.

  • Fundamentos de segurança para IA e ML

    Projetar o modelo de segurança familiar sobre um ativo não familiar. O que significam confidencialidade, integridade e disponibilidade para um modelo, um dataset e um prompt, e quais dos controlos existentes param na fronteira.

No final do dia

  • • Diagramar um pipeline de IA e assinalar cada ponto onde um atacante o poderia alcançar
  • • Definir o que significa integridade para um modelo e para os seus dados de treino, separadamente
Dia 2Arquitetura de LLM, workflows de treino e táticas de ataque

  • Dentro de um deployment de LLM

    Arquitetura, workflows de treino, gestão de contexto, retrieval e uso de ferramentas. A estrutura tem de ser clara antes de as táticas de ataque contra ela fazerem sentido.

  • Técnicas de ataque e ameaças adversariais

    Prompt injection, data poisoning, model extraction e comprometimento da cadeia de abastecimento, organizados contra o MITRE ATLAS e o OWASP Top 10 for LLM Applications para que o catálogo seja navegável e não anedótico.

  • Laboratório: teste de prompt injection

    Testes práticos contra um deployment em execução, incluindo os caminhos indiretos através de conteúdo recuperado e output de ferramentas que o teste direto de prompts nunca alcança.

No final do dia

  • • Classificar uma descoberta real contra o MITRE ATLAS e o OWASP LLM Top 10
  • • Demonstrar um prompt injection indireto e explicar por que razão a filtragem de inputs não o impediu
Dia 3Controlos de segurança de IA e estratégias de mitigação

  • Controlos que resistem

    Tratamento de inputs e outputs, isolamento, least privilege para ferramentas de agentes, guardrails e harnesses de avaliação. Quais as mitigações que sobrevivem a um adversário que sabe que existem, e quais apenas aumentam o custo da primeira tentativa.

  • Cadeia de abastecimento e proveniência de modelos

    Pesos pré-treinados, datasets de terceiros, serviços de fine-tuning e registos de modelos, avaliados como a cadeia de dependências que são, com a governação que torna a proveniência verificável.

No final do dia

  • • Selecionar e justificar um conjunto de controlos para um sistema de IA face às suas ameaças documentadas
  • • Avaliar uma cadeia de abastecimento de modelos e identificar a dependência que não é possível verificar atualmente
Dia 4Deteção, resposta e deployment seguro

  • Deteção e threat intelligence

    Monitorização que deteta atividade adversarial, incluindo análise de segurança assistida por IA e análise de malware assistida por IA, mais o workflow de threat intelligence que a alimenta.

  • Resposta a um incidente de IA

    Contenção, investigação e recuperação quando o ativo comprometido é um modelo, um dataset ou um agente com credenciais. Por que razão o playbook habitual necessita de novos passos e quais são esses passos.

  • Arquitetura segura e red teaming

    Desenhar o perímetro em torno de um sistema de IA e depois testá-lo. AI red teaming como exercício repetível, com um formato de reporte sobre o qual o proprietário pode agir, integrado num programa de segurança de IA que cobre governação e obrigações regulatórias.

No final do dia

  • • Escrever a lógica de deteção para uma técnica de ataque de IA documentada
  • • Executar uma passagem de red team a um sistema de IA e reportar as conclusões por severidade
Dia 5Consolidação e preparação para o exame

  • Revisão dos cinco domínios de competência

    Uma passagem pelos fundamentos de segurança, técnicas de ataque, controlos e operações defensivas, análise assistida por IA e threat intelligence, e governação com arquitetura segura.

  • Orientação para o exame e questões

    Como a avaliação está estruturada e como as suas questões são formuladas, com tempo livre para o que ainda não estiver resolvido. Os quizzes do curso espelham a estrutura do exame, pelo que esta sessão é consolidação e não um primeiro contacto.

No final do dia

  • • Identificar o próprio domínio fraco antes do exame e não durante
  • • Realizar a avaliação conhecendo o seu âmbito e estrutura

Para quem

Adequado se for.

  • ✓Profissionais de cibersegurança e segurança da informação cujo parque tecnológico acaba de incorporar modelos e agentes
  • ✓Analistas de SOC e equipas de threat intelligence com sistemas de IA agora em âmbito
  • ✓Engenheiros de IA e machine learning responsáveis pela segurança do que colocam em produção
  • ✓Arquitetos de segurança de TI que desenham o perímetro em torno de um modelo e das suas ferramentas
  • ✓Profissionais de risco e conformidade que têm de avaliar a postura de segurança de IA em vez de a aceitar por defeito
  • ✓Cientistas de dados e programadores de IA que precisam da perspetiva do atacante sobre o seu próprio pipeline
  • ✓Gestores de tecnologia responsáveis pela segurança de IA

Aviso honesto

NÃO é para. Quando ignorar.

Preferimos que guarde o seu dinheiro a comprar o percurso errado.

  • ✗Quem não tenha formação em segurança. Este curso pressupõe que threat modelling, controlo de acessos e resposta a incidentes já são conhecidos. Cybersecurity Foundation é o ponto de entrada
  • ✗Equipas que procuram um framework de governação para certificar. ISO 42001 Lead Implementer constrói o sistema de gestão. CAISP trabalha ao nível da superfície de ataque
  • ✗Gestores que precisam da visão estratégica e não da técnica. Certified Artificial Intelligence Manager (CAIM) cobre a supervisão sem os laboratórios

Pré-requisitos

  • Espera-se uma base sólida em conceitos fundamentais de cibersegurança e segurança da informação
  • Familiaridade prática com threat modelling, controlo de acessos, resposta a incidentes e monitorização de segurança
  • Compreensão básica de como os sistemas de machine learning são construídos e disponibilizados. Não é necessário ser cientista de dados

Sessões públicas

Próximas sessões públicas

Turmas de inscrição aberta. Escolha uma data e reserve o seu lugar. Prefere uma turma privada para a sua equipa? Solicitar proposta para formação interna.

Nenhuma turma ao vivo confirmada de momento. Pode ainda:

Comprar a licença ao próprio ritmoSolicitar proposta para formação interna

Ainda não há data para esta formação. Diga-nos como o contactar e será avisado assim que uma sessão for confirmada.

Pronto para se certificar?

Lecionado por um CISO em exercício. Preços e condições de exame apresentados desde o início.

Reservar um lugar ao vivoComprar licença ao próprio ritmoSolicitar orçamento

Aprofundamento

Tudo dentro desta certificação

O detalhe por detrás do título. Leia ao seu ritmo. Cada secção responde a uma pergunta de comprador que recebemos nas chamadas de descoberta.

Porquê participar

Um sistema de IA comporta riscos que os controlos de TI tradicionais não foram concebidos para detetar. Pode ser manipulado através das suas entradas, corrompido através dos seus dados de treino, comprometido através da cadeia de fornecimento do modelo e explorado através das ferramentas e permissões que lhe foram atribuídas, frequentemente sem produzir uma única entrada nos registos que monitoriza atualmente.

Este curso aborda como estes sistemas são atacados, como são defendidos e como essa defesa é governada. É prático ao longo de todo o percurso: testes de injeção de prompts, red teaming de IA, fluxos de trabalho de threat intelligence e análise de malware assistida por IA, com base no MITRE ATLAS e no OWASP Top 10 for LLM Applications. Quatro dias de formação, seguidos do exame de certificação.

O que o exame cobre

  • Domínio 1: Fundamentos de segurança para IA e ML
  • Domínio 2: Técnicas de ataque a IA e ameaças adversariais
  • Domínio 3: Controlos de segurança para IA e operações defensivas
  • Domínio 4: Análise de segurança e threat intelligence com auxílio de IA
  • Domínio 5: Governação de IA, gestão de risco e arquitetura segura

Como decorre o curso

As sessões com instrutor são combinadas com exercícios práticos em laboratório e cenários do mundo real; os laboratórios utilizam as ferramentas que o trabalho efetivamente exige, em vez de uma simulação dessas ferramentas. Cada secção é consolidada com prática imediata após a teoria, e os questionários intercalados espelham a estrutura do exame de certificação, pelo que a avaliação do quinto dia é terreno familiar.

Os participantes que concluam o curso recebem um atestado de conclusão equivalente a 31 créditos CPD.

FAQ

Os compradores perguntam sempre

Qual o nível técnico deste curso?+

Suficientemente técnico para que um background em segurança seja um pré-requisito real. O PECB parte do princípio de que threat modelling, controlo de acessos, resposta a incidentes e monitorização de segurança já são familiares, bem como uma compreensão básica do funcionamento dos sistemas de machine learning.

Os laboratórios são práticos: testes de prompt injection, AI red teaming, workflows de threat intelligence e análise de malware assistida por IA, com ferramentas reais. Não é pedido que treine modelos, mas é pedido que ataque e defenda modelos em execução.

Por que razão os meus controlos existentes não cobrem sistemas de IA?+

Porque os vetores de ataque são novos. Um sistema de IA pode ser manipulado através das suas entradas, corrompido através dos seus dados de treino, comprometido através da cadeia de fornecimento do modelo, e explorado através das ferramentas e permissões que lhe foram atribuídas, muitas vezes sem deixar qualquer rasto nos registos standard.

Os controlos que já implementa continuam a ser relevantes. O curso cobre os seus limites e o que acrescentar nessa fronteira: tratamento de entradas e saídas, isolamento, mínimo privilégio para ferramentas de agentes, verificação de proveniência e lógica de deteção desenvolvida para comportamento adversarial.

Em que frameworks se apoia o curso?+

O MITRE ATLAS e o OWASP Top 10 for LLM Applications são os dois frameworks de referência, utilizados para organizar técnicas de ataque de forma sistemática, em vez de uma simples lista de anedotas.

Isto é tão relevante para o reporte como para os testes. Uma conclusão mapeada num framework reconhecido tem mais impacto dentro de uma organização do que uma descrita com palavras próprias.

O que exige a credencial para além do exame?+

Existem dois níveis. O PECB Certified Provisional Artificial Intelligence Security Professional exige a aprovação no exame e a assinatura do Código de Ética da PECB, sem requisito de experiência.

A credencial completa PECB Certified Artificial Intelligence Security Professional exige cinco anos de experiência profissional, dois dos quais em segurança da informação ou cibersegurança, e 300 horas de projeto. Os requisitos são definidos pela PECB e podem ser alterados; confirme os requisitos em vigor antes de submeter a candidatura.

Como se posiciona o CAISP em relação à ISO 42001?+

Respondem a perguntas diferentes. ISO/IEC 42001 constrói um sistema de gestão de IA auditável: âmbito, política, funções, tratamento do risco e melhoria contínua. É a camada de governação.

O CAISP atua abaixo dessa camada, ao nível da superfície de ataque, e parte do pressuposto de que alguém vai questionar se um deployment específico pode ser comprometido. Profissionais sénior em organizações com forte presença de IA têm, cada vez mais, as duas certificações, porque um sistema de gestão sem testes técnicos por detrás é apenas um documento.

Próximo passo

Para onde isto leva

Guia pilar

Ler o guia completo de AI Act

EU AI Act readiness work for providers and deployers across the four risk tiers.