Zum Hauptinhalt springen
AI Act

Certified Artificial Intelligence Security Professional (CAISP)

KI-Systeme angreifen und verteidigen. Prompt Injection, vergiftete Trainingsdaten, kompromittierte Supply Chains und Agenten mit niemals geprüften Berechtigungen, systematisch gegen MITRE ATLAS und den OWASP LLM Top 10 abgebildet, mit praktischem Red Teaming und der PECB-Prüfung am fünften Tag.

PECBExpert5 TageLiveSelbststudiumIn-House
  • Praxisorientiert, unterrichtet von einem aktiven CISO
  • Prüfung & Zertifikat inbegriffen
  • Wiederholungsprüfung bei Bedarf abgedeckt
Christophe Mazzola

Unterrichtet von

Christophe Mazzola

Practicing CISO · Founder of Cyber Academy

Vollständiges Profil ansehen →

Warum diese Kohorte

Wie dieser Kurs durchgeführt wird

  • Kohorte auf 6 Personen begrenzt
  • Praxisorientiert, unterrichtet von einem aktiven CISO
  • PECB Gold Certified Trainer
  • 99,3 % PrüfungserfolgsquoteAlle Teilnehmenden seit 2023, PECB-Prüfungen.
  • Zertifiziert oder Geld zurück

Inbegriffen

Was enthalten ist

  • 5 Schulungstage
  • PECB-Zertifizierungsprüfung
  • Kurslizenz und Unterlagen
  • Zertifikat
  • Begleitung während des Kurses

Ergebnisse

Was Sie danach können

  • 1Erklären, wie Machine Learning, Deep Learning, LLMs und KI-Agenten funktionieren, und die Risiken identifizieren, die ihr Design erzeugt
  • 2Bedrohungen für ein KI- oder LLM-System gegen MITRE ATLAS und den OWASP Top 10 for LLM Applications abbilden
  • 3Ein bereitgestelltes Modell auf Prompt Injection testen und die Ergebnisse sowie das Vorgehen dokumentieren
  • 4KI-Sicherheitskontrollen und ein Monitoring einsetzen, das adversarielle Aktivitäten erkennt, die Standard-Logging übersieht
  • 5Einen Threat-Intelligence-Workflow betreiben, der Modell-, Daten- und Supply-Chain-Kompromittierungen abdeckt
  • 6Einen Vorfall eindämmen und untersuchen, der ein Modell, dessen Trainingsdaten oder dessen Tooling betrifft
  • 7Ein KI-Sicherheitsprogramm entwerfen und bewerten, das Incident Response, Supply Chain und sichere Architektur umfasst
  • 8Ein KI-System red teamen und die Ergebnisse so berichten, dass der Eigentümer handeln kann

Programm

Tag für Tag

Tag 1Grundlagen zu KI, ML und Deep Learning

  • Wie diese Systeme tatsächlich gebaut werden

    Machine Learning, Deep Learning und die Trainingspipeline, in der Tiefe behandelt, die ein Security Professional benötigt: wo Daten einfließen, wo Gewichte gespeichert sind, was bei der Inferenz läuft und wer jede Stufe berühren kann.

  • Sicherheitsgrundlagen für KI und ML

    Das vertraute Sicherheitsmodell auf ein unbekanntes Asset abbilden. Was Vertraulichkeit, Integrität und Verfügbarkeit für ein Modell, einen Datensatz und einen Prompt bedeuten, und welche der bestehenden Kontrollen an der Grenze aufhören.

Am Ende des Tages

  • • Eine KI-Pipeline skizzieren und jeden Punkt markieren, an dem ein Angreifer Zugriff erlangen könnte
  • • Erläutern, was Integrität für ein Modell und was sie für dessen Trainingsdaten bedeutet, jeweils getrennt
Tag 2LLM-Architektur, Trainings-Workflows und Angriffstaktiken

  • Einblick in ein LLM-Deployment

    Architektur, Trainings-Workflows, Context Handling, Retrieval und Tool Use. Die Struktur muss klar sein, bevor die Angriffstaktiken dagegen Sinn ergeben.

  • Angriffstechniken und adversarielle Bedrohungen

    Prompt Injection, Data Poisoning, Model Extraction und Supply-Chain-Kompromittierung, geordnet nach MITRE ATLAS und dem OWASP Top 10 for LLM Applications, damit der Katalog navigierbar statt anekdotisch bleibt.

  • Lab: Prompt-Injection-Tests

    Praktische Tests gegen ein Live-Deployment, einschließlich der indirekten Pfade über abgerufene Inhalte und Tool-Output, die direktes Prompt-Testing nie erreicht.

Am Ende des Tages

  • • Einen realen Fund gegen MITRE ATLAS und den OWASP LLM Top 10 klassifizieren
  • • Eine indirekte Prompt Injection demonstrieren und erklären, warum Input Filtering sie nicht verhindert hat
Tag 3KI-Sicherheitskontrollen und Mitigationsstrategien

  • Kontrollen, die standhalten

    Input- und Output-Handling, Isolation, Least Privilege für Agent-Tooling, Guardrails und Evaluation Harnesses. Welche Mitigationen einem Angreifer standhalten, der weiß, dass sie vorhanden sind, und welche lediglich den ersten Versuch teurer machen.

  • Supply Chain und Modell-Provenienz

    Vortrainierte Gewichte, Drittanbieter-Datensätze, Fine-Tuning-Dienste und Modell-Registries, bewertet als die Abhängigkeitskette, die sie sind, mit der Governance, die Provenienz verifizierbar macht.

Am Ende des Tages

  • • Einen Kontrollsatz für ein KI-System auf Basis seiner dokumentierten Bedrohungen auswählen und begründen
  • • Eine Modell-Supply-Chain bewerten und die Abhängigkeit benennen, die derzeit nicht verifiziert werden kann
Tag 4Erkennung, Response und sicheres Deployment

  • Erkennung und Threat Intelligence

    Ein Monitoring, das adversarielle Aktivitäten sichtbar macht, einschließlich KI-gestützter Sicherheitsanalyse und KI-gestützter Malware-Analyse, sowie der Threat-Intelligence-Workflow, der es speist.

  • Reaktion auf einen KI-Vorfall

    Eindämmung, Untersuchung und Wiederherstellung, wenn das kompromittierte Asset ein Modell, ein Datensatz oder ein Agent mit Credentials ist. Warum das vertraute Playbook neue Schritte braucht und welche das sind.

  • Sichere Architektur und Red Teaming

    Den Perimeter rund um ein KI-System entwerfen und anschließend testen. KI-Red-Teaming als wiederholbare Übung mit einem Berichtsformat, auf das der Eigentümer handeln kann, eingebettet in ein KI-Sicherheitsprogramm, das Governance und regulatorische Pflichten abdeckt.

Am Ende des Tages

  • • Die Erkennungslogik für eine dokumentierte KI-Angriffstechnik entwickeln
  • • Einen Red-Team-Durchlauf gegen ein KI-System durchführen und die Ergebnisse nach Schweregrad berichten
Tag 5Konsolidierung und Prüfungsvorbereitung

  • Überblick über die fünf Kompetenzdomänen

    Ein Durchgang über Sicherheitsgrundlagen, Angriffstechniken, Kontrollen und Defensivbetrieb, KI-gestützte Analyse und Threat Intelligence sowie Governance mit sicherer Architektur.

  • Prüfungsaufbau und Fragen

    Wie die Prüfung strukturiert ist und wie ihre Fragen formuliert sind, mit offener Zeit für noch ungelöste Punkte. Die Kursquizzes spiegeln die Prüfungsstruktur, daher ist dies Konsolidierung und kein erster Kontakt.

Am Ende des Tages

  • • Die eigene schwache Domäne vor der Prüfung identifizieren, nicht während ihr
  • • Die Prüfung mit Kenntnis ihres Umfangs und ihrer Struktur ablegen

Für wen

Passend, wenn Sie…

  • ✓Cybersicherheits- und Informationssicherheitsfachleute, deren Umgebung gerade Modelle und Agenten integriert hat
  • ✓SOC-Analysten und Threat-Intelligence-Mitarbeitende, in deren Scope nun KI-Systeme fallen
  • ✓KI- und Machine-Learning-Ingenieure, die für die Sicherheit ihrer Produkte verantwortlich sind
  • ✓IT-Sicherheitsarchitekten, die den Perimeter rund um ein Modell und dessen Tooling gestalten
  • ✓Risiko- und Compliance-Fachleute, die die KI-Sicherheitslage bewerten müssen, statt sie einfach zu akzeptieren
  • ✓Data Scientists und KI-Entwickler, die die Angreiferperspektive auf ihre eigene Pipeline benötigen
  • ✓Technologiemanager, die für KI-Sicherheit verantwortlich sind

Ehrliche Einschätzung

NICHT geeignet für. Wann Sie darauf verzichten sollten.

Wir möchten lieber, dass Sie Ihr Geld behalten, als dass Sie den falschen Pfad kaufen.

  • ✗Personen ohne Sicherheitshintergrund. Der Kurs setzt Threat Modelling, Zugriffskontrolle und Incident Response als bekannt voraus. Cybersecurity Foundation ist der geeignete Einstieg
  • ✗Teams, die einen Governance-Rahmen für eine Zertifizierung suchen. ISO 42001 Lead Implementer baut das Managementsystem auf. CAISP arbeitet auf der Angriffsfläche
  • ✗Manager, die das strategische statt des technischen Gesamtbilds benötigen. Certified Artificial Intelligence Manager (CAIM) deckt die Aufsichtsperspektive ohne die Labs ab

Voraussetzungen

  • Solide Grundkenntnisse in Cybersicherheit und Informationssicherheit werden vorausgesetzt
  • Praktische Vertrautheit mit Threat Modelling, Zugriffskontrolle, Incident Response und Security Monitoring
  • Grundlegendes Verständnis dafür, wie Machine-Learning-Systeme entwickelt und betrieben werden. Kenntnisse als Data Scientist sind nicht erforderlich

Öffentliche Sessions

Bevorstehende öffentliche Sessions

Offene Einschreibungskohorten. Wählen Sie ein Datum und buchen Sie Ihren Platz. Möchten Sie stattdessen eine private Kohorte für Ihr Team? Inhouse-Angebot anfordern.

Aktuell keine bestätigte Live-Kohorte. Sie können trotzdem:

Selbststudiums-Lizenz kaufenInhouse-Angebot anfordern

Für diesen Kurs steht noch kein Termin fest. Sagen Sie uns, wie wir Sie erreichen, und Sie hören von uns, sobald einer bestätigt ist.

Bereit zur Zertifizierung?

Unterrichtet von einem aktiven CISO. Preise und Prüfungsbedingungen transparent ausgewiesen.

Live-Platz buchenSelbststudiums-Lizenz kaufenAngebot anfordern

Vertiefung

Alles zu dieser Zertifizierung

Die Details hinter der Überschrift. Lesen Sie in Ihrem eigenen Tempo. Jeder Abschnitt beantwortet eine Käuferfrage, die wir in Discovery Calls erhalten.

Warum diese Schulung besuchen

Ein KI-System birgt Risiken, für die traditionelle IT-Kontrollen nicht konzipiert wurden. Es kann über seine Eingaben manipuliert, durch seine Trainingsdaten korrumpiert, über seine Modell-Lieferkette kompromittiert und durch die ihm zugewiesenen Werkzeuge und Berechtigungen ausgenutzt werden, häufig ohne einen einzigen Eintrag in den überwachten Protokollen zu hinterlassen.

Dieser Kurs behandelt, wie diese Systeme angegriffen und verteidigt werden und wie diese Verteidigung gesteuert wird. Er ist durchgehend praxisorientiert: Prompt-Injection-Tests, KI-Red-Teaming, Threat-Intelligence-Workflows und KI-gestützte Malware-Analyse, aufgebaut auf MITRE ATLAS und den OWASP Top 10 for LLM Applications. Vier Schulungstage, anschließend die Zertifizierungsprüfung.

Prüfungsinhalte

  • Domain 1: Sicherheitsgrundlagen für KI und ML
  • Domain 2: KI-Angriffstechniken und adversarielle Bedrohungen
  • Domain 3: KI-Sicherheitskontrollen und defensive Operationen
  • Domain 4: KI-gestützte Sicherheitsanalyse und Threat Intelligence
  • Domain 5: KI-Governance, Risikomanagement und sichere Architektur

Kursablauf

Instruktorgeführte Einheiten werden mit praktischen Laborübungen und praxisnahen Szenarien kombiniert; die Labs verwenden die tatsächlich eingesetzten Werkzeuge und keine Simulationen davon. Jeder Abschnitt wird unmittelbar nach der Theorie durch praktische Übungen vertieft, und die kurseigenen Quizfragen spiegeln die Struktur der Zertifizierungsprüfung wider, sodass die Prüfung am fünften Tag vertrautes Terrain ist.

Teilnehmende, die die Schulung absolvieren, erhalten eine Teilnahmebestätigung im Wert von 31 CPD-Credits.

FAQ

Was Käufer immer fragen

Wie technisch ist dieser Kurs?+

Technisch anspruchsvoll genug, dass ein Sicherheitshintergrund eine echte Voraussetzung ist. PECB setzt voraus, dass Sie mit Bedrohungsmodellierung, Zugangskontrolle, Incident Response und Security Monitoring bereits vertraut sind, sowie über ein grundlegendes Verständnis der Funktionsweise von Machine-Learning-Systemen verfügen.

Die Labs sind praxisorientiert: Prompt-Injection-Tests, AI Red Teaming, Threat-Intelligence-Workflows und KI-gestützte Malware-Analyse mit realen Tools. Sie müssen keine Modelle trainieren, aber Sie müssen laufende Modelle angreifen und verteidigen.

Warum decken bestehende Kontrollen KI-Systeme nicht ab?+

Weil die Angriffspfade neu sind. Ein KI-System kann über seine Eingaben manipuliert, durch seine Trainingsdaten korrumpiert, über seine Modell-Lieferkette kompromittiert und durch die ihm gewährten Tools und Berechtigungen ausgenutzt werden, häufig ohne dass dabei etwas in herkömmlichen Logs zurückbleibt.

Die Controls, die Sie bereits betreiben, behalten ihre Bedeutung. Der Kurs zeigt, wo deren Wirkungsbereich endet und was Sie an dieser Grenze ergänzen: Eingabe- und Ausgabebehandlung, Isolation, Least Privilege für Agent-Tooling, Herkunftsverifizierung und Erkennungslogik, die auf adversariales Verhalten ausgelegt ist.

Auf welchen Frameworks baut der Kurs auf?+

MITRE ATLAS und das OWASP Top 10 for LLM Applications sind die beiden Referenzrahmenwerke, mit denen Angriffstechniken so strukturiert werden, dass Sie diese systematisch bearbeiten können – und nicht nur eine Liste von Einzelfällen vor sich haben.

Das ist für die Berichterstattung genauso relevant wie für das Testing. Ein Befund, der einem anerkannten Framework zugeordnet ist, wird innerhalb einer Organisation ernst genommen – mehr als ein Befund, der nur in eigenen Worten beschrieben ist.

Was wird für die Zertifizierung über die Prüfung hinaus verlangt?+

Es gibt zwei Stufen. PECB Certified Provisional Artificial Intelligence Security Professional setzt das Bestehen der Prüfung und die Unterzeichnung des PECB Code of Ethics voraus, ohne Berufserfahrungsanforderung.

Das vollständige PECB Certified Artificial Intelligence Security Professional Credential erfordert fünf Jahre Berufserfahrung, davon zwei im Bereich Informations- oder Cybersicherheit, sowie 300 Projektstunden. Die Anforderungen werden von PECB festgelegt und können sich ändern; bestätigen Sie die aktuellen Anforderungen daher vor der Bewerbung.

Wie verhält sich CAISP zu ISO 42001?+

Sie beantworten unterschiedliche Fragen. ISO/IEC 42001 baut ein KI-Managementsystem auf, gegen das Sie auditiert werden können: Scope, Policy, Rollen, Risikobehandlung und kontinuierliche Verbesserung. Es ist die Governance-Ebene.

CAISP arbeitet darunter, auf der Angriffsfläche, und setzt voraus, dass jemand prüfen wird, ob ein konkretes Deployment kompromittiert werden kann. Erfahrene Fachleute in KI-lastigen Umgebungen halten zunehmend beides, denn ein Managementsystem ohne technische Tests dahinter ist ein Dokument.

Nächster Schritt

Wo das hinführt

Pillar Guide

Den vollständigen AI Act Leitfaden lesen

EU AI Act readiness work for providers and deployers across the four risk tiers.