Zum Hauptinhalt springen

ISO/IEC 27090 ist veröffentlicht. Was sich damit für Ihre KI-Systeme ändert.

Ich habe alle 66 Seiten gelesen, damit Sie wissen, wo Sie ansetzen müssen. Ein guter Standard, zu spät, an den entscheidenden Stellen zu dünn, mit zwei Widersprüchen, die Ihr Auditor vor Ihnen finden wird.

Christophe MazzolaChristophe Mazzola· Aktiver CISO · Gründer von Cyber Academy6 Min. Lesezeit
Ein ausgedrucktes Exemplar von ISO/IEC 27090, Erstausgabe 2026-10, mit Haftnotizen markiert, auf einem Schreibtisch neben einem Cyber Academy-Becher und einem Checklisten-Notizbuch

ISO/IEC 27090 ist im Oktober erschienen. Ich habe alle 66 Seiten gelesen. Mein Fazit passt in drei Zeilen.

Es ist ein guter Standard, der zu spät kommt. Er ist leichtgewichtig, wo er Substanz bräuchte, und schwerfällig, wo es nicht darauf ankommt. Lesen Sie ihn trotzdem, denn er wird in Kürze das Vokabular sein, das Ihr Auditor, Ihr Vorstand und Ihre KI-Anbieter alle verwenden. Sie sollten es beherrschen, bevor die anderen es tun.

Hier erfahren Sie, was der Standard richtig macht, wo er schwach ist, wie ich ihn in Audits einsetze und welche Tabelle er hätte enthalten sollen, es aber nicht getan hat.

Was er ist, in einem Absatz

Ein Leitfaden des Komitees, das ISO 27001 pflegt, gerichtet an jede Organisation, die KI-Systeme entwickelt oder nutzt. Er steht neben 27001 und 27002 für das ISMS, 42001 für das KI-Managementsystem, 23894 für KI-Risiken und 27091 für KI und Datenschutz. Seine Aufgabe ist der Bedrohungskatalog, der den anderen fehlte: neun Arten, wie ein KI-System kompromittiert wird, jeweils mit Fehlerbildern, Erkennung und Gegenmaßnahmen. Eine Zertifizierung gibt es nicht. Wenn Ihnen im nächsten Quartal jemand ein „27090-Zertifikat“ anbietet, fragen Sie, was genau zertifiziert wird.

Was er richtig macht

Er fordert Sie auf, zuerst das Grundlegende zu erledigen. Noch vor einem einzigen KI-spezifischen Angriff erinnert der Standard daran, dass ein KI-System Software ist, die auf einem Stack läuft, und dass Ihre 27002-Controls Vorrang haben. Dann sagt er etwas, das ich jedem KI-Sicherheitsanbieter ans Herz legen möchte: Die Absicherung des Software-Stacks kann „ein effizienterer Ausgangspunkt für Sicherheitsinvestitionen“ sein als die Abwehr cleverer Extraktionsangriffe über Prompts. Übersetzt für Ihr Budget-Meeting: Klären Sie, wer Ihre Modellgewichte kopieren kann, bevor Sie eine Prompt-Firewall kaufen.

Er gibt zu, dass Gegenmaßnahmen sich gegenseitig behindern. Klausel 7 ist der ehrlichste Teil des Dokuments. Sie hält fest, dass „Gegenmaßnahmen, die Training beinhalten, unerwartete schädliche Nebenwirkungen zeigen können“, und verweist auf NIST-Arbeiten, bei denen adversariales Training gegen einen Angriff ein Modell gegenüber einem anderen deutlich anfälliger gemacht hat. Ergänzend wird darauf hingewiesen, dass durch Training aufgebaute Abwehrmaßnahmen mit zunehmendem Modell-Drift nachlassen. Standards räumen selten ein, dass ihre eigenen Controls nach hinten losgehen können. Dieser tut es, und die Konsequenz für Ihr Control-Register ist klar: Eine Zeile pro Gegenmaßnahme sagt Ihnen nichts. Sie testen das Portfolio.

Er gibt Throttling eine neue Funktion. Rate-Limiting des Modellzugriffs pro Nutzer dient laut Standard „nicht dazu, eine Systemüberlastung zu verhindern, sondern Experimente zu erschweren“. Die meisten Modellextraktions- und Inversionsangriffe erfordern Tausende von Versuchen. Verlangsamen Sie diese, und Sie erhöhen die Kosten des Angriffs, mit einem Control, das Sie bereits beherrschen.

Seine Leitlinien zu Agenten sind präzise. Berechtigungen gehören dem handelnden Agenten oder Dienst, auf die Aufgabe beschränkt, ablaufend wenn die Aufgabe endet, unter der eigenen Identität des Agenten statt mit den vollen Rechten des Nutzers. API-Agenten erhalten eine Prüfung vor der Ausführung, Computer-Use-Agenten eine Allowlist zulässiger Aktionen, Orchestratoren eine Isolation zwischen Komponenten. Jeder RAG-Abruf wird eigenständig autorisiert, damit eine berechtigte Anwendung einem Nutzer kein Dokument aushändigen kann, das er nie lesen durfte. Wenn Sie Agenten einsetzen, ist allein diese Unterklausel den Preis des Standards wert.

Wo er schwach ist

Klausel 6 wird einem Praktiker wenig beibringen. Wer mit dem OWASP Top 10 for LLM Applications, MITRE ATLAS oder der NIST-Taxonomie für adversariales Machine Learning gearbeitet hat, kennt die neun Kompromittierungstypen bereits. Der Wert von 27090 liegt woanders: Er übersetzt diese Angriffe in die Sprache eines ISMS, also die Sprache, die Auditoren, Risikoausschüsse und Beschaffungsteams bereits akzeptieren. Das ist echter Mehrwert. Nur ein anderer, als die Schlagzeilen versprechen werden.

Agenten erhalten eine Unterklausel. Federated Learning bekommt einen Annex. Das größte operative Risiko des Jahres 2026 sind KI-Agenten mit echten Berechtigungen in echten Systemen. Die Leitlinien zu Agentenberechtigungen sind gut, füllen aber etwa eine Seite. Federated Machine Learning, das kaum eine der Organisationen, die diesen Standard lesen werden, je betreiben wird, erhält einen vollständigen informativen Annex. In diesem Missverhältnis lässt sich der Entstehungszeitraum ablesen: Das Dokument wurde konzipiert, bevor Agenten zum Mainstream wurden, und das Agentenmaterial wurde nachträglich eingefügt.

Einige Abschnitte enden, bevor sie beginnen. Nehmen Sie sensible Modellausgaben: das Risiko, dass ein Modell personenbezogene Daten oder urheberrechtlich geschütztes Material aus seinem Trainingsset zurückgibt. Die vollständige Analyse der Ausfallszenarien lautet: „Die Vertraulichkeit der Trainingsdaten ist beeinträchtigt.“ Die Erkennung besteht darin, Ausgaben nach erkennbaren Mustern zu filtern, wobei eine Telefonnummer als Beispiel genannt wird. Das ist ein Ausgangspunkt, und der Standard hätte das so benennen sollen.

Das „falls“, das hätte gestrichen werden müssen. Zu Ausgaben, die Injection-Angriffe enthalten, hält der Standard fest, dass Modellausgaben „als nicht vertrauenswürdig gelten sollten, falls die Trainingsdaten als nicht vertrauenswürdig gelten können“. Für jedes Sprachmodell, das mit Daten aus dem offenen Web trainiert wurde, ist diese Bedingung immer erfüllt. Streichen Sie das „falls“. Jede Anwendung, die Modellausgaben in einen Browser, eine Shell, ein Ticket oder eine E-Mail leitet, hat eine neue Injection-Angriffsfläche, und Ihr AppSec-Team sollte das Modell als einen weiteren nicht vertrauenswürdigen Nutzer behandeln.

Er widerspricht sich beim Logging. In einer Klausel listet 27090 Datensparsamkeit und begrenzte Aufbewahrung als eigenständige Sicherheitscontrols auf. Drei Klauseln später empfiehlt er, jede Modellinteraktion zu protokollieren: Eingabe, Ausgabe, Nutzerkennung, Zeitstempel und Modellversion. Kein Wort zur Aufbewahrungsdauer, kein Wort zu den Datenschutzfolgen. Prompts und Antworten gehören zu den personenbezogensten Daten, die eine Organisation jemals protokollieren wird. Wer den Beitrag der letzten Woche gelesen hat, weiß, dass ich das Fehlen des DPO bereits als wiederkehrendes Finding aufführe. Setzen Sie 7.5 ohne ihn um, schreiben Sie dieses Finding gegen sich selbst.

Zwei „shall“ in einem Dokument voller „should“. Ich habe gezählt. Der Haupttext verwendet „should“ mehr als hundertmal und „shall“ zweimal, beide in Abschnitt 5.1: Konventionelle Controls sind umzusetzen, und KI-spezifische Kompromittierungen sind über den gesamten Lebenszyklus zu berücksichtigen. Für einen Leitfaden ist das eine seltsame Wahl. Ihr Auditor wird diese beiden Wörter lesen, und Sie sollten es auch.

Wie ich ihn in Audits einsetze

Drei Bereiche, beginnend mit meinem nächsten ISO 27001-Audit mit KI im Scope.

Die Risikobeurteilung. Wenn eine Organisation KI-Systeme betreibt und ihr Bedrohungskatalog nichts zu Poisoning, Extraktion, Inversion oder Injection enthält, ist dieser Katalog unvollständig. 27090 ist jetzt die Referenz, auf die ich verweisen werde.

Agentenberechtigungen. 27090 verankert seine Least-Privilege-Leitlinien in 27002-Control 8.2, Privileged Access Rights. Ein Agent, der mit den vollen Rechten eines Nutzers oder mit dauerhaften Credentials ohne Ablaufdatum läuft, ist damit keine theoretische Frage mehr. Es ist ein Finding gegen einen Control, auf den Sie bereits zertifiziert sind. Die Frage, die ich stellen werde: Nennen Sie mir Ihren leistungsfähigsten Agenten, und sagen Sie mir, was er tun könnte, wenn jemand ihn dazu bringt.

KI-Logging. Die Protokollierung der Modellnutzung ist gute Praxis, und 27090 hat Recht, sie zu fordern. Ich werde prüfen, ob eine Aufbewahrungsdauer, ein Zweck und die schriftliche Stellungnahme des DPO vorliegen.

Die Tabelle, die der Standard hätte enthalten sollen

27090 verweist punktuell auf 27002, gibt Ihnen aber nie die konsolidierte Übersicht. Hier ist unsere: wo jeder Kompromittierungstyp in einem bestehenden ISMS und in einer 42001-Implementierung verortet ist. Nutzen Sie sie, um 27090 in die Risikobeurteilung einzubinden, die Sie bereits haben.

27090-KompromittierungstypISO/IEC 27002:2022-ControlsISO/IEC 42001 Annex A
Data Poisoning5.21 ICT-Lieferkette, 8.25 Sicherer Entwicklungslebenszyklus, 8.32 ÄnderungsmanagementA.7.4 Datenqualität, A.7.5 Datenprovenienz, A.10.3 Lieferanten
Direktes Modell-Poisoning8.4 Zugang zum Quellcode, 8.31 Trennung von Umgebungen, 8.32 ÄnderungsmanagementA.6.2.5 Deployment
Modellexfiltration8.3 Einschränkung des Informationszugriffs, 8.16 ÜberwachungsaktivitätenA.6.2.6 Betrieb und Überwachung
Membership Inference, Modellinversion5.34 Datenschutz und Schutz personenbezogener Daten, 8.11 DatenmaskierungA.7.6 Datenvorbereitung
Sensible Modellausgaben8.12 Prävention von Datenlecks, 5.34 Datenschutz und Schutz personenbezogener DatenA.6.2.6 Betrieb und Überwachung
Evasion8.26 Anforderungen an die Anwendungssicherheit, 8.29 SicherheitstestsA.6.2.4 Verifikation und Validierung
Prompt Injection8.26 Anforderungen an die Anwendungssicherheit, 8.28 Sicheres CodingA.6.2.4 Verifikation und Validierung
Ausgaben mit Injection-Gehalt8.28 Sicheres CodingA.6.2.4 Verifikation und Validierung
Agentenberechtigungen8.2 Privilegierte Zugriffsrechte, 5.15 Zugriffskontrolle, 5.18 ZugriffsrechteA.9.4 Bestimmungsgemäße Verwendung des KI-Systems
Protokollierung der Modellnutzung8.15 Protokollierung, 8.16 ÜberwachungsaktivitätenA.6.2.8 Aufzeichnung von Ereignisprotokollen

Tipp: Beginnen Sie mit den Zeilen, für die Sie bereits einen Control im Einsatz haben. Die meisten Organisationen werden feststellen, dass vier oder fünf dieser zehn Punkte durch Controls abgedeckt sind, die sie heute bereits betreiben, auf die KI-Umgebung ausgeweitet. Die Lücken liegen in der Regel bei der Datenprovenienz, den Agentenberechtigungen und dem Logging, das niemand auf Prompts ausgelegt hat.

Abschließende Überlegung

Das Nützlichste an 27090 ist, wie unspektakulär er ist. Er beginnt damit, dass KI-Systeme Software sind, dass Ihre bestehenden Controls weiterhin gelten und dass die ausgefeilten Abwehrmaßnahmen erst nach den Grundlagen kommen. Wo er schwach ist, ist er es auf eine Weise, für die ein Praktiker an einem Nachmittag kompensieren kann.

Die neuen Angriffe sind real. Sie sind selten die günstigste Einstiegstür in Ihr KI-System. Sichern Sie die offensichtlichen ab, binden Sie den Rest in das ISMS ein, das Sie bereits betreiben, und hören Sie auf, auf ein KI-spezifisches Framework zu warten, das Ihnen die Arbeit abnimmt.

Wenn Sie KI in ein ISMS integrieren oder das Managementsystem darum herum aufbauen, werden unsere ISO 42001 Lead Implementer- und ISO 27001 Lead Implementer-Kurse von Praktikern unterrichtet, die diese Standards jede Woche implementieren und auditieren. Sie verlassen den Kurs mit dem Wissen, welche dieser zehn Zeilen Ihre Organisation am Montag schließen kann.

Möchten Sie die nächste Feldnotiz in Ihrem Posteingang?

Der GRC Brief Newsletter. Fünf Links und eine kurze Einschätzung, jeden Montag um 8 Uhr MEZ. Drei Minuten Lesezeit.