ISO/IEC 42001.

Was die Norm ISO/IEC 42001 tatsächlich regelt

ISO/IEC 42001 ist die erste zertifizierbare Managementsystemnorm, die der künstlichen Intelligenz gewidmet ist. Sie schreibt Ihnen nicht vor, welches Modell Sie trainieren oder wie Sie ein neuronales Netz abstimmen sollen. Stattdessen definiert sie ein KI-Managementsystem (AIMS): die Richtlinien, Rollen, Prozesse und Maßnahmen, die eine Organisation einführt, um KI verantwortungsvoll zu entwickeln, bereitzustellen oder zu nutzen. Wenn Sie ISO 27001 bereits kennen, lässt sich das mentale Modell direkt übertragen. Während das ISMS Informationen schützt, steuert das AIMS den Lebenszyklus von KI-Systemen, vom beabsichtigten Zweck und der Datenbeschaffung über die Bereitstellung und Überwachung bis zur Außerbetriebnahme.

Die Norm folgt derselben High-Level Structure wie ISO 27001 und ISO 9001: Kontext der Organisation, Führung, Planung, Unterstützung, Betrieb, Bewertung der Leistung und Verbesserung. Dieses gemeinsame Grundgerüst ist beabsichtigt. Es ermöglicht Ihnen, das AIMS an ein bestehendes integriertes Managementsystem anzudocken, statt ein paralleles Governance-Silo zu betreiben. Die KI-spezifische Substanz steckt in den Anhängen, die Referenzmaßnahmen und Umsetzungsleitlinien zu Themen wie Rechenschaftspflicht, Datenqualität, Transparenz gegenüber Nutzern, menschliche Aufsicht und Folgenabschätzung enthalten.

Wie sie sich von ISO 27001 und einer generischen Risikorichtlinie unterscheidet

Fachleute mit Sicherheitshintergrund nehmen oft an, dass ein ISMS KI bereits abdeckt. Das tut es nicht. ISO 27001 ist auf Vertraulichkeit, Integrität und Verfügbarkeit von Informationen ausgerichtet. ISO 42001 fügt Anliegen hinzu, die in einem Sicherheitsrahmen keinen natürlichen Platz haben: ob sich ein System fair verhält, ob seine Ergebnisse erklärbar sind, ob ein Mensch sinnvoll eingreifen kann und ob die KI nur für ihren angegebenen Zweck verwendet wird. Auch das Risikodenken ist breiter angelegt. Eine Risikobeurteilung nach 42001 wägt Auswirkungen auf Einzelpersonen und die Gesellschaft ab, nicht nur auf die Organisation, weshalb eine KI-Folgenabschätzung eine eigenständige, benannte Tätigkeit innerhalb der Norm ist.

Warum sie für die EU-KI-Verordnung (EU AI Act) wichtig ist

ISO 42001 bildet die Erwartungen des AI Act an Hochrisikosysteme sauber ab. Die Verordnung verlangt von Anbietern von Hochrisiko-KI, ein Risikomanagementsystem zu betreiben, eine Daten-Governance zu unterhalten, technische Dokumentation zu führen, menschliche Aufsicht sicherzustellen und eine Überwachung nach dem Inverkehrbringen durchzuführen. Genau diese Disziplinen institutionalisiert ein AIMS. Ein zertifiziertes Managementsystem ersetzt nicht die rechtliche Konformität, und eine Zertifizierung allein macht ein System nicht konform. Was sie leistet, ist eine prüfbare, wiederholbare Struktur, die Sorgfalt nachweist und die Erfüllung der Pflichten des AI Act zu einer Frage des Betriebs eines bestehenden Systems macht, statt zu einer Improvisation unter Termindruck.

Wie die Umsetzung in der Praxis aussieht

Teams, die 42001 einführen, durchlaufen in der Regel eine wiedererkennbare Abfolge:

1. Den Anwendungsbereich festlegen: welche KI-Systeme, genutzt von wem, zu welchem beabsichtigten Zweck und wo die Organisation in der Lieferkette steht (Entwickler, Anbieter, Betreiber).
2. Die KI-Risikobeurteilung und die Folgenabschätzung durchführen, dabei Risiken für Menschen und die Organisation ermitteln und Maßnahmen zu ihrer Behandlung auswählen.
3. Klare Rechenschaftspflicht zuweisen, sodass ein benannter Verantwortlicher für jedes KI-System über dessen gesamten Lebenszyklus zuständig ist.
4. Eine dem Risikoniveau angemessene Daten-Governance, Transparenzmechanismen und menschliche Aufsicht einrichten.
5. Systeme im Betrieb überwachen, Vorfälle und Rückmeldungen erfassen und sie in die kontinuierliche Verbesserung zurückführen.

Die Zertifizierung ist optional, wird aber zunehmend von Enterprise-Käufern und Beschaffungsteams gefordert, die eine unabhängige Bestätigung wünschen, dass ein KI-Anbieter seine Systeme steuert, statt sie blind auszuliefern.