STRUKTUR DER QUALITÄTSSICHERUNG · KI-MANAGEMENTSYSTEME

ISO/IEC 42001

Ein Managementsystem zur Steuerung der Entwicklung, Bereitstellung oder Nutzung von KI durch Organisationen. Es umfasst Auswirkungen, Risiken, Daten, Kontrollen über den Lebenszyklus, Transparenz und Verbesserung.

Wer bleibt verantwortlich, wenn ein KI-gestützter Dienst ein Ergebnis für Menschen, Betrieb oder Öffentlichkeit verändert?
REFERENZISO/IEC 42001:2023QUELLENSTAND · 21. AUG. 2026Veröffentlicht als erste internationale Managementnorm für KI.EINSTIEG IM ANGEBOTSPROZESSWahrnehmen · Qualifizieren · Modellieren · Argumentieren · Nachweise · Anforderungen erfüllen · Prüfen · Messen

Die Norm kann ein einzelnes KI-Ergebnis nicht als richtig, fair oder rechtmäßig zertifizieren. Anwendungsfall, Betroffene, Daten und Betriebsnachweise bleiben entscheidend. Die Einordnung bleibt auf die Quellen beschränkt: keine Zertifizierung, keine Wiedergabe geschützter Texte und keine Vorhersage von Zuschlägen.

LEBENDIGES EXPERIMENT · BÜHNE

Die Verantwortungsbühne mit drei Stühlen

Die für das System verantwortliche Person, eine betroffene Person und eine unabhängige prüfende Person besetzen drei Stühle. Die Bühne gerät ins Wanken, wenn für eine Auswirkung, Entscheidungsbefugnis oder Nachweisführung keine Stimme zuständig ist.

MODELLZUSTANDKMU · WAHRNEHMEN · ANWENDENDeterministisches Lehrmodell · keine Vorhersage von Zuschlägen
Organisationsgröße
Tiefe

URSPRUNG × ENTWICKLUNG × AKTUELLE PRAXIS

Warum diese Referenz existiert – und was sich geändert hat.

Technologieanbieter, KI-Anwender, öffentliche Einrichtungen, regulierte Dienste und Lieferanten, die automatisierte Entscheidungs- oder Inhaltssysteme einsetzen.

01 · 2016–2021

Die Steuerung von KI entwickelt sich schneller

Schnelle Einführung und öffentliche Bedenken verlagerten die Aufmerksamkeit von der Modellleistung auf die Verantwortung der Organisation und die Wirkungen über den Lebenszyklus.

02 · 2021–2023

Entwicklung des Konsenses

ISO/IEC JTC 1/SC 42 entwickelte Managementsystemanforderungen für KI-Anbieter und -Anwender.

03 · Dezember 2023

Erste Ausgabe veröffentlicht

ISO/IEC 42001 wurde die erste internationale Managementnorm für KI.

04 · 2024–2026

Umsetzung neben der Regulierung

Organisationen ordnen Kontrollen des KI-Managementsystems zunehmend sektorspezifischen Regeln und Gesetzen zu. Sie unterscheiden dabei weiterhin Normkonformität von Rechtskonformität.

Ein KI-Managementsystem kann ein Ergebnis nicht in jedem Kontext als fair, richtig oder rechtmäßig zertifizieren. Der konkrete Einsatz, die Betroffenen und die Überwachungsnachweise bleiben entscheidend.

AKTUALITÄT DER OFFIZIELLEN QUELLEN

QUELLENPRÜFUNG NOCH AUSSTEHEND

Monatliche Prüfung der Erreichbarkeit offizieller Quellen und möglicher Änderungen.

LETZTE QUELLENPRÜFUNGLaden...
Was dieses Datum bedeutet

Die Prüfung dokumentiert die Erreichbarkeit der Quelle und einen digitalen Fingerabdruck ihres Inhalts. Sie ändert weder unbemerkt die Seite noch behauptet sie, dass sich eine Ausgabe geändert habe.

ÖFFENTLICH BESCHREIBBARE ANATOMIE

Jeder Themenbereich wird konkret auf das Angebotsmanagement übertragen.

Diese Einordnungen dienen der Orientierung und ersetzen keine Normklauseln. Verbindliche Formulierungen finden Sie in der offiziellen Veröffentlichung.

Offizielle Quelle öffnen ↗
  1. 01

    Kontext und Geltungsbereich des KI-Managements

    Erfassen Sie die KI-Anwendungen im vorgeschlagenen Dienst. Legen Sie fest, welche Ergebnisse und Personen in den Geltungsbereich des KI-Managementsystems fallen.

    Nachweisdokument
    Register der KI-Anwendungsfälle und Betroffenen
    Entscheidungsprüfung
    Wäre der Dienst noch zutreffend beschrieben, wenn der Werbebegriff „KI“ entfernt würde?
  2. 02

    Führung, Leitlinien und verantwortliche Rollen

    Benennen Sie Zuständigkeiten, verbotene Anwendungen, Genehmigungsbefugnisse und eine unabhängige kritische Prüfung.

    Nachweisdokument
    KI-Leitlinien und Darstellung der Entscheidungsbefugnisse
    Entscheidungsprüfung
    Wer darf den Einsatz stoppen, wenn die gemessene Leistung wirtschaftlich unbequem ist?
  3. 03

    KI-Risiko und Folgenabschätzung

    Bewerten Sie beabsichtigten Nutzen, vernünftigerweise vorhersehbaren Missbrauch, Auswirkungen auf Betroffene und verbleibende Risiken.

    Nachweisdokument
    KI-Wirkung und Risikobewertung
    Entscheidungsprüfung
    Werden unterschiedliche Auswirkungen auf Gruppen und Nichtnutzer ebenso berücksichtigt wie die durchschnittliche Modellleistung?
  4. 04

    Ressourcen, Daten und Kompetenz

    Steuern Sie Kompetenz, Datenherkunft, Modellinformationen, Infrastruktur und Aussagen der Lieferanten.

    Nachweisdokument
    Nachweise zu Daten- und Modellherkunft sowie Kompetenz
    Entscheidungsprüfung
    Kann das Team nachvollziehen, welche Daten, Version und Bewertung zu einer Entscheidung geführt haben?
  5. 05

    Lebenszyklus-, Lieferanten- und Betriebskontrollen

    Kontrollieren Sie Gestaltung, Beschaffung, Änderungen, Einsatz, menschliche Aufsicht und Außerbetriebnahme.

    Nachweisdokument
    KI-Lebenszykluskontrollplan
    Entscheidungsprüfung
    Welches Ereignis erzwingt eine erneute Prüfung, ein Zurücksetzen oder einen menschlichen Eingriff?
  6. 06

    Transparenz, Überwachung, Prüfung und Überprüfung

    Schaffen Sie verständliche Transparenz und überwachen Sie Ergebnisse, Veränderungen des Modellverhaltens, Vorfälle und Beschwerden.

    Nachweisdokument
    Transparenzdokumentation und Überwachungsplan
    Entscheidungsprüfung
    Kann eine betroffene Person die Rolle der KI verstehen und eine menschliche Ansprechstelle erreichen?
  7. 07

    Vorkommnisse, Korrekturen und Verbesserungen

    Beheben Sie Vorfälle und systemische Schwächen. Aktualisieren Sie Daten, Modell, Kontrollen oder die Entscheidung über den Einsatz.

    Nachweisdokument
    Dokumentation von KI-Vorfällen und Korrekturmaßnahmen
    Entscheidungsprüfung
    Verändert das Lernen die tatsächliche Arbeitsweise oder nur den Haftungshinweis?

AUSGANGSLAGE × EINGRIFF × ERGEBNIS

Ausgearbeitetes Beispiel · KI-unterstützte Priorisierung

Ein fiktiver öffentlicher Dienst schlägt ein Modell vor, das eingehende Fälle anhand historischer Dienstleistungsdaten für eine menschliche Prüfung priorisiert.

Fiktive Bewertungsdaten. Es wird keine Aussage über ein tatsächliches Modell oder einen rechtmäßigen Einsatz getroffen.

AUSGANGSLAGE

Was das Team beobachten kann

Das Angebot nennt 91% Gesamtgenauigkeit, definiert aber weder Verwendungszweck noch Leistung für Teilgruppen, Widerspruchsweg, menschliche Befugnisse, Veränderungen des Modellverhaltens oder Modelländerungen des Lieferanten.

ISO/IEC 42001 INTERVENTION

Was sich in der Arbeitsweise ändert

Das Team grenzt den Anwendungsfall ab, bewertet betroffene Gruppen, dokumentiert Daten- und Versionsherkunft, plant menschliche Eingriffsmöglichkeiten und definiert Auslöser für eine erneute Prüfung.

Das Angebot legt fest, was das Modell tun darf und was nicht. Es gibt dem Betreiber verantwortliche Entscheidungsbefugnisse und zeigt sieben überwachte Ergebniskennzahlen.

Dokumentierte wesentliche Einsatzentscheidungen2 / 99 / 9
Betroffene Gruppen bewertet1 / 77 / 7
Änderungsauslöser mit klarer Zuständigkeit0 / 66 / 6
Bestandene Tests der menschlichen Ersatzverfahren0 / 44 / 4

ANGEMESSENE UMSETZUNG

Passen Sie den Kontrollumfang an, ohne die Integrität der Entscheidung zu schwächen.

Die Norm kann ein einzelnes KI-Ergebnis nicht als richtig, fair oder rechtmäßig zertifizieren. Anwendungsfall, Betroffene, Daten und Betriebsnachweise bleiben entscheidend.

AUSGEARBEITETES BEISPIELISO-42001–01Lehrbeispiel · kein tatsächlich erzieltes Ergebnis behauptet
Einzelperson / Kleinstunternehmen

Führen Sie ein Anwendungsregister, eine erste Folgenprüfung, eine Dokumentation der Datenquellen und ein menschliches Ersatzverfahren.

Einsatzentscheidung, Bewertungsvermerk, Test des Ersatzverfahrens

Angebotsteam

Verbinden Sie Prüfpunkte für Produkt, Daten, Recht, Sicherheit, Ethik und Umsetzung.

Folgenabschätzung, Herkunftsnachweise, Gestaltung der Aufsicht

Unternehmen

Betreiben Sie ein Portfolioinventar, abgestufte Genehmigungen, Überwachung und Lernen aus Vorfällen.

AIMS-Audit, Überwachungsprotokolle, Managementbewertung

Markieren Sie nur Kontrollen, die das Team im Beispiel tatsächlich abgeschlossen hat.

01 · Abdeckung der AnforderungenNOCH NICHT ZU BEOBACHTENIst jede wesentliche Anforderung auffindbar und einer verantwortlichen Person zugeordnet?
02 · Gültigkeit der NachweiseNOCH NICHT ZU BEOBACHTENIst der Nachweis aktuell, relevant, freigegeben und unmittelbar der Aussage zugeordnet?
03 · Integrität der EntscheidungNOCH NICHT ZU BEOBACHTENSind Entscheidungsbefugnisse, Annahmen und Abwägungen sichtbar?
04 · Wirksamkeit der ÜberprüfungNOCH NICHT ZU BEOBACHTENHat eine unabhängige kritische Prüfung die Arbeit vor der Freigabe verändert?
05 · Risiko von NacharbeitNOCH NICHT ZU BEOBACHTENWie viel vermeidbare Korrekturarbeit bleibt?
06 · Abweichung von KontrollregelnNOCH NICHT ZU BEOBACHTENKönnen sich Verpflichtungen ohne Genehmigung ändern?
07 · ÜbergabebereitschaftNOCH NICHT ZU BEOBACHTENKann das Umsetzungsteam die Zusage ohne neue Auslegung übernehmen?
08 · Geschlossene LernschleifeNOCH NICHT ZU BEOBACHTENHat die Rückmeldung die nächste Prüfung einer Geschäftschance, die Nachweise oder die Kontrollen verändert?