Die Risikoklassifizierung ist das Herzstück der AI-Act-Compliance. Sie entscheidet darüber, ob ein System frei nutzbar ist, gekennzeichnet werden muss oder ein vollständiges Konformitätsverfahren durchläuft.
Schritt 1: Liegt überhaupt ein KI-System vor?
Artikel 3 definiert KI als maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus Eingaben Ausgaben wie Vorhersagen, Empfehlungen oder Entscheidungen ableitet. Klassische regelbasierte Software – etwa eine reine Wenn-Dann-Logik – fällt nicht darunter. Grenzfälle entstehen bei Scoring-Modellen und statistischen Verfahren.
Schritt 2: Verbotene Praktiken ausschließen
Artikel 5 verbietet unter anderem manipulative Techniken, Ausnutzung von Schutzbedürftigkeit, Social Scoring, biometrische Kategorisierung nach sensiblen Merkmalen sowie Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Gerade der letzte Punkt trifft Unternehmen unerwartet – etwa bei Sentiment-Analysen in Call-Center-Software.
Schritt 3: Hochrisiko prüfen
Zwei Wege führen in die Hochrisikoklasse: Anhang I (KI als Sicherheitsbauteil in Produkten wie Maschinen, Medizinprodukten, Fahrzeugen) und Anhang III (eigenständige Anwendungsbereiche).
- Beschäftigung: Bewerber-Screening, Beförderungs- und Kündigungsentscheidungen, Leistungsbewertung
- Kreditwürdigkeitsprüfung und Risikobewertung in der Lebens-/Krankenversicherung
- Bildung: Zugang, Bewertung, Prüfungsüberwachung
- Kritische Infrastruktur, Strafverfolgung, Migration, Justiz
- Biometrische Identifizierung und Kategorisierung
Schritt 4: Transparenzpflichten bewerten
Systeme mit begrenztem Risiko sind erlaubt, müssen aber offenlegen, dass Nutzer mit einer KI interagieren. Deepfakes und synthetische Inhalte sind maschinenlesbar zu kennzeichnen. Für die meisten Marketing- und Serviceanwendungen ist das die relevante Klasse.
Die fünf häufigsten Klassifizierungsfehler
- Der Zweck wird ignoriert: Dasselbe Modell kann je Use Case minimal oder hochriskant sein.
- Rolle falsch bestimmt: Wer ein System wesentlich verändert oder unter eigener Marke anbietet, wird selbst zum Anbieter.
- Schatten-KI wird nicht erfasst: Tools, die Teams ohne Freigabe nutzen, tauchen im Inventar nicht auf.
- Ergebnisse werden nicht begründet dokumentiert.
- Keine Wiedervorlage bei Änderungen an Modell oder Einsatzzweck.
Häufige Fragen zu diesem Thema
Ist ChatGPT im Unternehmen ein Hochrisiko-System?
In der Regel nein. Als allgemeiner Assistent gilt minimales bis begrenztes Risiko. Wird derselbe Assistent aber zur Vorauswahl von Bewerbungen eingesetzt, kann der Anwendungsfall unter Anhang III fallen.
Wer haftet, wenn wir falsch klassifizieren?
Die Verantwortung bleibt beim Unternehmen. Deshalb sollten Klassifizierungen begründet, versioniert und von einer benannten Rolle freigegeben werden.
Wie oft muss neu klassifiziert werden?
Anlassbezogen bei neuen Tools, Modellwechseln oder geändertem Einsatzzweck – mindestens jedoch einmal jährlich im Rahmen des KI-Inventar-Reviews.