Finanzunternehmen sind Regulierung gewohnt – der AI Act fügt sich in bestehende Strukturen ein, verschiebt aber den Fokus von Modellgüte auf Grundrechte und Nachvollziehbarkeit.
Hochrisiko-Anwendungen im Sektor
- Kreditwürdigkeitsprüfung und Scoring natürlicher Personen
- Risikobewertung und Preisbildung in Lebens- und Krankenversicherung
- KI-gestützte Entscheidungen über Vertragsabschluss oder -kündigung mit erheblicher Wirkung
- Ausnahme: Betrugserkennung ist in der Regel nicht als Hochrisiko eingestuft
Grundrechte-Folgenabschätzung
Institute müssen vor Inbetriebnahme eines Hochrisiko-Systems Prozesse, betroffene Personengruppen, spezifische Risiken, Aufsichtsmaßnahmen und Abhilfemechanismen dokumentieren. Praktisch lässt sich das an bestehende DSFA- und Modellfreigabeprozesse andocken.
Anschluss an bestehende Aufsicht
MaRisk, BAIT und DORA verlangen bereits heute Modellvalidierung, Auslagerungssteuerung und IT-Resilienz. Der AI Act ergänzt Anforderungen an Datenqualität, Erklärbarkeit, menschliche Aufsicht und Logging. Wer diese Anforderungen in ein gemeinsames Modellregister überführt, vermeidet Parallelwelten.
Erklärbarkeit gegenüber Kunden
Bei ablehnenden Entscheidungen haben Betroffene Anspruch auf eine verständliche Erklärung der wesentlichen Entscheidungsgründe. Das ist weniger ein technisches als ein Kommunikationsthema – und häufig der Punkt, an dem Beschwerden entstehen.
Häufige Fragen zu diesem Thema
Fällt Betrugserkennung unter Hochrisiko?
In der Regel nicht – Betrugserkennung bei Finanzdienstleistungen ist von der Hochrisiko-Einstufung für Kreditwürdigkeitsprüfung ausgenommen. Die übrigen Pflichten bleiben bestehen.
Was gilt für zugekaufte Scoring-Modelle?
Sie sind Betreiber und müssen Nutzung, Aufsicht, Eingabedaten und Logging verantworten – sowie die Anbieterdokumentation prüfen und aufbewahren.
Wie verhält sich der AI Act zu DORA?
DORA adressiert digitale Betriebsstabilität, der AI Act das KI-System. Beide Nachweise lassen sich in einem integrierten Kontrollrahmen führen.