Der EU AI Act und seine Auswirkungen auf Finanzdienstleistungen in der DACH-Region

Aktualisierung, 11. Oktober 2026: Die Zeitleiste in diesem Artikel wurde an den Digital Omnibus zum AI Act (Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026) angepasst: Die Hochrisiko-Pflichten für eigenständige Systeme nach Anhang III gelten ab dem 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab dem 2. August 2028.

Der EU Artificial Intelligence Act (Verordnung (EU) 2024/1689), am 12. Juli 2024 im Amtsblatt veröffentlicht und am 1. August 2024 in Kraft getreten, stellt den weltweit ersten umfassenden Gesetzgebungsrahmen für künstliche Intelligenz dar. Für Finanzdienstleistungsunternehmen in der DACH-Region – von denen viele aktiv KI-Systeme für Kreditbewertung, Betrugserkennung, Kundenservice, Risikobewertung und Compliance-Automatisierung einsetzen oder evaluieren – führt der AI Act eine neue Regulierungsebene ein, die die Entwicklung, den Einsatz und die Governance dieser Technologien neu gestalten wird.

Besonders bedeutsam ist der AI Act für Finanzdienstleistungen, weil er eine KI-spezifische Governance-Ebene über die sektoralen Regeln legt, die für Banken, Versicherungen und Wertpapierfirmen bereits gelten. Das Verständnis der Wechselwirkungen zwischen beiden Ebenen – und der Stellen, an denen der AI Act bestehende Pflichten erweitert oder ergänzt – ist der Ausgangspunkt für jedes ernsthafte Compliance-Programm. Finanzdienstleister haben mehr Erfahrung mit Modellgovernance als die meisten Branchen, doch der AI Act bringt gleichwohl neue Erwartungen mit sich, die über das traditionelle MaRisk- oder Solvency-II-Modellrisikomanagement hinausgehen.

Gesetzgebungsgeschichte und Zeitplan

Der EU AI Act hat eine lange Gesetzgebungsgeschichte. Die Kommission veröffentlichte ihren ursprünglichen Vorschlag im April 2021, danach durchlief der Akt eine ungewöhnlich intensive interinstitutionelle Verhandlung. Die politische Einigung zwischen Rat und Europäischem Parlament wurde im Dezember 2023 erzielt, das Parlament nahm den Text im März 2024 formal an, und die Verordnung wurde am 12. Juli 2024 im Amtsblatt veröffentlicht. Sie trat am 1. August 2024 in Kraft und startete damit einen sorgfältig gestuften Anwendungszeitplan, der sich nach der Verschiebung durch den Digital Omnibus über vier Jahre erstreckt.

Der gestufte Anwendungskalender

Die Bestimmungen des AI Act treten stufenweise in Kraft, nicht auf einmal. Der Zeitplan gibt Unternehmen und Aufsichtsbehörden Zeit zur Anpassung und sorgt zugleich dafür, dass die Bestimmungen mit der höchsten Priorität (die Verbote) zuerst wirksam werden. Die wichtigsten Meilensteine sind:

• 2. Februar 2025: Die Verbote unannehmbarer KI-Praktiken gelten, einschließlich der Verbote des Social Scoring (durch öffentliche wie private Stellen), bestimmter Formen der biometrischen Echtzeit-Fernidentifizierung und weiterer Praktiken, die der Gesetzgeber als mit Grundrechten unvereinbar ansieht.
• 2. August 2025: Regeln für allgemeine KI-Modelle (GPAI), Governance-Bestimmungen und die Designation der notifizierenden Behörden werden anwendbar. Ab diesem Datum müssen GPAI-Modellanbieter Transparenz- und Urheberrechtspflichten erfüllen.
• 2. August 2026: Allgemeine Anwendung des AI Act, einschließlich der Transparenzpflichten nach Artikel 50 (mit einer Übergangsfrist bis zum 2. Dezember 2026 für die Kennzeichnung synthetischer Inhalte aus bereits im Markt befindlichen Systemen).
• 2. Dezember 2027: Die Hochrisiko-Pflichten für eigenständige Systeme nach Anhang III gelten — verschoben vom August 2026 durch den Digital Omnibus zum AI Act (Verordnung (EU) 2026/1744), in Kraft seit dem 27. Juli 2026. Dies ist nun das Schlüsseldatum für Finanzdienstleistungsunternehmen, die KI für Kreditbewertung, Versicherungspreisbildung und andere Anhang-III-Kategorien einsetzen.
• 2. August 2028: Die Hochrisiko-Pflichten für KI in Produkten, die unter Anhang I reguliert sind, gelten und schließen die gestufte Einführung ab.

Praktisch bedeutet das für DACH-Finanzinstitute, dass sie ein definiertes – und sich schließendes – Zeitfenster haben, um konforme Programme aufzubauen, bevor die Hochrisikopflichten greifen. Unternehmen, die mit der Gap-Analyse bis 2027 warten, werden Schwierigkeiten haben, die Anforderungen rechtzeitig zu erfüllen.

Das risikobasierte Klassifizierungssystem

Der AI Act etabliert eine vierstufige Risikoklassifizierung: unannehmbares Risiko (verboten), hohes Risiko (umfangreiche Anforderungen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine spezifischen Pflichten). Für Finanzdienstleistungen ist die Hochrisiko-Kategorie am bedeutsamsten, doch Unternehmen müssen auch die Grenzen zwischen den Stufen verstehen, um ihre Systeme korrekt einzuordnen.

Unannehmbares Risiko und verbotene Praktiken

Unannehmbares Risiko begründende Praktiken sind nach Art. 5 unmittelbar verboten. Dazu zählen Social-Scoring-Systeme, die zu einer Schlechterstellung in sachfremden Zusammenhängen oder zu einer unverhältnismäßigen Schlechterstellung führen – gleich, ob eine öffentliche oder eine private Stelle sie einsetzt –, bestimmte manipulative oder ausbeuterische Praktiken, biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (vorbehaltlich enger Ausnahmen für Strafverfolgungszwecke) sowie spezifische Kategorien prädiktiver Polizeiarbeit. Für gängige Finanzdienstleistungs-Anwendungsfälle greift die Verbotsliste selten unmittelbar, doch Unternehmen sollten prüfen, dass keine Randfälle ihres Portfolios in den Verbotsbereich fallen – bestimmte aggressive Personalisierungstechniken, verhaltensbeeinflussende Systeme und Kundenbewertungen, die Daten aus sachfremden Zusammenhängen heranziehen, verdienen eine frische Prüfung unter Art. 5.

Hochrisiko-KI-Systeme in den Finanzdienstleistungen

Nach Anhang III der Verordnung werden KI-Systeme, die für Kreditwürdigkeitsbewertung und Kreditscoring natürlicher Personen verwendet werden, ausdrücklich als hochriskant eingestuft (Anhang III Nr. 5 Buchst. b). Dies betrifft direkt die zahlreichen KI-basierten Kreditplattformen, Scoring-Dienste und automatisierten Underwriting-Systeme in Deutschland, Österreich und der Schweiz. Ebenso werden KI-Systeme, die von Versicherungsunternehmen für Risikobewertung und Preisgestaltung von Lebens- und Krankenversicherungsprodukten in Bezug auf natürliche Personen eingesetzt werden (Anhang III Nr. 5 Buchst. c), als hochriskant klassifiziert.

Über diese ausdrücklichen Klassifizierungen hinaus müssen Finanzdienstleistungsunternehmen prüfen, ob ihre KI-Einsätze in andere Hochrisiko-Kategorien fallen – etwa KI-Systeme, die im Management und Betrieb kritischer Infrastruktur eingesetzt werden (mit meist begrenzter unmittelbarer Relevanz für Finanzdienstleister), oder Systeme für beschäftigungsbezogene Entscheidungen wie Bewerbervorauswahl, CV-Prüfung oder Leistungsbewertung, die in jeder großen Bank oder Versicherung Anwendung finden können.

Begrenztes und minimales Risiko

Systeme mit begrenztem Risiko unterliegen den Transparenzpflichten des Art. 50 AI Act. Diese gelten für Systeme, die mit natürlichen Personen interagieren (etwa Chatbots), für Emotionserkennungssysteme und für KI-generierte Inhalte einschließlich Deepfakes. Systeme mit minimalem Risiko – die große Mehrheit der KI-Anwendungen im Tagesgeschäft – haben nach der Verordnung keine spezifischen Pflichten, wobei freiwillige Verhaltenskodizes empfohlen werden.

Pflichten für Hochrisiko-KI-Systeme

Anbieter und Betreiber von Hochrisiko-KI-Systemen sehen sich detaillierten Compliance-Anforderungen gegenüber, die in den Art. 8 bis 27 AI Act verankert sind. Die Anforderungen gelten über den gesamten Lebenszyklus des Systems – von Design und Entwicklung über den Einsatz und das Monitoring bis zur Außerbetriebnahme. Sie umfassen:

• Risikomanagementsystem (Art. 9): Ein kontinuierlicher, iterativer Prozess zur Identifizierung, Analyse, Abschätzung und Bewertung von Risiken im Zusammenhang mit dem KI-System über seinen gesamten Lebenszyklus.
• Daten und Daten-Governance (Art. 10): Trainings-, Validierungs- und Testdatensätze müssen Qualitätskriterien erfüllen, einschließlich Relevanz, Repräsentativität, Vollständigkeit und Fehlerfreiheit – besonders relevant für Unternehmen, die historische Finanzdaten mit möglichen eingebetteten Verzerrungen verwenden.
• Technische Dokumentation (Art. 11): Umfassende Dokumentation, die Aufsichtsbehörden die Compliance-Bewertung ermöglicht, einschließlich des vorgesehenen Zwecks, der Designspezifikationen, des Entwicklungsprozesses und der Leistungskennzahlen des Systems.
• Aufzeichnung und Protokollierung (Art. 12): Automatische Aufzeichnung von Ereignissen (Logs), die Nachvollziehbarkeit des Systembetriebs, Identifizierung von Risiken und Post-Market-Monitoring ermöglicht.
• Transparenz und Informationsbereitstellung (Art. 13): Klare Gebrauchsanweisungen einschließlich der Fähigkeiten und Grenzen des Systems, des erreichten Niveaus an Genauigkeit, Robustheit und Cybersicherheit und der Maßnahmen zur Ermöglichung menschlicher Aufsicht.
• Menschliche Aufsicht (Art. 14): Designmerkmale, die wirksame menschliche Aufsicht ermöglichen, einschließlich der Fähigkeit menschlicher Operateure, die Leistung des Systems zu verstehen, seinen Betrieb zu überwachen und seine Ergebnisse zu übersteuern.
• Genauigkeit, Robustheit und Cybersicherheit (Art. 15): Leistungsstandards, die dem vorgesehenen Zweck des Systems und der Schwere potenzieller Schäden angemessen sind, einschließlich Widerstandsfähigkeit gegenüber Adversarial Inputs oder Data Poisoning.
• Qualitätsmanagementsystem (Art. 17): Ein dokumentiertes Qualitätsmanagementsystem mit Strategien für regulatorische Compliance, Design- und Entwicklungskontrollen, Verifikations- und Validierungsverfahren und Post-Market-Monitoring.

Konformitätsbewertung, CE-Kennzeichnung und EU-Datenbankregistrierung

Bevor ein Hochrisiko-KI-System auf den EU-Markt gebracht werden kann, müssen Anbieter ein Konformitätsbewertungsverfahren durchlaufen, das nachweist, dass das System die Anforderungen des AI Act erfüllt. Für die meisten Anhang-III-Systeme (einschließlich Kreditscoring) basiert die Konformitätsbewertung auf internen Kontrollen und nicht auf der Beteiligung einer benannten Stelle, während bestimmte Kategorien die Einbindung einer benannten Stelle erfordern. Anbieter müssen anschließend eine EU-Konformitätserklärung ausstellen, die CE-Kennzeichnung anbringen und das System in der EU-Datenbank registrieren, bevor es in Verkehr gebracht oder in Betrieb genommen werden darf. Post-Market-Monitoring-Pflichten gelten über das gesamte Betriebsleben des Systems.

Regeln für allgemeine KI-Modelle (GPAI)

Der AI Act etabliert auch spezifische Regeln für allgemeine KI-Modelle (General-Purpose AI Models) – die großen Foundation Models, die für eine breite Palette von Downstream-Aufgaben angepasst werden können, einschließlich generativer Modelle im Kundensupport, in der Dokumentenanalyse und in anderen Finanzdienstleistungsanwendungen. Diese Regeln sind in den Art. 51 bis 55 geregelt und gelten ab dem 2. August 2025.

GPAI-Modellanbieter müssen technische Dokumentation pflegen, nachgelagerten Anbietern, die ihre Modelle in Produkte integrieren, Informationen bereitstellen, das EU-Urheberrecht einhalten (einschließlich der Berücksichtigung von Text- und Data-Mining-Opt-outs nach Art. 4 Abs. 3 der Urheberrechts-Richtlinie) und eine hinreichend detaillierte Zusammenfassung der zum Training verwendeten Inhalte veröffentlichen. Für GPAI-Modelle mit systemischem Risiko – bestimmt durch Kriterien einschließlich Rechenschwellenwerten – gelten zusätzliche Pflichten, einschließlich Modellevaluationen, Vorfallmeldung, Cybersecurity-Schutz und erweiterter Transparenz.

Finanzdienstleistungsunternehmen sind in der Regel keine Anbieter von GPAI-Modellen. Meist nutzen sie als Betreiber fertige KI-Systeme, die auf solchen Modellen beruhen; wer ein Foundation Model eines Dritten in ein eigenes kundenorientiertes oder internes Werkzeug einbaut, wird für dieses Werkzeug zum (nachgelagerten) Anbieter eines KI-Systems. Die Unterscheidung ist wichtig: Betreiber haben engere Pflichten als Anbieter, und wer ein Foundation Model feinabstimmt, wesentlich verändert oder unter eigenem Namen bereitstellt, kann als Anbieter mit dem umfassenderen Pflichtenkatalog behandelt werden.

Transparenzpflichten nach Art. 50

Art. 50 legt spezifische Transparenzpflichten für bestimmte KI-Systeme fest, unabhängig von ihrer Risikoeinstufung. Anbieter von KI-Systemen, die direkt mit natürlichen Personen interagieren, müssen sicherstellen, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies sich nicht aus dem Kontext ergibt. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen sicherstellen, dass die Ausgaben als künstlich erzeugt gekennzeichnet sind. Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen müssen betroffene Personen über den Betrieb informieren.

Für Finanzdienstleistungen ist Art. 50 besonders relevant für Chatbots, virtuelle Assistenten und jegliche kundenorientierte KI. Banken und Versicherungen sollten sicherstellen, dass ihre kundenorientierten KI-Interaktionen einen klaren, auffälligen Hinweis darauf enthalten, dass der Kunde mit einem KI-System kommuniziert, und dass die Ausgaben generativer Systeme angemessen gekennzeichnet sind. Diese kleinen Designentscheidungen haben unmittelbare regulatorische Relevanz und sollten im Rahmen eines strukturierten Compliance-Programms und nicht ad hoc behandelt werden.

Zusammenspiel mit bestehender Finanzregulierung

Ein kritischer Aspekt für DACH-Finanzdienstleistungsunternehmen ist das Zusammenspiel des AI Act mit bestehender Sektorregulierung. Die BaFin stellt bereits Anforderungen an das Modellrisikomanagement durch die MaRisk (Mindestanforderungen an das Risikomanagement), die Bestimmungen zur Validierung, Governance und Überwachung quantitativer Modelle im Risikomanagement und bei Kreditentscheidungen enthalten. Für die IT gilt seit dem 17. Januar 2025 DORA (Verordnung (EU) 2022/2554) mit Anforderungen an IKT-Risikomanagement, Vorfallmeldung und Drittanbieter-IKT-Risiken; die früheren BAIT (Bankaufsichtliche Anforderungen an die IT) gelten für Institute, die DORA anwenden, nicht mehr und werden mit Ablauf des 31. Dezember 2026 vollständig aufgehoben.

Der AI Act erkennt dieses Zusammenspiel ausdrücklich an. Für Finanzinstitute, die bereits den Governance-Anforderungen des EU-Finanzaufsichtsrechts unterliegen, gelten einzelne Pflichten als durch diese Regeln erfüllt oder dürfen in bestehende Verfahren integriert werden: weite Teile des Qualitätsmanagementsystems des Anbieters (Art. 17 Abs. 4), die Überwachungspflicht des Betreibers (Art. 26 Abs. 5) und die Beobachtung nach dem Inverkehrbringen (Art. 72 Abs. 4). Erwägungsgrund 158 nennt als einschlägiges Finanzaufsichtsrecht unter anderem die Eigenkapitalrichtlinie (CRD) und Solvency II. Die übrigen Anforderungen des AI Act sind jedoch kumulativ, nicht substitutiv. Compliance mit MaRisk oder ähnlichen Rahmenwerken stellt nicht automatisch Compliance mit dem AI Act dar.

DSGVO Art. 22 und automatisierte Entscheidungsfindung

Der AI Act interagiert auch mit der DSGVO, insbesondere mit Art. 22, der Betroffenen das Recht gibt, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Finanzdienstleistungsunternehmen, die KI für Kreditentscheidungen, Versicherungs-Underwriting oder andere kundenorientierte Entscheidungen einsetzen, müssen sowohl die Hochrisikopflichten des AI Act als auch den DSGVO-Rahmen der automatisierten Entscheidungsfindung beachten. Die beiden Rahmenwerke überschneiden sich in ihrem Fokus auf menschliche Aufsicht und Transparenz, doch die spezifischen Anforderungen sind nicht identisch und sollten sorgfältig abgebildet werden.

MiFID-II-Geeignetheit und KI-Beratungstools

Für Wertpapierfirmen legt die MiFID II Pflichten zur Prüfung der Geeignetheit und Angemessenheit fest, die mit KI-gestützten Beratungswerkzeugen interagieren. Wo KI-Systeme zu Geeignetheitsprüfungen oder Portfolio-Empfehlungen beitragen, müssen Unternehmen sicherstellen, dass die KI-Ergebnisse mit den MiFID-II-Geeignetheitsstandards vereinbar sind, dass die menschliche Aufsicht substanziell ist und dass Interessenkonflikte aus algorithmischer Entscheidungsfindung identifiziert und gesteuert werden.

Nationale Behörden und die Rolle der BaFin

Der AI Act verlangt von jedem EU-Mitgliedstaat, eine oder mehrere nationale zuständige Behörden für die Durchsetzung zu benennen, und weist die Marktüberwachung für Hochrisiko-KI-Systeme beaufsichtigter Finanzinstitute grundsätzlich der Finanzaufsicht zu (Art. 74 Abs. 6). In Deutschland regelt das seit dem 29. Juli 2026 das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG): Die Bundesnetzagentur ist die allgemeine Marktüberwachungsbehörde, die BaFin ist zuständig für KI-Systeme der von ihr beaufsichtigten Unternehmen, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen. In Österreich fällt diese Rolle nach Art. 74 Abs. 6 grundsätzlich der FMA zu.

Die BaFin hat ihr Interesse an KI-Governance durch Reden, Arbeitspapiere und zuletzt durch ihre Orientierungshilfe zu IKT-Risiken beim Einsatz von KI vom Dezember 2025 signalisiert. Unternehmen sollten damit rechnen, dass die BaFin im Vorfeld des 2. Dezember 2027 weitere Erwartungen veröffentlicht, und das aktuelle Zeitfenster für einen proaktiven Dialog mit der Aufsicht über neuartige Anwendungsfälle nutzen. Ein früher Austausch ist besonders wertvoll für Systeme, die an der Grenze zwischen Hochrisiko- und Begrenztem Risiko liegen, wo Interpretationsfragen den Gesamtumfang der Compliance-Arbeit beeinflussen können.

Sanktionen: Art. 99

Der AI Act sieht erhebliche Sanktionen für Nichteinhaltung vor. Nach Art. 99 können Verstöße gegen die Verbote unannehmbarer KI-Praktiken Geldbußen von bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes nach sich ziehen, je nachdem, welcher Betrag höher ist. Andere Verstöße können Bußgelder von bis zu 15 Millionen EUR oder 3 % des weltweiten Umsatzes erzeugen. Die Bereitstellung unrichtiger, unvollständiger oder irreführender Informationen gegenüber notifizierten Stellen oder zuständigen nationalen Behörden kann mit bis zu 7,5 Millionen EUR oder 1 % des weltweiten Umsatzes sanktioniert werden. Diese Schwellenwerte sind erheblich und übersteigen im schlimmsten Fall die maximalen Verwaltungsstrafen der DSGVO.

Die Möglichkeit solcher Geldbußen sollte die Aufmerksamkeit von Vorständen und Geschäftsleitungen in DACH-Finanzinstituten auf sich ziehen. Die AI-Act-Compliance ist keine optionale oder kosmetische Übung, sondern ein materielles regulatorisches Risiko, das einen Platz am Tisch neben anderen erstrangigen Compliance-Themen verdient.

Die Schweizer Dimension

Die Schweiz ist als Nicht-EU-Mitglied nicht direkt dem AI Act unterworfen. Allerdings gelten die extraterritorialen Bestimmungen der Verordnung für Anbieter, die KI-Systeme auf dem EU-Markt platzieren, für Betreiber mit Sitz in der EU und für Anbieter und Betreiber in Drittländern, wenn das Ergebnis des KI-Systems in der Union verwendet wird (Art. 2 Abs. 1 Buchst. c). Schweizer Finanzdienstleistungsunternehmen, die EU-Kunden bedienen oder EU-Tochtergesellschaften betreiben, können deshalb selbst unter die Verordnung fallen. Die FINMA hat keine dem AI Act vergleichbaren verbindlichen KI-Regeln erlassen, ihre Erwartungen aber im Dezember 2024 in der Aufsichtsmitteilung 08/2024 zu Governance und Risikomanagement beim Einsatz von künstlicher Intelligenz dargelegt; daneben gelten ihre bestehenden Erwartungen an operatives Risikomanagement, Auslagerung und Modellgovernance. Schweizer Unternehmen mit EU-Bezug sollten dennoch mit den Erwartungen des AI Act planen, sowohl um den Marktzugang zu wahren als auch um ihre interne Governance zu vereinfachen.

Die Schweiz geht zudem einen eigenen Weg: Der Bundesrat hat im Februar 2025 entschieden, die KI-Konvention des Europarats zu ratifizieren, und eine Vernehmlassungsvorlage für die nötigen Gesetzesanpassungen bis Ende 2026 in Auftrag gegeben. Mittelfristig ist eine Konvergenz zu breit ähnlichen Standards wahrscheinlich, wobei der konkrete Schweizer Rahmen den charakteristischen Regulierungsstil des Landes und seine Vorliebe für prinzipienbasierte statt regelbasierte Vorschriften widerspiegeln dürfte.

Praktischer Fahrplan für DACH-Finanzinstitute

Finanzinstitute in der DACH-Region sollten damit beginnen, eine umfassende Bestandsaufnahme aller eingesetzten oder in Entwicklung befindlichen KI-Systeme durchzuführen und jedes nach den Risikokategorien des AI Act zu klassifizieren. Für als hochriskant identifizierte Systeme wird eine Gap-Analyse gegen die spezifischen Anforderungen des Acts – insbesondere Daten-Governance, Dokumentation und menschliche Aufsicht – den erforderlichen Arbeitsumfang aufzeigen. Governance-Strukturen sollten eingerichtet oder verbessert werden, um die fortlaufende Compliance sicherzustellen, und Schulungsprogramme sollten sowohl die technischen als auch die regulatorischen Dimensionen eines verantwortungsvollen KI-Einsatzes adressieren.

Inventar, Klassifikation und Gap-Analyse

Das Fundament eines Compliance-Programms ist ein vollständiges, präzises Inventar der KI-Systeme. Dies ist in der Praxis oft schwerer als erwartet: KI-Fähigkeiten sind häufig in Anbieterprodukten eingebettet, in Datenplattformen verborgen oder von einzelnen Teams ohne zentrale Sichtbarkeit entwickelt. Ein strukturierter Entdeckungsprozess – aus Fragebogen, technischen Scans und Anbieteranfragen – ist typischerweise notwendig. Sobald das Inventar vollständig ist, sollte jedes System gemäß den Risikokategorien des AI Act klassifiziert und die Begründung dokumentiert werden. Eine Gap-Analyse kann dann den erforderlichen Aufwand für jedes hochriskante System herausarbeiten.

Governance-Anpassungen

Bestehende Governance-Strukturen – Modellrisikokomitees, IT-Risikokomitees und ähnliche Gremien – sollten um KI-spezifische Aspekte erweitert werden. Eine klare Verantwortlichkeit für die AI-Act-Compliance sollte zugewiesen werden, typischerweise über eine benannte KI-Governance-Leitung oder eine Arbeitsgruppe, die an die Geschäftsleitung berichtet. Richtlinien zu KI-Entwicklung, Anbieterauswahl und menschlicher Aufsicht sollten verfasst oder aktualisiert werden, und Genehmigungsabläufe für neue KI-Einsätze sollten die AI-Act-Klassifikation als verbindlichen Schritt aufnehmen.

Anbieter- und Modelldokumentation

Ein Großteil der Dokumentationspflichten des AI Act fällt den Anbietern zu, doch auch Betreiber müssen hinreichende Informationen einholen und vorhalten, um ihre eigene Compliance nachzuweisen. Dazu gehören Gebrauchsanweisungen, technische Informationen zu den Fähigkeiten und Grenzen des Systems und Nachweise, dass der Anbieter seine Pflichten erfüllt hat. Anbieterverträge sollten angepasst werden, um die Pflichten unter dem AI Act klar zu verteilen, mit angemessenen Zusicherungen, Gewährleistungen und Prüfrechten. Das ist für Unternehmen mit großen Anbieterportfolios ein erheblicher Vertragsanpassungsaufwand.

Prozesse menschlicher Aufsicht

Art. 14 AI Act verlangt, dass Hochrisiko-KI-Systeme so gestaltet und entwickelt werden, dass sie eine wirksame menschliche Aufsicht ermöglichen. Das ist keine reine UI-Frage, sondern eine Governance-Frage darüber, wie menschliche Prüfer benannt, geschult, ermächtigt und verantwortet werden. Für Kreditscoringsysteme etwa sollten Unternehmen sicherstellen, dass menschliche Prüfer über Schulung und Befugnis verfügen, Modell-Ergebnisse zu übersteuern, wenn es angebracht ist, und dass ihre Entscheidungen aufgezeichnet und geprüft werden. Die Qualität der menschlichen Aufsicht dürfte ein Schwerpunkt der aufsichtlichen Bewertung der AI-Act-Compliance sein.

Die Unterscheidung Anbieter und Betreiber in der Praxis

Das Verständnis, ob ein konkretes Unternehmen Anbieter oder Betreiber eines KI-Systems ist – und für welche Komponenten –, hat erhebliche praktische Konsequenzen. Ein Anbieter ist die Einheit, die ein KI-System entwickelt oder entwickeln lässt und unter ihrem eigenen Namen oder Warenzeichen in Verkehr bringt oder in Betrieb nimmt. Ein Betreiber ist die Einheit, die ein KI-System unter ihrer Verantwortung nutzt, außer wenn das System im persönlichen, nicht-beruflichen Kontext eingesetzt wird. Die meisten Finanzinstitute sind Betreiber kommerzieller KI-Werkzeuge, können aber zu Anbietern werden, wenn sie Systeme selbst entwickeln, Drittsysteme wesentlich verändern oder ein Lieferantenangebot unter ihrer eigenen Marke weiterverwenden.

Die Unterscheidung ist wichtig, weil Anbieter die schwerere Last bei Konformitätsbewertung, technischer Dokumentation und Post-Market-Monitoring tragen. Betreiber haben engere, aber weiterhin bedeutsame Pflichten: das System gemäß den Anweisungen des Anbieters einzusetzen, menschliche Aufsicht durch Personen mit der nötigen Kompetenz sicherzustellen, das System im Betrieb zu überwachen, Logs zu führen und Betroffene dort zu informieren, wo es vorgeschrieben ist. Ein Unternehmen, das gleichzeitig beide Rollen einnimmt – indem es ein Werkzeug für externe Kunden bereitstellt und andere Werkzeuge intern nutzt –, muss beide Pflichtenkreise kohärent steuern.

Wesentliche Änderung und ihre Folgen

Ein Finanzinstitut, das ein vortrainiertes Foundation Model übernimmt und auf internen Daten substanziell feinabstimmt, kann die Schwelle vom Betreiber zum Anbieter eines neuen KI-Systems überschreiten. Die Behandlung wesentlicher Änderungen im AI Act wird weiter konkretisiert, doch das Grundprinzip ist, dass bedeutsame Veränderungen am beabsichtigten Zweck, an den Leistungseigenschaften oder am Risikoprofil eines Systems den Änderer zum Anbieter eines neuen Systems machen können. Unternehmen sollten ihre KI-Anpassungsarbeiten entsprechend bewerten und den Umfang der Änderungen an jedem Drittanbietermodell dokumentieren.

Normen, Verhaltenskodizes und Konformitätsvermutung

Der AI Act sieht eine Rolle harmonisierter Normen zur Unterstützung der Compliance vor. Wenn harmonisierte europäische Normen im Amtsblatt veröffentlicht und für spezifische Anforderungen des AI Act referenziert werden, profitieren konforme Systeme von einer Konformitätsvermutung. CEN, CENELEC und andere europäische Normungsgremien arbeiten an den entsprechenden Normen, und Anbieter werden sich idealerweise auf diese stützen können, sobald sie finalisiert sind. In der Zwischenzeit sieht der AI Act Verhaltenskodizes vor, die von Industrie und Zivilgesellschaft entwickelt werden, als Übergangsweg zum Nachweis der Compliance, insbesondere für Anbieter von GPAI-Modellen.

Für Finanzdienstleister bedeutet das praktisch, dass Compliance-Programme, die auf der aktuell verfügbaren Orientierung aufbauen, flexibel genug sein sollten, sich an harmonisierte Normen anzupassen, sobald sie anwendbar werden. Eine Compliance-Dokumentation, die sich an spezifischen Artikeln und Anhängen des AI Act orientiert – und nicht an einer einzelnen Interpretation –, lässt sich leichter aktualisieren, wenn sich Normen konkretisieren.

Häufige Fallstricke und Missverständnisse

Mehrere Missverständnisse erschweren AI-Act-Compliance-Programme in der Praxis. Eines ist der Glaube, ein System, das bereits MaRisk-konform ist, erfülle automatisch die Anforderungen des AI Act – das ist nicht der Fall, da der AI Act neue Dimensionen einführt (etwa explizite Anforderungen an Daten-Governance und stärker vorgegebene menschliche Aufsichtspflichten). Ein weiteres ist der Glaube, als Betreiber – und nicht als Anbieter – sei man von den meisten Pflichten befreit; Betreiber von Hochrisikosystemen haben nach Art. 26 bedeutsame Verantwortlichkeiten. Ein drittes ist der Glaube, interne, ausschließlich von Mitarbeitern genutzte Werkzeuge fielen nicht in den Anwendungsbereich – bestimmte mitarbeitersichtbare Systeme (etwa KI-gestützte Rekrutierung oder Leistungsbewertung) sind in Anhang III ausdrücklich als hochriskant gelistet.

Ein weiteres Missverständnis ist, dass kleinere KI-Systeme oder experimentelle Pilotprojekte außerhalb des Regimes liegen. Die Pflichten des AI Act knüpfen am beabsichtigten Zweck und der Risikoklasse des Systems an, nicht an der Größe der Nutzerbasis oder der Reife des Einsatzes. Ein kleines Pilotprojekt, das zu Kreditentscheidungen beiträgt – auch nur für eine begrenzte Kundenbasis –, kann dennoch ein Hochrisikosystem sein. Die Skalierung kann die Priorisierung beeinflussen, ändert aber weder die Klassifikation noch die zugrunde liegenden Pflichten.

Anwendungsfälle im Detail: Kredit, Versicherung, Betrugserkennung und Kundenservice

Es lohnt sich, einige konkrete Anwendungsfälle durchzugehen, um zu illustrieren, wie der AI Act in der Praxis für DACH-Finanzdienstleister anzuwenden ist:

Kreditscoring und Kreditentscheidung

Ein KI-gestütztes Kreditscoring-System, das zu Kreditentscheidungen für natürliche Personen beiträgt, ist nach Anhang III Nr. 5 Buchst. b ausdrücklich als hochriskant eingestuft. Unternehmen, die solche Systeme einsetzen, müssen alle Hochrisikopflichten erfüllen: robustes Risikomanagement, Daten-Governance zu Qualität und Repräsentativität der Trainingsdaten, technische Dokumentation, Protokollierung, Transparenz gegenüber nachgelagerten Nutzern, menschliche Aufsicht und laufendes Monitoring. Parallel gelten die BaFin-Erwartungen an Modellrisiken nach MaRisk weiter, und Art. 22 DSGVO regelt den Entscheidungsprozess selbst. Eine einzige Kreditentscheidungs-Pipeline kann damit drei sich überlagernde Regulierungsrahmen auf sich ziehen.

Versicherungs-Underwriting und Preisbildung

KI-Systeme, die von Versicherern für Underwriting und Preisbildung in der Lebens- und Krankenversicherung natürlicher Personen eingesetzt werden, fallen unter Anhang III Nr. 5 Buchst. c und sind hochriskant. Die Anforderungen an die Daten-Governance sind hier besonders anspruchsvoll, angesichts der historischen Natur von Underwriting-Daten und des Risikos, dass geschützte Merkmale indirekt in Proxies eingebettet sind. Versicherer müssen nachweisen, dass ihre Modelle keine diskriminierenden Ergebnisse auf Basis geschützter Merkmale erzeugen und dass die menschliche Aufsicht auch bei hohen Volumina substanziell bleibt.

Betrugserkennung

Systeme, die zur Aufdeckung von Finanzbetrug eingesetzt werden, sind in Anhang III Nr. 5 Buchst. b ausdrücklich von der Hochrisiko-Einstufung der Kreditwürdigkeitsprüfung ausgenommen. Doch wo ein Betrugserkennungssystem zu Entscheidungen führt, die Kunden erheblich betreffen – etwa Transaktionssperren, Kontosperren oder Dienstverweigerung –, sollten Unternehmen prüfen, ob das System oder die nachgelagerte Entscheidungsfindung indirekt Pflichten des AI Act auslöst. Auch wenn die strikte Hochrisikoeinordnung nicht gilt, bleiben die breiteren Prinzipien des AI Act zu Transparenz, Robustheit und menschlicher Aufsicht gute Praxis.

Kundenorientierte Chatbots und virtuelle Assistenten

Chatbots und virtuelle Assistenten fallen typischerweise in die Kategorie des begrenzten Risikos und unterliegen den Transparenzpflichten des Art. 50. Kunden sollten klar darüber informiert werden, dass sie mit einem KI-System interagieren, und generative Ausgaben sollten wo angemessen als KI-generiert gekennzeichnet werden. Wird der Chatbot für sensible Themen eingesetzt – etwa Finanzberatung oder Beschwerdemanagement –, sollten Unternehmen zusätzliche Schutzmaßnahmen prüfen, insbesondere klare Eskalationspfade zu menschlichen Mitarbeitern für belastende oder komplexe Fälle.

Datenschutz, Protokollierung und Betriebssicherheit

Die Umsetzung der AI-Act-Pflichten berührt unmittelbar den Datenschutz. Logs, die Aufzeichnung von Systemereignissen und die Bereitstellung technischer Dokumentation enthalten häufig personenbezogene Daten, die nach DSGVO verarbeitet werden. Unternehmen sollten die Aufbewahrungsfristen für Logs mit den allgemeinen DSGVO-Grundsätzen der Datenminimierung und Zweckbindung in Einklang bringen und klare Rollen definieren, wer auf welche Logdaten unter welchen Bedingungen zugreifen darf.

Cybersecurity-Anforderungen nach Art. 15 AI Act überlappen sich mit DORA. Ein abgestimmter Ansatz, der AI-Act- und DORA-Anforderungen als ein einheitliches Betriebssicherheitskonzept behandelt, vermeidet Doppelarbeit und reduziert das Risiko widersprüchlicher interner Vorgaben. In größeren Instituten empfiehlt sich eine enge Zusammenarbeit zwischen CISO, Datenschutzbeauftragtem, Modellrisikomanagement und der KI-Governance-Funktion.

Post-Market-Monitoring und Vorfallmeldung

Der AI Act verlangt nach Inbetriebnahme eines Hochrisikosystems ein laufendes Post-Market-Monitoring: Die Leistung muss überwacht, Vorfälle müssen dokumentiert und wesentliche Probleme gemeldet werden. Die Schwellenwerte für Meldungen sind in Art. 73 geregelt und umfassen unter anderem Vorfälle, die zu Verletzungen von Grundrechten führen können, zu erheblichen Sachschäden oder zu Störungen kritischer Infrastruktur. Für Finanzdienstleister sind die Meldeschwellen relevant vor allem dann, wenn Hochrisikosysteme zu Fehlentscheidungen in Kredit- oder Versicherungsprozessen führen, die eine signifikante Zahl von Kunden betreffen.

In der Praxis sollten Unternehmen einen einheitlichen Vorfallmanagement-Prozess aufbauen, der sowohl AI-Act-, DORA- als auch DSGVO-Meldeschwellen abdeckt und eine schnelle, koordinierte Reaktion auf Vorfälle ermöglicht. Parallele, voneinander unabhängige Meldeprozesse für unterschiedliche Regulierungsrahmen erzeugen Risiken an den Schnittstellen und sollten so weit wie möglich konsolidiert werden.

Fazit: Bauen für vertrauenswürdige KI

Die Unternehmen, die den AI Act nicht lediglich als Compliance-Belastung betrachten, sondern als Rahmenwerk zum Aufbau vertrauenswürdiger, erklärbarer KI-Systeme, werden am besten positioniert sein, um Kundenvertrauen und Wettbewerbsvorteil zu wahren, wenn die Regulierung ihre volle Wirkung entfaltet. Der Fokus der Verordnung auf Transparenz, menschliche Aufsicht und Daten-Governance stimmt mit breiteren Prinzipien verantwortungsvoller KI überein, die von Kunden, Mitarbeitern und Investoren zunehmend erwartet werden. Ein ernsthaftes AI-Act-Compliance-Programm zahlt sich daher über die reine Risikosteuerung hinaus aus.

Die Aegiron Capital Group unterstützt Finanzunternehmen und ihre Technologieanbieter im DACH-Markt dabei, KI-Systeme zu inventarisieren und einzuordnen und AI-Act-Readiness in bestehende Governance einzubauen. Unsere Arbeit erfolgt als strategische Beratung; konkrete rechtliche und technische Fragen klären die Kanzlei und die Spezialisten, die Sie beauftragen. Ziel ist es, KI als strategische Fähigkeit unter angemessener Governance zu behandeln – und nicht als unverwaltetes Risiko, das im nächsten aufsichtlichen Review an die Oberfläche tritt.

Der AI Act ist ein Rahmenwerk, kein Endzustand. In den nächsten Jahren werden sich harmonisierte Normen, nationale Leitlinien, Rechtsprechung und Verhaltenskodizes weiter entwickeln und die praktische Anwendung prägen. Institute, die schon heute eine belastbare Governance-Struktur aufbauen, haben den Vorteil, dass sie diese Entwicklungen integrieren können, ohne ihre gesamte Vorgehensweise neu aufsetzen zu müssen. Wer dagegen darauf wartet, bis alle Details geklärt sind, wird am Ende unter Zeitdruck arbeiten und die Qualität der Umsetzung leidet typischerweise genau dann, wenn sie am wichtigsten wäre. Der pragmatische Weg besteht darin, die Unsicherheit anzuerkennen, die bekannten Kernanforderungen klar umzusetzen und gleichzeitig Flexibilität für künftige Anpassungen einzuplanen.

Nicht zuletzt ist der AI Act auch eine Chance. Institute, die die nächsten Monate zielgerichtet nutzen, können eine KI-Governance aufbauen, die über den reinen Compliance-Nutzen hinaus Wert schafft: durch eine konsistentere Anbieterauswahl, bessere Qualität in der Modellentwicklung, klarere interne Verantwortlichkeiten und ein verlässlicheres Vertrauensverhältnis zu Kunden und Aufsicht. Der AI Act ist damit kein isolierter regulatorischer Akt, sondern ein Anlass, den Umgang mit einer Technologie zu professionalisieren, die die Finanzdienstleistungen der nächsten Jahre prägen wird – und ein Rahmen, der es Unternehmen ermöglicht, KI in einer Weise einzusetzen, die für alle Beteiligten nachvollziehbar und vertrauenswürdig bleibt.