BaFin-Aufsicht für KI-Systeme
Breaking News:
Montag, Aug. 24, 2026
Die aufsichtsrechtliche Bedeutung von Künstlicher Intelligenz im Finanzsektor nimmt deutlich zu. Die BaFin übernimmt im Rahmen der nationalen Zuständigkeitsordnung Aufgaben bei der Überwachung bestimmter KI-Systeme, die von beaufsichtigten Unternehmen im Zusammenhang mit regulierten Finanzdienstleistungen eingesetzt werden. Maßgeblich bleiben dabei die konkreten Anforderungen der EU-KI-Verordnung sowie die daneben anwendbaren Vorgaben des Datenschutz-, Finanzaufsichts- und Antidiskriminierungsrechts.
Für Geschäftsleitungen bedeutet dies: Sie müssen sicherstellen, dass der Einsatz von KI in eine ordnungsgemäße Geschäftsorganisation, ein angemessenes Risikomanagement und wirksame Kontrollprozesse eingebettet ist. Ob aus einem Verstoß eine persönliche Haftung folgt, hängt jedoch stets von den Umständen des Einzelfalls ab.
II. Stichtage im Überblick
Die EU-KI-Verordnung wird stufenweise anwendbar. Für Unternehmen ist deshalb nicht nur ein einzelner Stichtag maßgeblich. Vielmehr muss für jede KI-Anwendung geprüft werden, welcher Regelungstatbestand einschlägig ist und ab welchem Zeitpunkt die jeweiligen Pflichten gelten.
Hinweis zur Abgrenzung: Die Anwendungstermine der EU-KI-Verordnung gelten unabhängig davon, welche nationale Behörde im Einzelfall zuständig ist. Die BaFin übernimmt Marktüberwachungs- und Aufsichtsaufgaben, soweit ihr diese für bestimmte KI-Systeme im regulierten Finanzsektor gesetzlich zugewiesen sind.
Für andere KI-Anwendungen können andere Marktüberwachungs-, Datenschutz- oder Fachaufsichtsbehörden zuständig sein. Die Behördenzuständigkeit muss daher für jeden konkreten Anwendungsfall gesondert bestimmt werden. Aus der bloßen Tatsache, dass eine KI-Anwendung von einer Bank oder einem Versicherungsunternehmen eingesetzt wird, folgt nicht automatisch eine ausschließliche Zuständigkeit der BaFin.
III. Pflichten für Compliance, C-Level und sonstige Beteiligte
Aus dem Text lassen sich für Banken, Versicherer und andere Finanzunternehmen sehr konkrete Pflichten ableiten. Diese unterteilen sich in Dinge, die zwingend umzusetzen sind (Handlungspflichten), und Praktiken, die strikt verboten sind (Unterlassungspflichten).
Hier ist die konkrete Ableitung:
1.) Unterlassungspflichten (Was nicht mehr getan werden darf)
a.)Verzicht auf verbotene KI-Praktiken (bereits seit 02.02.2025 gültig): Unternehmen müssen prüfen, ob eine geplante oder bereits eingesetzte KI-Anwendung unter einen der ausdrücklich geregelten Verbotstatbestände der EU-KI-Verordnung fällt. Die Verordnung untersagt bestimmte, abschließend beschriebene Praktiken, etwa einzelne Formen manipulativer oder ausbeuterischer KI-Nutzung, bestimmte Formen des Social Scoring sowie gesetzlich definierte biometrische Anwendungen.
Nicht jede fehlerhafte, diskriminierende oder datenschutzwidrige KI-Anwendung ist automatisch eine verbotene KI-Praxis im Sinne der EU-KI-Verordnung. Sie kann jedoch gegen andere Vorschriften der KI-Verordnung, die Datenschutz-Grundverordnung, das Allgemeine Gleichbehandlungsgesetz oder finanzaufsichtsrechtliche Anforderungen verstoßen.
Unternehmen sollten deshalb neben der Prüfung der ausdrücklichen Verbote stets auch eine gesonderte Datenschutz-, Diskriminierungs- und Aufsichtsrechtsprüfung durchführen.
b.) Vermeidung rechtswidriger Benachteiligungen: KI-Systeme dürfen nicht zu rechtswidrigen Benachteiligungen von Kunden oder anderen betroffenen Personen führen. Finanzunternehmen müssen insbesondere prüfen, ob verwendete Daten, Modellannahmen, Entscheidungsregeln oder technische Näherungswerte bestimmte Personengruppen systematisch und ohne ausreichende sachliche Rechtfertigung benachteiligen.
Eine unterschiedliche Behandlung ist nicht in jedem Fall unzulässig. Sie muss jedoch auf rechtlich zulässigen, nachvollziehbaren und für den jeweiligen Geschäftszweck geeigneten Kriterien beruhen. Neben der EU-KI-Verordnung sind hierbei insbesondere das Datenschutzrecht, das Allgemeine Gleichbehandlungsgesetz sowie sektorspezifische aufsichtsrechtliche Anforderungen zu berücksichtigen.
Praxisbeispiel zur algorithmischen Benachteiligung: Wie schnell solche Risiken in der Praxis schlagend werden, zeigt das Szenario einer automatisierten Baufinanzierung. Setzt eine Bank hierfür ein KI-System ein, das neben klassischen Bonitätsdaten auch scheinbar neutrale Näherungswerte (sog. Proxy-Daten) wie Postleitzahlen oder das Konsumverhalten auswertet, droht eine unbewusste systematische Diskriminierung. Führt der Algorithmus beispielsweise dazu, dass Antragstellern aus bestimmten Postleitzahlengebieten – etwa mit einem hohen Anteil an Alleinerziehenden oder Menschen mit Migrationshintergrund – pauschal eine schlechtere Risikoklasse zugewiesen wird, obwohl ihre individuelle finanzielle Leistungsfähigkeit für den Kredit ausreicht, liegt eine unzulässige Benachteiligung vor. Ein solcher Fall verstößt gravierend gegen das Allgemeine Gleichbehandlungsgesetz (AGG) sowie die Datenqualitätsanforderungen der EU-KI-Verordnung und zieht im Ernstfall empfindliche Sanktionen sowie Reputationsschäden nach sich.
c.) Rechtliche Grenzen automatisierter Entscheidungen und Anforderungen an die menschliche Aufsicht
Vollständig oder weitgehend automatisierte Entscheidungen sind nicht generell verboten. Ihre Zulässigkeit hängt von der konkreten Anwendung, der Wirkung für die betroffene Person und den jeweils einschlägigen Rechtsvorschriften ab.
Bei Hochrisiko-KI-Systemen müssen die gesetzlich vorgesehenen Maßnahmen der menschlichen Aufsicht wirksam ausgestaltet werden. Die zuständigen Personen müssen insbesondere in der Lage sein, die Funktionsweise und Grenzen des Systems angemessen zu verstehen, Auffälligkeiten zu erkennen und – soweit erforderlich und rechtlich vorgesehen – Ergebnisse nicht zu übernehmen, das System zu übersteuern oder seine Nutzung zu unterbrechen.
Führt eine ausschließlich automatisierte Verarbeitung zu einer rechtlichen oder ähnlich erheblichen Wirkung für eine natürliche Person, ist zusätzlich zu prüfen, ob die besonderen Anforderungen der Datenschutz-Grundverordnung an automatisierte Einzelentscheidungen erfüllt sind. Hierzu können insbesondere Informations-, Interventions- und Anfechtungsmöglichkeiten gehören.
2.) Handlungspflichten (Was aktiv umgesetzt werden muss)
a.) Governance und Risikomanagement (Auf Ebene der Geschäftsleitung)
aa.) Verantwortungsübernahme: Verantwortung der Geschäftsleitung: Die Geschäftsleitung trägt im Rahmen ihrer gesetzlichen Leitungs- und Organisationspflichten die Gesamtverantwortung dafür, dass der Einsatz von KI ordnungsgemäß organisiert und in das Risikomanagement des Unternehmens eingebunden wird. Operative Aufgaben können delegiert werden; die Pflicht zu einer angemessenen Auswahl, Steuerung und Überwachung der verantwortlichen Bereiche bleibt jedoch bestehen.
bb.) Fachliche und organisatorische Vorbereitung: Unternehmen müssen die für ihre KI-Anwendungen einschlägigen Anforderungen systematisch ermitteln und in geeignete Prozesse, Kontrollen und Verantwortlichkeiten überführen. Dazu können insbesondere eine regulatorische Gap-Analyse, ein vollständiges KI-Inventar, die Klassifizierung der eingesetzten Systeme sowie der gezielte Aufbau von KI-Kompetenz gehören.
cc.) Risikomanagement aufbauen: Es muss ein "wirksames Risikomanagement" speziell für KI-Systeme implementiert werden.
dd.) Anforderungen an Entwicklung und Beschaffung: Bei der Entwicklung, Beschaffung und Nutzung von KI-Systemen müssen Unternehmen die jeweils einschlägigen Anforderungen an Sicherheit, Robustheit, Datenqualität, Transparenz und den Schutz vor rechtswidriger Benachteiligung berücksichtigen. Bei Drittanbieterlösungen sind diese Anforderungen durch geeignete Auswahl-, Prüfungs-, Vertrags- und Überwachungsprozesse abzusichern.
b.) Menschliche Kontrolle ("Human in the Loop")
Bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung für natürliche Personen ist zusätzlich zu prüfen, ob die besonderen Anforderungen der Datenschutz-Grundverordnung eingehalten werden. Dazu können insbesondere Informations-, Interventions- und Anfechtungsmöglichkeiten gehören.
c.) Transparenzpflichten (Umzusetzen bis 02.08.2026)
d.) Hochrisiko-Compliance (Umzusetzen bis 02.12.2027)
aa.) Identifikation und Absicherung von Hochrisiko-Systemen: Unternehmen müssen prüfen, ob sie Systeme betreiben, die als Hochrisiko gelten. Im Text explizit genannt:
bb.) Erfüllung der KI-VO: Für diese identifizierten Hochrisiko-Systeme müssen die strengen Anforderungen der EU-KI-Verordnung (z. B. bezüglich Datenqualität, Dokumentation, Überwachung) fristgerecht erfüllt werden.
Fazit für die Compliance: Der Einsatz von KI ist nicht lediglich als strategisches oder technisches Thema zu behandeln. Abhängig von der konkreten Anwendung ergeben sich verbindliche Anforderungen aus der EU-KI-Verordnung, dem Datenschutzrecht, dem Antidiskriminierungsrecht und dem Finanzaufsichtsrecht. Verstöße können behördliche Maßnahmen, Bußgelder, zivilrechtliche Ansprüche und erhebliche Reputationsschäden nach sich ziehen. KI-Governance sollte deshalb als fester Bestandteil des unternehmensweiten Compliance- und Risikomanagementsystems ausgestaltet werden.
IV. Pain Points und mögliche Folgen von Sanktionsverstößen
Aus dem Text sowie den daraus resultierenden aufsichtsrechtlichen Prinzipien ergeben sich erhebliche Haftungs- und Sanktionsrisiken, insbesondere für die Führungsebene. Der Text stellt unmissverständlich klar: „Die Verantwortung für den Einsatz von KI liegt bei den beaufsichtigten Unternehmen und ihren Geschäftsleitungen.“
Daraus lassen sich folgende konkrete Haftungsrisiken für die beteiligten Personen und Organe ableiten:
1.) Risiken für die Geschäftsleitung (Vorstand / C-Level)
Da die BaFin die Geschäftsleitung explizit in die Pflicht nimmt, ergeben sich hier die größten persönlichen Risiken:
2.) Risiken für das Unternehmen (als juristische Person)
Auch wenn das Unternehmen keine "natürliche Person" ist, treffen es die primären Sanktionen der Behörde, welche sich wiederum auf Stakeholder und Management auswirken:
3.) Risiken für Compliance-Officer, Risikomanager & IT-Leiter
Auch die zweite Führungsebene trägt abgeleitete Risiken:
Zusammenfassend ist der Einsatz von KI kein ausschließlich technisches Thema, sondern eine unternehmensweite Governance- und Compliance-Aufgabe. Geschäftsleitungen müssen für angemessene Strukturen, klare Verantwortlichkeiten und wirksame Kontrollmechanismen sorgen. Eine persönliche Haftung für Verstöße oder Bußgelder tritt jedoch nicht automatisch ein, sondern setzt eine individuell zurechenbare und schuldhafte Pflichtverletzung sowie die weiteren Voraussetzungen der einschlägigen Haftungsnorm voraus.
V. Konkrete Lösungsvorschläge
Mit Blick auf die ab dem 2. August 2026 anwendbaren weiteren Vorschriften der EU-KI-Verordnung sollten Unternehmen kurzfristig prüfen, ob ihre bestehenden Prozesse, KI-Anwendungen und Kundenschnittstellen den einschlägigen Anforderungen entsprechen.
Ziel sollte es sein, regulatorische Lücken frühzeitig zu identifizieren, erforderliche Maßnahmen nachvollziehbar zu priorisieren und die Umsetzung revisionssicher zu dokumentieren. Hierfür empfiehlt sich der folgende Maßnahmenplan:
1.) Sofortmaßnahmen (Höchste Priorität)
2.) Mittelfristige Maßnahmen (Fokus: Hochrisiko-KI bis 02.12.2027)
3.) Organisatorische Maßnahmen (Governance & C-Level)
VI. Fazit
Die zunehmende Regulierung von KI macht deren Einsatz zu einer zentralen Governance- und Compliance-Aufgabe. Unternehmen sollten insbesondere ihre KI-Anwendungen vollständig erfassen, regulatorisch klassifizieren und in ein angemessenes Risikomanagement einbinden. Für Kundenschnittstellen, Hochrisiko-KI-Systeme und automatisierte Entscheidungsprozesse sind die jeweils einschlägigen Transparenz-, Aufsichts- und Kontrollanforderungen gesondert zu prüfen.
Die Geschäftsleitung trägt die Verantwortung für eine ordnungsgemäße Organisation und wirksame Überwachung. Eine persönliche Haftung folgt daraus jedoch nicht automatisch, sondern nur bei Vorliegen der gesetzlichen Voraussetzungen einer individuell zurechenbaren Pflichtverletzung. Entscheidend ist daher eine frühzeitige, risikoorientierte und nachvollziehbar dokumentierte Umsetzung der regulatorischen Anforderungen.
S+P Fachredaktion
VII. Quellenverzeichnis
Europäisches Recht (Amtsblatt der Europäischen Union) Verordnungen: Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz – KI-Verordnung) vom 13.06.2024 (ABl. L, 2024/1689): https://eur-lex.europa.eu/…:32024R1689, abgerufen am 30.07.2026.
Nationales Recht Deutschland (Bundesgesetzblatt) Gesetz zur Durchführung der europäischen Verordnung über Künstliche Intelligenz (KI-Verordnungs-Durchführungsgesetz) vom 24.07.2026 (BGBl. 2026 I Nr. 112): https://www.gesetze-im-internet.de/…, abgerufen am 30.07.2026.
Behördliche Veröffentlichungen und Bekanntmachungen (Hinweis zur formellen Bekanntgabe des neuen Aufsichtsmandats, der Marktüberwachung und dem Interview mit Jens Obermöller): Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) – Pressemitteilung: Überwachung von KI: Bafin erhält neue Kompetenzen vom 29.07.2026: https://www.bafin.de/…, abgerufen am 30.07.2026.
S+P Unternehmerforum GmbH mit Sitz in München ist ein führender Anbieter für praxisnahe, rollenbasierte Weiterbildung im deutschsprachigen Raum. Seit der Gründung im Jahr 2004 unterstützt S+P Fach- und Führungskräfte sowie C-Level-Manager:innen aus der Finanzwirtschaft und Industrie dabei, sich gezielt weiterzuentwickeln und regulatorisch sowie strategisch sicher zu handeln.
S+P bietet ein breites Portfolio an Online-Seminaren, E-Learnings, Zertifikatslehrgängen und Executive Education Programmen. Themenschwerpunkte sind unter anderem Compliance, Geldwäscheprävention, Risikomanagement, Projektmanagement, Finance, Leadership und digitale Transformation.
Ein Alleinstellungsmerkmal ist die S+P Tool Box – mit sofort einsetzbaren Arbeitshilfen wie Leitfäden, Checklisten, Gantt-Plänen und Risikochecks. Zusätzlich steht allen Teilnehmer:innen die digitale Lernplattform S+P Lounge zur Verfügung.
Mit dem Zertifikat S+P Certified und dem digitalen Karriere-Badge dokumentieren Absolvent:innen ihre Kompetenz sichtbar – für Arbeitgeber, Kunden und Netzwerke.
Teilnehmer bewerten S+P Seminare auf ProvenExpert mit 4,65 von 5 Sternen. Für jedes gebuchte Seminar pflanzt S+P im Rahmen des ESG-Projekts „Dein Seminar, dein Baum, deine Zukunft“ einen Baum in Deutschland.
Mehr Informationen unter: www.sp-unternehmerforum.de
S&P Unternehmerforum GmbH
Feringastr. 12 A
85774 Unterföhring bei München
Telefon: +49 (89) 45242970100
Telefax: +49 (89) 45242970299
http://www.sp-unternehmerforum.de
![]()