KI-Aufsicht bei Versicherern: Bafin warnt vor heimlichem Social Scoring

Die Finanzaufsicht Bafin nimmt die Künstliche Intelligenz deutscher Versicherer ins Visier. Auf einer Branchenkonferenz in Düsseldorf kündigte Sebastian Schnitzler, Leiter des Bafin-Referats Risikomodellierung und Künstliche Intelligenz, eine harte Linie bei verbotenen KI-Praktiken an. Wörtlich sagte er: „Hier werden wir keine Kompromisse eingehen.“

Der Hintergrund: Seit dem 29. Juli 2026 ist das deutsche Gesetz zur Durchführung der europäischen KI-Verordnung in Kraft. Damit ist die Bafin zur Marktüberwachungsbehörde für alle KI-Systeme geworden, die unmittelbar mit regulierten Finanzgeschäften zu tun haben.

Wenn Daten kombiniert werden – und plötzlich ein Verstoß entsteht

Verboten ist nach der EU-Verordnung insbesondere das sogenannte Social Scoring, also die Bewertung von Menschen nach ihrem Verhalten, ihren persönlichen Eigenschaften oder weiteren Merkmalen. Die Versicherer, so Schnitzler, hätten sich in aller Regel klare interne Vorgaben gesetzt, dass ihre Systeme genau das nicht tun.

Das Problem beginne im Detail. Bei konkreten Anwendungsfällen sei nicht immer eindeutig, ob nicht doch durch die Kombination verschiedener Datenquellen eine unzulässige Klassifizierung entstehe. Die Aufsicht schaue deshalb besonders darauf, wie sich ein Algorithmus in ungewöhnlichen Grenzsituationen verhalte.

Übersetzt heißt das: Nicht der offiziell programmierte Zweck zählt, sondern das, was am Ende hinten herauskommt. Ein Anspruch, der die Compliance-Abteilungen der Branche noch beschäftigen dürfte.

Neue Kompetenzen, neue Bußgelder

Laut Bafin umfasst das neue Mandat unter anderem Transparenzpflichten für Chatbots in der Kundenkommunikation sowie Hochrisiko-Systeme – etwa solche, die Banken zur Kreditwürdigkeitsprüfung oder Versicherer zur Risikobewertung in der Lebens- und Krankenversicherung einsetzen. Bei Verstößen kann die Behörde Bußgelder verhängen.

Bafin-Präsident Mark Branson betonte bei Inkrafttreten des Gesetzes, Transparenz, Diskriminierungsfreiheit und wirksames Risikomanagement seien zentral. Entscheidungen müssten von Menschen korrigierbar bleiben. Die Verantwortung liege bei den beaufsichtigten Unternehmen und ihren Geschäftsleitungen.

Der Zeitplan ist gestaffelt: Bestimmte KI-Praktiken sind bereits seit dem 2. Februar 2025 untersagt, erste Transparenzpflichten greifen seit dem 2. August 2026, die Anforderungen an Hochrisiko-Systeme folgen ab dem 2. Dezember 2027. Für KI außerhalb regulierter Finanztätigkeiten – etwa im Personalwesen – ist die Bundesnetzagentur zuständig.

Innovationsbremse oder Grundrechtsschutz?

Auf der Düsseldorfer Tagung war man sich in einem Punkt einig: Regulierung dürfe Innovationen nicht ausbremsen. Kritiker der europäischen KI-Verordnung sehen genau hier das Risiko. Während in den USA und Asien Milliarden in KI-Modelle fließen, beschäftigt sich der europäische Finanzsektor mit Dokumentationspflichten, Zuständigkeitsabgrenzungen und der Frage, welche Behörde welchen Algorithmus prüft.

Aus Sicht unserer Redaktion ist der Schutz vor automatisierter Diskriminierung ein legitimes Ziel – niemand möchte von einer Blackbox aussortiert werden. Doch je dichter das Regelwerk, desto größer die Gefahr, dass am Ende vor allem Großkonzerne mit eigener Rechtsabteilung überleben und kleinere Anbieter aufgeben.

Bemerkenswert bleibt die Grundfrage dahinter: Immer mehr Entscheidungen über Kredite, Policen und Preise treffen Maschinen. Wer sein Vermögen unabhängig von Scoring-Modellen und Algorithmen absichern will, setzt traditionell auch auf physische Werte wie Gold und Silber – Sachwerte, die keine Datenbank bewerten muss.

Hinweis: Dieser Beitrag dient der Information und stellt weder eine Anlageberatung noch eine Rechts- oder Steuerberatung dar. Er gibt unsere Einschätzung auf Basis der uns vorliegenden Informationen wieder. Jeder Anleger ist für seine Entscheidungen selbst verantwortlich und sollte eigenständig recherchieren.