Künstliche Intelligenz: SFMA legt ihre aufsichtsrechtlichen Erwartungen dar

Künstliche Intelligenz (KI) wird im Finanzmarkt zunehmend eingesetzt, insbesondere zur Unterstützung interner Prozesse, aber auch im Risikomanagement, bei der Preisgestaltung und bei der Kundeninteraktion. Die Autonomie und Komplexität von KI-Systemen birgt verschiedene Risiken. Beispielsweise besteht die Gefahr, dass durch KI erzeugte Ergebnisse für Menschen nicht nachvollziehbar oder erklärbar sind, dass sich Fehler oder Ungleichbehandlungen unbemerkt einschleichen oder dass Verantwortlichkeiten für Entscheidungen auf Basis von KI unklar sind.

Um die mit dem Einsatz von KI verbundenen Risiken zu begrenzen, hat die SFMA ihre aufsichtsrechtlichen Erwartungen an den Einsatz von KI in den Geschäftsprozessen beaufsichtigter Unternehmen formuliert. Die Erwartungen, die sich auf vier Bereiche konzentrieren (siehe Grafik auf Seite 33), wurden mit verschiedenen Anspruchsgruppen abgestimmt und verfeinert und sind im Risikomonitor 2023 detailliert beschrieben.

Im dynamischen Bereich der KI setzt die SFMA stark auf einen engen Austausch mit Experten im In- und Ausland sowie mit Finanzmarktinstitutionen, die KI nutzen. Aus den Diskussionen lässt sich ableiten, dass die Mehrheit der Institutionen, die KI einsetzen, die Entwicklungen in diesem Bereich sehr genau beobachten. Viele experimentieren derzeit aber auch in Anwendungsfeldern, die nur begrenzte Risiken bergen. Dabei wird selten die Vollautomatisierung angestrebt und der Faktor Mensch wird dabei immer noch als sehr wichtig erachtet. Die Branche begrüßt die Technologieneutralität und den risikobasierten Ansatz der SFMA. Da es sich bei KI grundsätzlich um eine technische Weiterentwicklung handelt, betrachten die meisten Institute die Risiken nicht als grundsätzlich neu und adressieren sie bereits im Rahmen ihrer bestehenden Risikomanagementprozesse. Zusätzlich zur Kommunikation ihrer aufsichtsrechtlichen Erwartungen prüft die SFMA die Angemessenheit des Risikomanagements und der Governance im Zusammenhang mit KI bei den beaufsichtigten Unternehmen. Um KI-spezifische Risiken zu identifizieren, zu begrenzen und zu überwachen, führt die SFMA seit dem vierten Quartal 2023 Vor-Ort-Kontrollen und Aufsichtsaustausche mit Finanzinstituten durch, die KI umfassend oder in aufsichtsrelevanten Bereichen einsetzen. Darüber hinaus hat die SFMA im Rahmen ihrer laufenden Aufsicht erste Anwendungen in der Vermögensverwaltung, der Transaktionsüberwachung und dem Liquiditätsmanagement genauer unter die Lupe genommen. (Aus dem Jahresbericht 2023)

Dokumente

Diagramme und visuelle Informationen