Die britische Finanzaufsichtsbehörde Financial Conduct Authority (FCA) warnt vor einem „Wettrüsten“ bei der Regulierung des Einsatzes von Künstlicher Intelligenz (KI) im Finanzdienstleistungssektor. Sheldon Mills, ein Exekutivdirektor der FCA, betonte gegenüber der Financial Times, dass die Behörde erweiterte Befugnisse benötige, um mit dem rasanten Wachstum der KI Schritt zu halten. Millionen von Menschen nutzen die Technologie bereits für persönliche Finanzentscheidungen.
Forderung nach erweiterten Befugnissen und interner KI-Nutzung
Mills forderte die britischen Behörden auf zu prüfen, ob der Einsatz von Großen Sprachmodellen (Large Language Models, LLMs) wie ChatGPT, Claude und Gemini den bestehenden Regeln unterliegen sollte. Er sprach im Vorfeld der Veröffentlichung eines von der FCA in Auftrag gegebenen Berichts, den er selbst verfasst hat und der am Montag erscheint. Dieser Bericht beleuchtet die Auswirkungen von KI auf Finanzdienstleistungen.
Um mit der „Geschwindigkeit, dem Tempo und dem Ausmaß des Wandels“ Schritt halten zu können, den die KI in den Sektor bringt, müssten die Aufsichtsbehörden selbst KI einsetzen, um Risiken zu „überwachen, erkennen und zu bekämpfen“, so Mills. Er wird die FCA nach acht Jahren verlassen.
Chancen und Risiken der KI im Finanzbereich
Der Bericht identifiziert sowohl Vorteile als auch Risiken des zunehmenden KI-Einsatzes. Eine „Hyper-Personalisierung“ könnte dazu beitragen, Produkte besser auf die Bedürfnisse der Kunden abzustimmen. Gleichzeitig birgt sie jedoch die Gefahr von Voreingenommenheit, intransparenter Preisgestaltung und personalisierter Manipulation. Mills hob hervor, dass KI die Finanzwelt „demokratisieren“ könnte, indem sie den Zugang zu ausgeklügelten Dienstleistungen erweitert, die derzeit nur den wohlhabendsten Kunden zur Verfügung stehen. Er nannte das Beispiel, dass Personen mit einem Jahreseinkommen von 20.000 Pfund Zugang zu Finanzberatung erhalten könnten, die sonst nur jemandem mit 10 Millionen Pfund Ersparnissen oder Vermögenswerten offensteht.
Forschungsergebnisse, die von Mills in Auftrag gegeben wurden, zeigen, dass ein Fünftel der Erwachsenen im Vereinigten Königreich bereits offen dafür ist, KI-Modelle für Finanzentscheidungen wie Spar- oder Kreditangelegenheiten zu nutzen. Diese Dienste sind jedoch nicht reguliert und bieten im Fehlerfall keine Entschädigung. Mills wies darauf hin, dass einige Unternehmen diese unregulierten Dienste als „wirtschaftlich gleichwertige Art von Dienstleistung“ betrachten, die außerhalb des regulativen Rahmens liegt, während für regulierte Unternehmen „ziemlich strenge“ Regeln für ähnliche Empfehlungen gelten.
Regulierungsbedarf und Betrugsprävention
Der Bericht empfiehlt der FCA, innerhalb der nächsten drei bis sechs Monate eine Überprüfung durchzuführen. Diese soll die Risiken von Unternehmen untersuchen, die Finanzdienstleistungen außerhalb des Zuständigkeitsbereichs der Aufsichtsbehörde anbieten, sowie den „Verbraucherschaden“ durch die wachsende Nutzung von KI-Modellen für die persönliche Finanzverwaltung.
Zudem schlägt der Bericht vor, dass die FCA öffentliche und private Gruppen zusammenbringt, um einen „KI-gestützten Finanzkompetenzdienst“ zu entwickeln. Dieser soll der britischen Öffentlichkeit kostenlose Informationen und Leitlinien für ihre Finanzentscheidungen bieten.
KI wird voraussichtlich auch die Bedrohung durch Betrug und Cyberangriffe „verstärken“. Der Bericht fordert, die Technologie zur Verteidigung des Systems gegen solche Bedrohungen einzusetzen. „Deepfakes, synthetische Identitäten und personalisiertes Social Engineering führen Betrugs- und Cyberrisiken in eine neue Ära“, heißt es im Bericht. Mills betonte die Notwendigkeit menschlicher Rechenschaftspflicht: „Man braucht einen Menschen, der für das verantwortlich ist, was sie tun.“
Erweiterung der Aufsicht über Technologieanbieter
Der Bericht empfiehlt zudem, die Befugnisse der FCA im Rahmen des „Critical Third Parties“-Regimes zu stärken. Dieses ermöglicht es der Behörde, wichtige Technologieanbieter für den Finanzsektor wie Anthropic, OpenAI, Amazon, Google und Microsoft zu überwachen. Die Regierung muss noch entscheiden, welche großen Technologiekonzerne unter dieses Regime fallen sollen. Es erlaubt den Aufsichtsbehörden, strengere Offenlegungspflichten, einschließlich jährlicher Selbstbewertungen und „Szenariotests“ zur Widerstandsfähigkeit gegenüber schweren Störungen, zu verhängen.
Die FCA könnte auch zusätzliche Befugnisse im Rahmen des „Designated Activities Regime“ anstreben. Dieses erlaubt die Regulierung spezifischer Aktivitäten, ohne dass die ausführenden Unternehmen eine Autorisierung benötigen.
Die FCA war wegen eines 12-wöchigen Vertrags mit dem US-Technologiekonzern Palantir kritisiert worden. Dieser Vertrag sollte testen, ob Palantirs KI-Systeme bei der Bekämpfung von Finanzkriminalität helfen können. Einige Abgeordnete äußerten Bedenken, dass der Vertrag US-Behörden Zugang zu sensiblen britischen Finanzinformationen verschaffen könnte, was sowohl von der FCA als auch von Palantir bestritten wurde. Mills lehnte es ab, sich zu diesem Vertrag zu äußern.
Der Vorstand der FCA wird den Bericht von Mills erörtern, bevor er über das weitere Vorgehen bezüglich der Empfehlungen entscheidet.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.