Hohe Erwartungen, noch höhere Befürchtungen
von David Stein

Künstliche Intelligenz (KI) als Produktionsmittel im digitalen Kapitalismus hat einen signifikanten Einfluss auf die unterschiedlichsten gesellschaftlichen und wirtschaftlichen Bereiche – darunter auch auf den Finanzsektor.

Finanzunternehmen setzen KI schon heute entlang der gesamten Wertschöpfungskette ein. Mit KI lassen sich Prozesse beschleunigen und durch KI-gesteuerte Algorithmen große Datenmengen schnell und effektiv auswerten. KI-Technologien können Finanzdienstleister auch darin unterstützen, Risiken, etwa Betrugsrisiken, in Echtzeit zu erkennen und zu managen. Entscheidungen lassen sich so schneller treffen. Auch die Beeinflussung des Kunden kann optimiert werden, beispielsweise durch Sprachmodelle mit dem Kunden. Viele haben damit schon zu tun gehabt, etwa im Versicherungssektor, sie verdrängen den persönlichen Kundenkontakt.
Der Druck der KI-Anbieter und der Unternehmensberatungen auf ihre Kunden ist groß. KI sei der entscheidende Wettbewerbsfaktor für Finanzinstitute. Die Erwartungshaltung der Nutzer:innen steigt ebenfalls. Deutsche Banken erwarten einer Umfrage zufolge eine Effizienzsteigerung digitaler Prozesse (79 Prozent), Kosteneinsparung (73 Prozent) sowie eine neue Form der Kundenansprache und Optimierung der Kundenentscheidungen (55 Prozent).
Im Gegensatz zur Automatisierung der Produktion, die vor allem die Tätigkeit von Arbeiterinnen und Arbeitern seit den 90er Jahren in den Fabriken veränderte, gestaltet KI aktuell die Bürotätigkeit und das Back Office der Institute um. Dieses wurde bereits durch das Internet stark verändert. Daran knüpft KI an.
Als Querschnittstechnologie ähnlich der Dampfmaschine oder der Elektrizität wird KI den Kapitalismus zwar nicht total umwälzen, aber in jedem Fall den Wachstumszwang und das Ziel der Profitmaximierung weiter perfektionieren.

Droht der personelle Kahlschlag?
Laut einer Analyse der US-Investmentbank Morgan Stanley, die die Wirtschaftszeitungen zur Jahreswende groß herausgestellt haben, würden im europäischen Bankensektor 10 Prozent der Stellen wegen KI abgebaut, 200.000 Jobs bis 2030. Betroffen seien primär Servicebereiche und Risikomanagement. Die europäischen Banken und ihre Aktionäre hoffen, damit bei den Profitmargen zur US-Konkurrenz aufschließen zu können.
Doch Skepsis ist angebracht. Zwischen 1999 und 2024 wurden in der deutschen Kreditwirtschaft 200.000 Stellen abgebaut, von über 770.000 auf unter 550.000, was bereits zu einer sichtbaren Verdrängung menschlicher Arbeitskraft durch Automatisierung geführt hat. Ähnliches gilt für den gesamten EU-Raum.
Der Abbau von Stellen in einer ohnehin deutlich ausgedünnten Filialstruktur der Banken ist weitgehend ausgereizt, der Zahlungsverkehr bereits vollständig automatisiert. Seit 2024 stellt die Branche sogar wieder mehr ein, um den anstehenden Ruhestandswellen unter den Mitarbeitern zu begegnen. Zu vielen neuen Stellen wird KI jedoch nicht bei den Finanzinstituten, sondern bei den Entwicklern und den Datensammel-Tagelöhnern der großen Cloud- und KI-Anbieter führen.

Fehlerquellen und Risiken
Entwicklung und Anwendung von KI-Technologie sind gespickt mit Risiken. Ihr Einsatz etwa bei ChatGPT und vielen anderen KI-basierten Systemen erfolgt nicht lokal, sondern über Cloud-Dienste. Dadurch gelangen sensible und zum Teil personenbezogene Daten zu den Betreibern und werden nicht selten zu Trainingszwecken gespeichert. Im Prinzip dürfen sie nicht für die Entwicklung allgemeiner Modelle verwendet werden. Einmal vorhanden, können sie aber von den Betreibern missbraucht oder von Cyberangreifer erbeutet werden. Daraus resultiert ein hohes Datenschutzrisiko. Verstöße gegen die EU- Datenschutzgrundverordnung sind vorprogrammiert.
KI-Modelle lassen sich nicht fehlerfrei entwickeln. Sie können z.B. auf Datenungleichgewichten beruhen. KI ist auch nicht neutral oder objektiv. KI-Modelle und Programme, die auf ihnen basieren, sind immer nur ein Spiegel der Daten, von denen sie lernen. Und ein Spiegel der Menschen, die sie programmieren. Das Ergebnisse verzerren – mit möglicherweise unbeabsichtigten Folgen, etwa der Diskriminierung von Kundinnen oder von Menschen mit Behinderung im Rahmen der Kreditwürdigkeitsprüfung oder Bonitätsbewertung.
Risiken für die Finanzstabilität entstehen durch die Abhängigkeit des Finanzsektors von Dritten, insbesondere von großen Cloud- sowie KI-Modellanbietern. Das liegt an der starken Marktkonzentration auf wenige, US-amerikanische Anbieter.
Die Finanzunternehmen nutzen zu 97 Prozent für den KI-Betrieb die Cloudservices der sog. Hyperscaler. Diese bieten Dienstleistungen für Cloud Computing und Datenmanagement an Unternehmen, die eine umfangreiche Infrastruktur für das Verarbeiten und Speichern großer Datenmengen benötigen. Darunter fallen die großen US-amerikanischen Cloud-Anbieter wie Amazon Web Services, Google Cloud, Microsoft Azure, IBM Cloud.
Die Nutzung derselben großen Anbieter kann zu Herdenverhalten führen: Es besteht also die Gefahr, dass sich sehr viele Marktteilnehmer aufgrund gleicher Informationsverarbeitung durch KI und wegen automatisierter Handelsstrategien ähnlich verhalten.
Ein zusätzliches Risiko birgt Artikel 702 des Foreign Intelligence Surveillance Act der USA. Dieser erlaubt die gezielte Überwachung von Personen außerhalb der USA einschließlich der in der Cloud gespeicherten Daten. Die Hyperscaler unterliegen einer Mitwirkungspflicht und dürfen die Öffentlichkeit darüber im Einzelfall nicht informieren. In den USA zertifizierte Unternehmen sind zwar verpflichtet, die europäischen Datenschutzstandards nach dem US-EU Data Privacy Framework DPF einzuhalten. Die Praxis sieht jedoch anders aus und die Unternehmen entscheiden sich im Konfliktfall für die US-Vorgaben.

Risikoaufsicht
Trump lässt die US-amerikanische KI-Industrie nach Laune agieren, um den Technologievorsprung der USA zu sichern. Sie ist deshalb keiner Regulierung und keinen Sicherheitsstandards unterworfen. Ein Dekret seines Vorgängers Biden, das Sicherheitsstandards vorschrieb, hat Trump gekippt und damit auch eine Initiative der amerikanischen Bundesstaaten ausgebremst, die eigene gesetzliche Regelungen schaffen wollten.
Besser sieht es formalrechtlich in der Europäischen Union aus. Der AI-Act der EU von 2024, das erste Gesetz weltweit zur KI-Regulierung schreibt vor, dass KI-Anwendungen nicht missbraucht werden dürfen. Ebenso muss der Schutz der Grundrechte gewährleistet sein. Adressat ist nicht nur der Finanzsektor, sondern alle Unternehmen. Er muss zeitlich gestaffelt bis 2027 umgesetzt werden.
Der AI-Act folgt einem risikobasierten Ansatz mit einer Einordung in drei Risikostufen (systemische, generelle und geringe Risiken), etwa bei der Personalrekrutierung, im Gesundheitswesen und bei kritischen Infrastrukturen. Je höher das Risiko bei der Anwendung eingeschätzt wird, desto strenger sind die Vorgaben. Verboten sind Anwendungen mit unvertretbarem Risiko wie biometrische Echtzeitüberwachung in der Öffentlichkeit.
Ein inakzeptables Risiko stellen auch KI-Systeme dar, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen. Für sie gilt ein Verbot, genauso wie für KI-basiertes „Social Scoring“, also die Vergabe von Punkten nach erwünschtem Verhalten. Zudem gibt es eine Transparenzpflicht: künstlich erzeugte oder bearbeitete Inhalte (Audios, Bilder, Videos) müssen eindeutig als solche gekennzeichnet werden.
Eine zusätzliche bankenspezifische Regulierung stellt der »Digital Operational Resilience Act« dar (DORA). Er verlangt im Finanzsektor den Aufbau eines Risikomanagements, das Unternehmen in die Lage versetzt, Störungen bei KI-Systemen zu erkennen, zu melden und zu bewältigen.
Die Einhaltung beider Vorgaben soll in Deutschland die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) sicherstellen.

Ein Wolkenkuckucksheim?
Die aktuelle Diskussion zu KI ist auch von der Befürchtung geprägt, ob und wann die KI-Blase platzt und welche Folgewirkungen dies für die gesamte Wirtschaft haben würde. Verwiesen wird auf das Platzen der Dotcom-Blase in den 90er Jahren, für das die hohen Gewinnerwartungen verantwortlich waren, die sich für die Investoren nicht erfüllt haben.
Vergleichbare Gefahren heute sind keine Hirngespinste. In vielen Insichgeschäften der KI-Branche werden immense Summen zwischen den KIs hin- und hergeschoben. Der größte Entwickler von Grafikprozessoren und Chips, Nvidia, investiert in KI-Unternehmen und finanziert damit eigentlich den Konsum der eigenen Dienstleistungen oder Waren.
Ein weiteres Beispiel: Das mit Microsoft verbandelte Softwareunternehmen OpenAI hat vor wenigen Wochen einen Vertrag über 300 Mrd. US-Dollar mit dem IT-Unternehmen Oracle für den Bezug von Rechenleistung abgeschlossen. Oracle selbst will sich an neuen KI-Rechenzentren beteiligen, die 500 Milliarden US-Dollar kosten.
Das sind selbst für den US-Markt astronomische Summen, sie müssen mit der Ausgabe von Aktien, Anleihen oder Krediten finanziert werden. Da tun sich riesige Finanzierungslücken auf.Und: KI-Anwendungen brauchen immense Rechenleistungen. Darum nutzen viele Entwickler von KI-Anwendungen sog. Supercomputer. Sie brauchen enorm viel Strom – und Wasser zu ihrer Kühlung. Die US-Energieanbieter können diesen Bedarf noch nicht erfüllen. Der Siegeszug der KI ist alles andere als in trockenen Tüchern.