Zwischen Automatisierung und Überwachung
von Musa Kaplan

In den vergangenen Wochen häuften sich Berichte von Social-Media-Nutzerinnen, die auf X (früher Twitter) Fotos von sich gepostet haben, nur um später mit Ekel festzustellen, dass fremde Männer in ihren Kommentarspalten Anweisungen gaben, Grok solle sie ausziehen, in einen Minibikini setzen, oder sie auf ihren Knien heulend darstellen.

Grok, das ist ein in X integrierter KI-Chatbot. Er bearbeitet diese Bilder automatisch nach und postet sie online. Grok fiel schon in der Vergangenheit mit antisemitischen Kommentaren und der Erstellung von Deepfakes auf.
Elon Musk, der Besitzer von X, zeigt bisher kein Interesse, diesem widerlichen Trend ein Ende zu setzen. Ganz im Gegenteil: Anfang Januar postete er ein mit Grok generiertes Foto von sich selbst im Bikini und reagierte auf ein anderes mit Grok generiertes Foto eines Toasters im Bikini mit: ‘I don’t know why, but I can’t stop laughing about this’ (»Ich weiß nicht wieso, aber ich kann nicht aufhören, darüber zu lachen«).
Der große Unterschied ist, dass Elon Musk Grok selbst angewiesen hat, ein Bild zu erstellen, während die Bilder anderer User:innen ohne ihr Einverständnis auf herabwürdigende und übergriffige Art und Weise von fremden Männern nachbearbeitet werden.

Ist das echt?
Diese Geschichten zeigen, wie weit fortgeschritten KI-basierte Bildprogramme sind. Die neueste Generation von Google heißt etwa Nano Banana Pro. Hinter dem harmlos und etwas albern klingenden Namen verbirgt sich ein hochentwickeltes Foto- und Videobearbeitungsprogramm, dessen Ergebnisse mit dem bloßen Auge von realen Aufnahmen kaum mehr zu unterscheiden sind. Expert:innen, die darin geübt sind, Aufnahmen zu analysieren und zu unterscheiden, meinen, dass es von jetzt an nicht mehr möglich sein wird, ein Foto oder Video als echt zu markieren. Zwar gibt es verschiedene Tools, bspw. die Website wasitai.com, um herauszufinden, ob ein Foto oder Video KI-generiert ist.
Wenn man nun ein Foto hochlädt und das Programm bestätigt, dass es sich um eine KI-generierte Datei handelt, dann kann man tatsächlich sicher sein, dass das stimmt. Doch ein fehlendes Ausschlagen der Software ist umgekehrt kein Beweis für die »Echtheit« einer Datei, da sie auf eine Art manipuliert sein kann, die nicht mehr als solche erkennbar ist. In der Konsequenz warnen Expert:innen, dass wir uns bei keinem Foto, das wir online sehen, mehr sicher sein können, dass es echt ist.

Normalisierung von Deepfakes
Deepfakes stellen eine der Schattenseiten von KI dar. Die Normalisierung von Deepfakes, von KI-generierten Inhalten im Internet oder der Nutzung von künstlichen Assistentinnen wie Alexa oder Siri verdeutlichen, wie weit die Technologie schon in unseren Alltag vorgedrungen ist. Viele Bereiche unserer Gesellschaft werden durch KI und ihre Logiken strukturiert.
Damit drängen sich Fragen über die Konsequenzen und die Potenziale des KI-Booms auf. Ist KI ein an sich neutrales Werkzeug, das nützlich sein kann oder schädlich, je nachdem wer es wie benutzt? Hat die Technologie sogar emanzipatorisches Potenzial? Bringt sie eine Automatisierung, die menschliche Arbeit ersetzen und ungekannten Wohlstand erschaffen wird? Oder öffnet die zunehmende Nutzung von KI Tür und Tor für rechte Multimilliardäre und Überwachungsstaaten, Kontrolle über die Gesellschaft auszuüben? Und was ist eigentlich mit den ökologischen Folgen?
Klar ist, dass enorme Ressourcen in den Aufbau von KI-bezogener Infrastruktur gesteckt werden. Im Vergleich zum »alten« Internet betrachten wir eine neue Qualität an Energieverbrauch. Der Betrieb KI-bezogener Rechenzentren frisst riesige Mengen an Strom und Wasser. Global sind sie auf einer Höhe vergleichbar mit dem Verbrauch industrialisierter oder aufsteigender Nationen wie Japan oder Indien. Aus US-amerikanischen Gemeinden, die in Nachbarschaft solcher Rechenzentren liegen, werden Klagen über Wasserknappheit laut. Dass diese Gemeinden vorwiegend von Schwarzen Communities bewohnt werden, ist natürlich kein Zufall.
Um den Energiehunger der Rechenzentren zu stillen, haben Tech-Giganten wie Amazon und Google inzwischen begonnen, eigene Atomkraftwerke zu planen. Angesichts der Klimakrise und der zunehmenden ökologischen Katastrophen sind Verteilungskämpfe um knapper werdendes Trinkwasser und Energie vorprogrammiert.
Der US-Amerikanischen KI-Forscherin Kate Crawford zufolge (siehe S.10/11) zeichnet sich die Kultur moderner Tech-Giganten dadurch aus, dass sie ohne Einverständnis arbeiten. Das bezieht sich nicht nur auf die eben erwähnten Verteilungsfragen. Denn um künstliche Intelligenzen zu trainieren, benötigt es zudem enorme Datensätze.
Was für Privatpersonen das Erstellen illegaler Raubkopien bedeutet und zu Anzeigen und Strafprozessen führen kann, wird bei den Tech-Giganten billigend in Kauf genommen. So werden nahezu alle Erzeugnisse menschlicher Kultur im Internet von KI verschlungen, von wissenschaftlichen Zeitschriften über auf Clouds gespeicherten digitalen Fotogalerien bis hin zu kreativen Erzeugnissen wie Musik, Literatur oder Film.
In dem Sinne ist KI eine Technologie, die sich kreative menschliche Arbeit und hochpersönliche Daten aneignet, ohne dafür eine umfassende Einwilligung einzuholen, oder gar eine Mitsprache und Mitgestaltung an dem späteren Produkt zu ermöglichen. Hier zeigt sich wieder dasselbe Muster, dass schon im eingangs erwähnten Beispiel auftauchte. KI arbeitet mit allen Daten, die sie kriegen kann, ohne dafür eine informierte Einverständniserklärung einzuholen.

Neuer Feudalismus
Die Branchen, deren Daten von KI verschlungen wurden, verlieren durch den KI-Boom wiederum ihre ökonomische Grundlage, während das Internet von KI-generiertem Slop überflutet wird.
Für Unternehmen ist es oft billiger, einen monatlichen Abobeitrag an ChatGPT zu zahlen, anstatt ihre Designs von menschlicher Hand erstellen zu lassen. Praktischerweise benötigt KI keine Sozialversicherungsabgaben und ist deutlich flexibler abrufbar, als ein:e ausgebildete:r Designer:in. Auch Emails, Drehbücher, Musik und vieles mehr lassen sich nun automatisch erstellen. Die Kehrseite dieses Trends besteht darin, dass Menschen aus diesen Berufsfeldern immer schwerer Arbeit finden. Das trifft vor allem frisch Ausgebildete, die nur schwer noch Gelegenheiten finden, überhaupt Berufserfahrung zu sammeln.
Inzwischen konzentriert sich eine enorme Macht in den Händen einiger weniger Tech-Konzerne, die einen stetig wachsenden Teil der Wirtschaft kontrollieren und beginnen, staatliche Aufgabenbereiche zu übernehmen. Die Macht und der Reichtum dieser transnationalen Unternehmen übersteigt den der meisten einzelnen Nationen und lässt sich nicht mehr in Landesgrenzen einhegen.
Der ehemalige griechische Finanzminister Yannik Varoufakis spricht diesbezüglich vom Ende der Marktwirtschaft und einem neuen Feudalismus. Ein Unternehmen wie Amazon funktioniert ihm zufolge wie ein Feudalherr, der an jedem verkauften Produkt eine Steuer von 40 Prozent einzieht und den gesamten Markt kontrolliert, indem es die Algorithmen besitzt, die die Märkte gestalten.
Zu den Profiteuren und Nutznießern des KI-Booms gehört bspw. die Kriegsindustrie. Peter Thiels Überwachungssoftware Palantir (siehe S.12) wird in den USA, Deutschland und Israel von Polizeibehörden und Geheimdiensten zu Spionagezwecken verwendet.
KI gesteuerte Drohnenschwärme und KI-generierte Listen von Bombenzielen verändern die Kriegsführung nachhaltig. Dabei wird – wie bspw. beim israelischen Programm »Where’s Daddy?« – nachweislich der Tod von Zivilist:innen eingerechnet, mindestens aber billigend in Kauf genommen. Die menschenverachtenden Logiken von KI und nationalstaatliche hegemoniale Projekte schließen sich hier zu einer unheilvollen Allianz zusammen.

Gebrauchswert der KI
Doch trägt KI nicht ausschließlich dystopisches Potenzial in sich. Für einige Bereiche stellt sie sogar einen wirklichen Fortschritt dar: etwa bei der Erkennung von über 7000 seltenen Krankheiten, der Verarbeitung einer schier unüberschaubaren Menge und Komplexität an globalen Klimadaten oder der Entzifferung antiker unlesbarer Schriftrollen. KI ist in der Lage, Dinge zu sehen (und zu tun), die Menschen oft verborgen bleiben oder nur schwer erkennbar wären.
Fest steht: KI-Technologien haben ein enormes Potenzial, zum Guten wie zum Schlechten.