Die aktuelle Digitalisierungswelle, die durch die Covid-19-Pandemie ausgelöst wurde, lässt die Dystopie der Brave New Digital World urplötzlich als utopische Erlösung erscheinen. Entsprechend ist das Warnen und Mahnen der noch zurechnungsfähigen Kritiker*innen zum Gemeinplatz geworden. Doch was sind die Gegenentwürfe zum real-existierenden KI-Kapitalismus? Was bedeutet es von diesem Albtraum aufzuschrecken und nach erstrebenswerten Träumen zu fragen? Berliner Gazette-Autor und Medienwissenschaftler Shintaro Miyazaki sucht nach Antworten. Eine Bestandsaufnahme.
*
Artificial Artificial Intelligence oder schlicht AAI nannte das Unternehmen Amazon sein System, das gleichzeitig auch Mechanical Turk (Mturk) genannt wurde. Ginge es nach einem The-New-York-Times-Artikel (25. März 2007) des Tech-Journalisten Jason Pontin seien beides auch Wortschöpfungen des Chefs, Jeff Bezos, höchst persönlich. MTurk wurde im November 2005 aufgeschaltet und ist eine Onlinedienstleistung, die das Delegieren von Aufgaben etablierte, die wie Maschinen, das heißt schnell und effizient, aber nicht durch Maschinen, sondern von Menschen zu verrichten sind.
Amazon selbst entwickelte das Ganze im Zuge seines Kampfs gegen Doubletten im Warenangebot (damals vor allem Bücher): Die Gesamtmenge der zu überprüfenden Einträge wurde an eine größeren Anzahl unterbezahlter Klickarbeiter*innen verteilt, die sie dann dezentral abarbeiten sollten. Riesige Mengen an Dateneinträgen konnten so parallel und fast gleichzeitig verarbeitet werden. Ob diese parallele Datenverarbeitung nicht algorithmisch-maschinell, statt algorithmisch-MENSCHLICH prozessiert werden könnte ist in profitorientierten Unternehmen leider eine zweitrangige Frage.
Solange es rentabel bleibt werden solche Verfahren eingesetzt, denn ein Blick in die Geschichte der Computer zeigt, dass seit dem späten 18. Jahrhundert das Berechnen astronomischer Tabellen sehr lange durch maschinell-operierende Rechenarbeiter*innen durchgeführt wurde bevor diese Arbeit endlich durch mechanische und später elektronische Maschinen verrichtet werden konnte.
Die Geschichte des Mechanical Turk
Artificial Artificial Intelligence bildet ein abstraktes Wortspiel, das mit seiner Doppelung die Künstlichkeit der Künstlichen Intelligenz aufhebt und die natürliche Intelligenz von Arbeiter*innen, die sich hinter der Fassade einer KI versteckt, andeutet. Die Bezeichnung Mechanical Turk hingegen ist geschichtsreicher. Denn so wurde ab den 1770er-Jahren auch der vom österreichisch-ungarischen Hofbeamten Wolfgang von Kempelen konstruierter und durch zahlreiche Vorführungen europaweit bekannt gewordener Schachspielautomat, der später in den 1830er-Jahren durch Johann Nepomuk Maelzel auch in Boston, Philadelphia oder New York gezeigt wurde, genannt.
Der Automat erweckte den Anschein einer maschinellen Intelligenz repräsentiert durch eine in türkischer Tracht gekleidete Mannesfigur, die manchmal auch starke und erfahrene Schachspieler schlagen konnte. Eines der frühesten Texte des Schriftstellers Edgar Allan Poe „Maelzel’s Chess Player“ veröffentlicht 1836 entlarvte auf quasi-forensischer Art den Automat als eine Vorrichtung in dem sich ein menschlicher Schachmeister versteckte. Während sich Poe für die Rhythmik des Automaten interessierte und er daraus seine Nicht-Künstlichkeit ableitete, scheint für ihn der fremdenfeindlicher Aspekt im Namen „mechanischer Türke“ oder die Anspielung auf die Türkenkriege im Balkangebiet um 1800 keiner Erwähnung wert.
Erinnern wir uns, das das Wort Algorithmus ein halbes Jahrtausend früher aus derselben Mittelmeerregion stammt, das eben zu dieser Zeit von den Osamen beherrscht wurde. Jeff Bezos war sich zumindest des ersten Aspekts sicherlich bewusst, wurde doch das Verb „türken“ auch in der Englischen Sprache mit lügen oder vortäuschen in Verbindung gebracht. In dieser Lesart ist ein mechanischer, das heißt auch künstlicher “Türke”, selbst eine Täuschung, das heißt er ist eigentlich menschlich. Obwohl Bezos Anspielung anfänglich womöglich ironisch gemeint war, entlarvt sie sich heute wie viele gezeigt haben zunehmend als Zynismus eines skrupellosen Milliardärs und Profiteurs des KI-Kapitalismus.
Ausweg aus dem zynischen KI-Kapitalismus
Ungefähr hundert Jahre nach Poe, Ende der 1930er Jahre verfasst Walter Benjamin, der marxistische Philosoph, Historiker und Radiomacher seinen Essay „Über den Begriff der Geschichte“, der von mir interpretiert heute vielleicht einen Ausweg aus diesem realen Zynismus den wir KI-Kapitalismus nennen aufzeigt. Sein berühmter Essay beginnt nämlich mit der Beschreibung eines Automaten, „der so konstruiert gewesen sei, dass er jeden Zug eines Schachspielers mit einem Gegenzug erwidert habe, der ihm den Gewinn der Partie sicherte.“
Benjamin meint einen ähnlichen Schachautomaten wie jener von Kempelen, doch hier gewinnt stets die Maschine und wird im Innern von einem Zwerg bedient. Diese fiktive Situation dient ihm als kraftvolle Analogie, die aktueller denn je ist. Denn die Puppe in türkischer Tracht sei gleichzusetzen mit dem historischen Materialismus, so Benjamin weiter im Essay, und der Zwerg, der als Schachmeister stets gewinnt, mit der Theologie. Der Gegner ist natürlich der Kapitalismus zu Zeiten des Faschismus um 1940 in Deutschland.
Während der historische Materialismus sicherlich als anti-kapitalistische Theorie interpretiert werden kann, deute ich die Theologie freier als eine Wissenschaft des Übersinnlichen und der Offenbarung, die dabei auch sichtbar werden soll und nicht wie der Zwerg im Unsichtbaren bleiben muss. Das heißt für mich heute, dass der Kampf gegen den KI-Kapitalismus auch eine gleichberechtigte Mischung aus historischem Wissen, Ästhetik, Ethik, Marxismus, Utopismus, Fantasie etc. und aus Theorie und Praxis beinhalten soll und nicht stets auf direkten Handlungen oder rein sozialpolitischen Argumenten beruhen muss. Wenn nun weiter der gefälschte Schachautomat heute als Vorreiter der künstlichen, künstlichen Intelligenz aufgegriffen wurde und wir ihn im Kampf gegen den KI-Kapitalismus als Mahnbild der aktuellen Lage interpretieren, dann zeigt uns Benjamins Analogie eine Alternative.
Um zu gewinnen muss der Anti-(KI-)Kapitalismus Formen ästhetischer Praxis, Ethik starkmachen und vielleicht auch etwas Fantasie oder Poesie einsetzen, sonst bleibt er, wie die Puppe des Schachautomaten, ein rein mechanisches Konstrukt ohne Menschlichkeit. Weiterhin könnte man interpretieren bedeutet die Erhaltung dieser Menschlichkeit viel Arbeit. Arbeit, die sich aber lohnen würde, denn nicht nur wird der Zwerg sichtbar, sondern auch er kann sich emanzipieren. Das klingt alles überzeugend, aber auch etwas zu abstrakt und philosophisch.
Konstruktive Geschichtsschreibung
Benjamin meint das jedoch noch viel konkreter: Er plädiert für eine konstruktive Geschichtsschreibung der Unterprivilegierten und Verlierer*innen, die nicht vom Fortschrittsglauben geblendet wird, sondern sich gegen jene kulturelle Übermacht der Sieger und Privilegierten wendet, die die Vergangenheit als Zuspitzung ihrer eigenen Überlegenheit konstruiert. Jedes Detail ist wichtig, wenn es darum geht die Gegen-Konstruktion einer unterdrückten Vergangenheit herauszuarbeiten. Damit aber keine ungeschehene Dinge konstruiert werden, seien Chroniken und damals neue Medien wie die Fotografie und der Film sehr wichtig.
Begriffe wie „Stillstellung“, „Zeitraffer“ und „Blitz“ deuten darauf hin. Und sein für Medienleute berühmtester Essay „Das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit“, den er bereits 1935 schrieb und in dem er unter anderem eine Art aktivistische Filmtheorie entwickelte, macht den Film als forensisches Medium stark, das für Menschen optisch-unbewusste Welten aufzeichnen kann.
Das seit 2010 aus London operierende Kollektiv „Forensic Architecture“ arbeitet genau im Sinne Benjamins mit Filmaufnahmen und hilft bei der Neu- oder Gegenerzählung, Re-Konstruktion und Korrektur falscher Tatsachendarstellungen und Geschichtsschreibungen. Im Jahr 2015 analysierte die Gruppe in Zusammenarbeit mit Amnesty International mit dem Mobiltelefon erstellte Videos Hunderter Bombenexplosionen, die alle am 1. August 2014 in der Stadt Rafah in Gaza aufgenommen wurde. Durch die Analyse der Form und Bewegung der Bombenwolken, die in den Aufnahmen festgehalten wurden, konnten die Forscher Hunderte der israelischen Schläge auf die Stadt lokalisieren und detailliert kartieren. Damit deckten sie eine bis dahin geheime israelische Militärrichtlinie auf und bewirkten ihre Einstellung.
Neue politische Potentiale
Während Regierungen, Behörden etc. noch oft mit Texten, Tabellen, Fotografien und Videoaufnahmen arbeiten und argumentieren, kamen mit dem Aufkommen des Computers weitere Medien, Mittel und Systeme ins Spiel, die nicht nur Daten speichern und übertragen, sondern vor allem prozessieren, filtern und modellieren: algorithmische Verfahren, das Internet, soziale Netzwerke, Datenverarbeitung, künstlich neuronale Netzwerke und so weiter. Hier scheint mir das Konzept des Computermodells besonders wichtig, weil darin sowohl Eigenschaften des Films als auch jene von Literatur einwandern und gleichzeitig das Ganze auf technowissenschaftliche Fakten und Mechanismen basiert.
Der Medienwissenschaftler Claus Pias schreibt im Beitrag „Zur Epistemologie der Computersimulation (2012)“, dass das Wissen von Computermodellen und Simulationen „immer mit einem hypothetischen Index versehen“ ist. Computermodelle basieren auf real gespeicherte Daten, sie erlauben darüber hinaus die Zeitmanipulation der modellierten Prozesse. Man kann sie schneller, langsamer und mit anderen Anfangswerten oder anderen Verhaltensweisen laufen lassen und damit mit viel Glück zukünftige Ereignisse oder Verhaltensweisen vorhersagen. Modelle werden wie Geschichten konstruiert. Zugespitzt formuliert, behaupte ich, dass ein Modell operativ gewordene Geschichtsschreibung ist. Modellieren verschiedene Leute aus verschiedenen Interessen dasselbe Problem unterschiedlich, entsteht ein kompliziertes Geflecht an Meinungen, wobei hier Beschreibung, Erklärung und Fiktion „experimentelle Verbindung[en]“ eingehen.
Modelle bestehen aus Daten und Algorithmen, die gespeichert und programmiert wurden, um einen Prozess nicht nur aufzuzeichnen, sondern auch wiederholbar und damit beobachtbar und gleichzeitig veränderbar zu machen. Und genauso wie Benjamin für politisch-kritische Filmkunst plädierte, plädiere ich für eine politisch-kritische Kunst der Computermodellierung, die wichtige Verfahren im KI-Kapitalismus, wie etwa das Microtargeting in sozialen Netzwerken oder die Funktionsweise von Plattformen wie MTurk re-modelliert und so nachvollziehbar macht. Solche Modellierungsversuche beschränken sich aber nicht nur auf KI: Man kann damit auch künstlich künstliche Intelligenzen, AAI, modellieren. Wozu? Um Raum für Gegen-Modelle zu eröffnen. Im Vergleich zu Film ergeben sich damit neue politische Potentiale.
Human Computers
Die Arbeiten des französischen Künstlerkollektivs RYBN sind hier wegweisend für eine andere Form von Aktivismus, die sich nicht direkt mit dem Problem befasst, es aber indirekt umso genauer analysiert und damit Raum für Reflexion bietet. Ihr Projekt Human Computers (2016-) ist eine Installation zur Arbeit im Zeitalter des KI-Kapitalismus. Sie setzt bei den Anfängen der Arbeitsteilung und Gaspard de Pronys Idee der Herstellung logarithmischer Tabellen durch menschliche Computer im achtzehnten Jahrhundert an, zeigt Bilder des Schachautomaten und befasst sich mit den Arbeiten von Charles Babbage, den Bewegungsstudien im Kontext des Taylorismus, weiteren menschlichen Computern bis etwa 1950 und endet schließlich mit aktuellen Aspekten der künstlichen Intelligenz, intelligenter Dienste und Gig-Ökonomien. Das letzte Thema wird mit AAI Chess vertieft, das Mturk und vor allem dessen marktartiges Angebots-Nachfrage-Netzwerk zwischen “Anforderer” und “Arbeiter” untersucht. AAI Chess zeigt entweder laufende Live-Aktivitäten, die direkt in Echtzeit und durch eine Online-Verbindung mit MTurk generiert werden, oder Aufnahmen früherer Interaktionen und ist eine künstlerische Persiflage von Mturk.
RYBNs Vorgehen ist aufschlussreich, weil es nicht nur das Lesen von Literatur, auto-ethnographische Beobachtungen und investigative Anfragen über die MTurk-Plattform umfasst, sondern auch das Programmieren und Gestalten eines Modells, das es ihnen erlaubt, die Plattform nachzustellen, zu testen, zu erforschen und zu erproben. Diesen Ansatz nenne ich kritische Re-Modellierung. Dadurch konnten sie das Innenleben von MTurk und ihre Marktstruktur verstehen. Die spielerische-ironische Konnotation von MTurk wird in Frage gestellt. Gleichzeitig werden damit die konkreteren, damit verbundenen Arbeitsprozesses aufgezeigt.
AAI Chess setzt eine ganze Kette von Aktionen in Gang, die ein System schafft, das über eine Online-Verbindung mit MTurk verbunden ist und registrierte Online-Mitarbeiter auffordert, den nächsten Zug einer Schachpartie durchzuführen, die ihnen visuell in ihrem Browser angezeigt wird. Jeder Schachzug im AAI Chess wird stets von einem anderen Arbeiter ausgeführt, so dass jeder Fernarbeiter, der vor seinem Computer oder Smartphone sitzt, nur für einen Schachzug bezahlt wird, wobei die Preise zwischen einem und zehn US-Cent liegen. Je länger die angeforderte Aufgabe aussteht, desto mehr Wert erhält sie. Die Dauer eines Zuges reicht von 30 Sekunden bis zu fünfzehn Minuten oder sogar mehrere Stunden. Sequentiell analysiert erzeugen diese Züge verschiedene Rhythmen algorithmisch gesteuerter Mikroarbeit. AAI Chess provoziert damit den Besucher auch über die Auswirkungen von Unternehmen wie Amazon auf die täglichen Rhythmen der Arbeit zu reflektieren.
Wir müssen wieder träumen lernen
Auf solche und ähnliche künstlerische Arbeiten basierend müssten nun Gegen-Modelle programmiert, entwickelt und verbreitet werden, was aktuell noch erprobt werden muss. Es gibt dafür aber genug Ansätze und Hinweise etwa in der alternative Gaming-Community. Einfache Spiele wie Butterfly Soup (2017), das im Jahr 2008 spielt und das komplizierte Teenagerleben von vier asiatisch-amerikanischen Mädchen thematisiert oder auch die kritischen Spiele von Molleindustria sind hier gemeint.
Vielleicht programmiert ja eine neue Generation kritischer Aktivist*innen eine Reihe von fantasievollen Spielen, die etwa den Aufstand heroischer MTurk-Arbeiter*innen und die erfolgreiche Formation einer Mikroarbeiter-Genossenschaft minutiös als Rollenspiel einprogrammiert, utopische Romane wie Bolo Bolo oder Horst Stowassers Plan A als freies Multiplayer-Langzeit-Rollenspiel modelliert? Vielleicht wird damit eine begeisternde Welle anti-kapitalistischer, selbstbestimmter, gemeinschaftsorientierter und datenschutzkonformer Digitalkultur ausgelöst und Netzwerke wie der Chaos Computer Club finden größeren Zulauf auch von jungen Frauen und POCs. Programmierer*innen und Technologie begeisterte organisieren sich in Genossenschaften und kooperieren mit Nachbarschaften und Kommunen. Dies alles wären erste Schritte um der Vergrößerung der digitalen Kluft zwischen jenen, die sich die Technologien und Bandbreiten leisten können und jene, die sich diese nicht leisten können entgegenzuwirken.
Statt immer die neusten und teuersten Geräte zu kaufen, könnten sie auch repariert und nachhaltig verwertet werden. Wir müssen wieder träumen lernen und uns vor lauter Kritik an den katastrophenartigen Zuständen nicht von der geschmacklosen Fantasie kalifornischer Großunternehmen, Profiteure und Treiber der Digitalisierung überrollen lassen, sondern eigene, gewollte, sozial-nachhaltige Gegen-Fantasien entwickeln. Dabei schlage ich nicht vor, sich von der Technologie abzuwenden, sondern sie aktiv abzuändern und umzudeuten. Dafür erachte ich die Fähigkeit, die Umwelt (auch die technologische) durch Computermodellierung zu verstehen und sie dann gemeinschaftlich demokratisch zu gestalten als grundlegend. Wichtig dabei wäre das Können und der Wille Komplexität, Widersprüchlichkeit und Chaos gewaltlos, aber mit Konflikten auszuhalten. Auch ist die Bereitschaft notwendig, einige der für gut erachtete Träume aufzugeben und andere zu träumen. Der falsche Glauben, dass Maschinen, Algorithmen, Computermodelle die Realität, Wahrheit oder Wirklichkeit repräsentieren, muss verworfen werden.
Anm. d. Red.: Der Autor des Beitrags wird an der Berliner Gazette-Konferenz “Silent Works. The Hidden Labor in AI-Capitalism” teilnehmen.
Geschmacklose Fantasien kann man mit geschmackvoller Authentizität ersetzen. Eine gemeinschaftsorientierte, demokratische Digitalkultur, von der jeder profitiert, individuell und mündig entscheidet, ob und wie er sich beteiligt, wäre wünschenswert und darf keine Vision bleiben. Vermeintliche Visionäre mit asozialem Habitus, wie im Beitrag treffend formuliert gibt es zu viele.
Danke für den Kommentar mit dem ich vollkommen einverstanden bin! Es soll nicht nur bei Visionen bleiben!