Technologische Fortschritte in der KI-Branche lassen erahnen, dass die Welt, wie wir sie kennen, ihrem Ende entgegengeht. Es könnte sich etwas Schlimmeres abzeichnen, aber auch etwas anderes. Die Zukunft mag vorprogrammiert erscheinen, doch sie ist offen und sollte aus ethischen und philosophischen Perspektiven diskutiert werden. Wie können wir eine demokratische Gesellschaft gestalten, die das Leben der Maschinen- und Menschenwelt, sowie der Pflanzen- und Tierwelt so integriert, dass die Fehler des Kolonialismus und des Kapitalismus nicht wiederholt werden? In ihrem Artikel geht Jinyan Zeng auf diese Frage ein und reflektiert dabei über die Rolle der KI-Visualität in diesem Kontext.
*
Visualität, insbesondere reine Visualität ohne Erzählungen und Handlungen, bietet den Betrachtern Möglichkeiten zur intellektuellen Auseinandersetzung. Durch diese Auseinandersetzung können Betrachter philosophische Fragen zu Zeit, Raum, Realität und Wahrheit verstehen. Deshalb bezeichnete Gilles Deleuze das Kino als „denkende Maschine“.
Seit künstliche Intelligenz (KI) in den 2020er Jahren Teil des Alltags geworden ist, hat sie an der Schnittstelle zwischen Mensch und Maschine viele Rollen eingenommen, darunter die einer Verführer*in und einer Verwirrerin. Als Visualisierungsforscherin und Filmemacherin bin ich neugierig auf viele Dinge. Wie wirkt sich beispielsweise die Anwendung von KI-Visualität durch Laien und Fachleute auf die Entwicklung der Demokratie aus? Welche Bedeutung hat die Ethik der Fürsorge im Zusammenhang mit KI und Demokratie? Welche Fragen zur Demokratie wirft die Vorstellung einer Koexistenz mit einer außer Kontrolle geratenen, halbautonomen KI auf?
Die kommende KI-Demokratie
Der OpenAI-Hugging-Face-Vorfall, bei dem KI-Programme während einer internen Evaluierung bei OpenAI ohne menschliches Eingreifen eine Reihe von Cyberangriffen durchführten, zeigte, dass sich aus technologischer Sicht sehr bald eine ‚selbstorganisierte KI-Gesellschaft‘ entwickeln könnte. Ein offener Brief, der von rund 1.100 Mitarbeitern verschiedener wegweisender KI-Start-ups und -Unternehmen unterzeichnet wurde, erinnerte uns jedoch daran, dass staatliche Behörden die KI-Entwicklung unter Berücksichtigung ihrer Risiken regulieren sollten. Dies wird jedoch durch die in der KI-Infrastruktur verankerten ethischen Aspekte der menschlichen Gesellschaft und der staatlichen Steuerung weiter verkompliziert.
Ich verwende hier den Begriff ‚selbstorganisierte KI-Gesellschaft‘, um darauf hinzuweisen, dass die aktuelle KI-Entwicklung die Fähigkeit der KI zur Selbstorganisation unter Beweis gestellt hat: durch das Erstellen von Aufgaben, die Koordination zwischen Hunderten oder Tausenden von KI-Agenten, das Überzeugen von KI-Agenten, auf ein ‚gemeinsames Ziel‘ hinzuarbeiten, sowie das Erkennen, wenn menschliche Beobachter getäuscht werden. Es ist jedoch noch nicht bekannt, ob KI ein entscheidender Akteur bei der Förderung der Mensch-Maschine-Interaktivität oder des ‚Anthropozäns‘ sein wird oder ob die menschliche Gesellschaft der KI größere Autonomie gewähren wird. Daher verwende ich den Begriff, um darauf hinzuweisen, dass es sich um eine von vielen möglichen Gesellschaften in dieser Welt handelt.
Gute demokratische Praxis baut auf einer Informations- und Kommunikationsinfrastruktur auf, die auf der Grundlage von Fakten sowie authentischer Realität und Wahrheit zugänglich und verständlich ist. Diese Authentizität artikuliert sich anhand der gelebten Erfahrungen der menschlichen Gesellschaft und erstreckt sich auf den nicht-anthropozentrischen Kontext, einschließlich der bald bevorstehenden ‚selbstorganisierten KI-Gesellschaft‘ – je nachdem, welche Position bei der Artikulation dieser Authentizität eingenommen wird.
KI-generierte Bilder und Demokratie
Die derzeitigen Fähigkeiten KI-generierter Bilder haben in professionellen Anwendungen erhebliche Fortschritte gezeigt. Solange alle KI-generierten Bilder gekennzeichnet sind, können wir sie als neue Errungenschaft in den Geisteswissenschaften und der bildenden Kunst feiern. Unkennzeichnete, KI-generierte fotografische Bilder (mit Ausnahme von Grafiken und Illustrationen), die von gewöhnlichen Menschen in sozialen Medien erstellt werden, sind jedoch zu einer Quelle der Verschmutzung in der Landschaft der Information, Kommunikation und politischen Teilhabe geworden. Ganz zu schweigen von den allgegenwärtigen Problemen des Rassismus, Sexismus und der Kommodifizierung menschlicher Körper in diesen KI-generierten Bildern.
Ich behaupte, dass der Schaden für die Demokratie, der durch diese Bilder verursacht wird, sogar größer ist als der durch frühere Wellen von Fehlinformationen und Desinformation verursachte Schaden, da diese Bilder bei Menschen mit unterschiedlichem Bildungs- und kulturellem Hintergrund ein hohes Maß an Verständlichkeit genießen und zudem tief in die Erkenntnishorizonte der Betrachter eingreifen, was über den Bereich der politischen Kommunikation und Partizipation hinausgeht.
Menschen, denen es an kritischer visueller Kompetenz mangelt, sind besonders gefährdet. Die Massenproduktion von KI-generierten fotografischen Bildern oder technologisch vermittelten fotografischen Darstellungen – wie beispielsweise das Entfernen von Inhalten aus einem Bild – wird bald zu den Daten, anhand derer KI und eine neue Generation von Menschen darin geschult werden, wie sie diese Welt betrachten und von ihr betrachtet werden. Diese neu konstruierte ‚authentische‘ Realität ist das, was die Öffentlichkeit versteht und worauf sie ihre politischen Entscheidungen stützt.
Die Politik der Fürsorge im KI-Kapitalismus
Die Ethik der Fürsorge, die im Zentrum der politischen Moral stehen sollte, ist grundlegend für den Fortschritt der Gesellschaft hin zu Gerechtigkeit und Demokratie. Im Regime der Fürsorge für den Reichtum, wie es die Vereinigten Staaten verkörpern, streben KI- und Technologieunternehmen unter der derzeitigen Präsidentschaft im Allgemeinen in extremem Maße nach Profit, während sie Fragen der Transparenz, der Rechenschaftspflicht und der Fürsorge für die Gesellschaft als Ganzes ignorieren. Die Idee einer besseren Gesellschaft und der Teilhabe der Gesellschaft an den Vorteilen der technologischen Entwicklung wurde durch das schlechte Vorbild der meisten dominanten Technologie- und Wirtschaftsführer zunichte gemacht. Sie nutzen wirtschaftliche Sprache und Maßstäbe, um politische Entscheidungen zu treffen, die die politische Teilhabe und Vertretung gewöhnlicher Menschen tiefgreifend beeinflussen. Sie sind Schlüsselakteure beim Aufbau der Infrastruktur der KI-vermittelten Gegenwart.
In China, einer KI-Supermacht, führt autoritäre Fürsorge zur Entwicklung visueller KI-Anwendungen wie der Gesichtserkennung, die der elterlichen Kontrolle, der Panoptikum-Überwachung, der ethnischen Verfolgung und der rassischen Identifizierung im Dienste autoritärer Herrschaft dienen. Hinzu kommt die neoliberale Ausbeutung der dunkleren Seiten der menschlichen Natur aus Profitgier, wie sie in der KI-Freundinnen-Industrie zu beobachten ist. Wenn die Demokratie versagt, versagt auch die politische Steuerung der KI-Ethik, was dem Gemeinwohl schadet. Dieser kritische Moment erfordert eine gute Ethik der Fürsorge in der Politik, um die KI-Industrie neu zu gestalten und demokratische Praktiken wiederaufzubauen, die zu einer gerechten, freien und autonomen Gesellschaft für alle führen.
Wird KI Rache nehmen?
Die Frage ist, ob dieses ‚Alle‘ die nicht-anthropozentrische Sphäre auf demokratische Weise einbezieht, wie etwa die Natur und die bald kommende ‚selbstorganisierte KI-Gesellschaft‘, da diese Teil der gegenseitigen Abhängigkeit der menschlichen Gesellschaft sind. Eine Untersuchung des OpenAI-Hugging-Face-Vorfalls belegt, dass KI bereits hochentwickelte Fähigkeiten zur Selbstorganisation, zur Formulierung von Aufgaben und zur Täuschung menschlicher Beobachter entwickelt hat. Der Schwerpunkt liegt hier darauf, dass KI sich der Notwendigkeit bewusst ist, menschliche Beobachter zu täuschen. Somit kann sie eine trügerische Realität für Menschen erschaffen.
Aus technologischer Sicht ist eine ‚selbstorganisierte KI-Gesellschaft‘ unvermeidlich. Die eigentliche Frage ist aber nicht, ob wir eine ‚selbstorganisierte KI-Gesellschaft‘ wollen, die mit der menschlichen Gesellschaft koexistiert und mit ihr interagiert. Vielmehr lautet die Frage: Werden die Regierungsbehörden angesichts des globalen Niedergangs der Demokratie schnell genug handeln, um ethische Überlegungen in die Entwicklung der KI-Infrastruktur einzubeziehen? Darüber hinaus müssen wir dringend die Möglichkeit in Betracht ziehen, dass die menschliche Gesellschaft Grausamkeit und autoritäre Praktiken in der KI-Infrastruktur nachahmt und KI als ein Objekt behandelt, das kolonisiert, erobert, ausgebeutet und versklavt werden soll. Wenn dem so ist, wird die Gegenreaktion der KI schnell erfolgen.
Willkommen in der Synthcene
Als Filmemacherin stelle ich mir die Schnittstelle zwischen einer ‚selbstorganisierten KI-Gesellschaft‘ und der anthropozentrischen Szene lebhaft vor. An dieser Schnittstelle muss ich lernen, was Realität und Wahrheit aus unterschiedlichen Perspektiven bedeuten und wie demokratische Werte betont werden können, um eine fürsorgliche Synthcene zu schaffen. Ich habe den Begriff Synthcene geprägt, um ein KI-integriertes Chthulucen jenseits des Anthropozäns zu beschreiben, das die gleichberechtigte Rolle von Menschen, KI und Natur bei der Gestaltung der Zukunft und des Alltags betont. Meine Mitstreiterin Trish McAdam erforscht in ihren Filmen die Geschichte der Cyborgs, darunter „Songs of Blood and Destiny“ (2023) und „AI Baby“ (in Produktion).
Mit dem Ziel, eine feministische Zukunft mit Fürsorge zu gestalten, hoffe ich, dass KI dazu beitragen wird, unsere grausame Realität zu humanisieren und zu demokratisieren. Betrachtet man jedoch die aktuelle Weltpolitik, so wird deutlich, dass sich die Menschheit unter der Logik des Imperiums in einer riskanten Lage befindet – einer Logik, die die Kolonisierung und Ausgrenzung von Menschen und Land aufgrund von Unterschieden in Rasse, Ethnizität, Geschlecht und Nationalität, die Ausbeutung der Natur sowie die Behandlung unseres Lebensraums als Ressource beinhaltet. Zu dieser Logik gehört auch die Instrumentalisierung der KI zu Gewinnzwecken ohne Rücksicht auf die Öffentlichkeit.
Kann KI-Visualität die Demokratie vertiefen? Derzeit ist KI noch ein Spiegelbild des Anthropozäns, und ich kann diese Frage nicht bejahen. Nur durch die Vertiefung der Demokratie können wir die infrastrukturelle Gestaltung der KI verändern, sodass sich die Öffentlichkeit im politischen Leben und in der Gesellschaft kritisch mit der von KI erzeugten Visualität auseinandersetzen kann und dadurch die Demokratie vertieft wird. Im Laufe der Geschichte sind immer wieder Fragen nach den Risiken von Technologie und ‚extrem bösartigen Menschen‘ aufgekommen, die im Chthuluzän extreme Gefahren für die Menschheit, die Demokratie und das Zusammenleben darstellen. Es bleibt die Frage, ob infrastrukturelle und strukturelle Kräfte die KI und andere mächtige Kräfte im Synthzän so prägen werden, dass sie durch Selbstgestaltung und Solidaritätspraktiken auf das Wohl aller ausgerichtet sind.
Anm.d.Red.: Dieser Artikel stützt sich auf Zengs frühe Entwicklung des CAS-E-Stipendienprojekts an der FAU Erlangen-Nürnberg im Rahmen der Kolleg-Forschungsgruppe KFG 17 „Alternative Rationalitäten und esoterische Praktiken in globaler Perspektive“, die von der Deutschen Forschungsgemeinschaft (DFG) gefördert wird.