Digitales Kōgai: Systemische Verflechtungen und strukturelle Ungerechtigkeiten in der KI-Polykrise

Im Januar 2026 hatten die Aktien von sieben der weltweit bekanntesten Technologieunternehmen eine Marktkapitalisierung von etwa 1 Billion US-Dollar oder mehr erreicht. Als die ‚Magnificent Seven‘ bezeichnet, wird ihr öffentliches Image diesem Namen kaum gerecht. Im Gegenteil. Unternehmen wie Tesla und Meta sind dafür bekannt, dem Gemeinwohl in vielerlei Hinsicht zu schaden. In ihrer Auseinandersetzung mit der KI-Polykrise greift Keiko Tanaka auf das in Japan entwickelte, jahrzehntealte Konzept des Kōgai zurück und reflektiert darüber, wie es uns hilft, unsere aktuelle Situation zu begreifen.

*

Nachdem ich mich über zwanzig Jahre lang damit beschäftigt habe, wie digitale Medientechnologien dem öffentlichen Interesse dienen können, ist es an der Zeit, das Konzept des Kōgai wieder aufzugreifen, das vor einem halben Jahrhundert vom Aktivisten, Wissenschaftler und Praktiker Jun Ui entwickelt wurde.

Der Begriff Kōgai wurde ursprünglich geprägt, um öffentlichen Schaden zu beschreiben. Heute passt er bemerkenswert gut zur aktuellen, beunruhigenden KI-Polykrise. Themen wie Arbeitsplatzverluste durch Automatisierung, die Beeinträchtigung der psychischen Gesundheit durch algorithmisch gesteuerte Feeds, untergrabene Demokratien, Deepfakes, explodierende Stromrechnungen und die Klimaauswirkungen von KI-Rechenzentren veranschaulichen, was ich als digitales Kōgai bezeichne.

Was ist Kōgai?

Der Begriff Kōgai bedeutete ursprünglich das Gegenteil von öffentlichem Nutzen oder öffentlichem Interesse und bezeichnete etwas, das dem Gemeinwohl schadet. Diese Idee entwickelte sich im Rahmen einer Bewegung, die gegen die Ungerechtigkeiten jener Zeit kämpfte, insbesondere gegen jene, die sich aus der raschen Modernisierung und Industrialisierung Japans in den 1950er- und 1960er-Jahren ergaben. Umweltzerstörung trat in dieser Zeit deutlich in den Vordergrund und wurde später als Ursache für Krankheiten erkannt. Es dauerte etwa ein Jahrzehnt, bis gesetzliche Maßnahmen und Hilfsmaßnahmen ergriffen wurden.

Die folgenden wesentlichen Merkmale des Kōgai sind auch heute noch relevant. Erstens bezeichnet der Begriff Schäden, die große Gruppen von Menschen und Gemeinschaften betreffen. Zweitens sind die Ursachen der Schäden oft zahlreich und schwer zu lokalisieren. Drittens ist es selbst dann, wenn eine Ursache identifiziert werden kann, äußerst schwierig, einen direkten Kausalzusammenhang zwischen dieser Ursache und dem Schaden herzustellen. Dies macht es nahezu unmöglich, gerichtlichen Rechtsschutz zu erlangen.

Diese Merkmale wurden in einem Bericht aus dem Jahr 1966 dokumentiert, der neurologische Lähmungen, qualvolle Knochenschmerzen und Atemwegserkrankungen untersuchte, die in Gemeinden in der Nähe von Industrieanlagen endemisch auftraten. In Anerkennung der Schwierigkeiten, mit denen die Betroffenen bei der Suche nach Rechtsbehelfen konfrontiert waren, ebnete der Bericht den Weg für die Entwicklung neuer rechtlicher Rahmenbedingungen.

Die Situation weist auffallende Ähnlichkeiten mit einigen Symptomen digitaler Schäden auf. Die meisten KI-Polykrisen treten endemisch in bestimmten Bevölkerungsgruppen auf (z. B. Probleme mit dem Körperbild bei Teenagern aufgrund sozialer Medien oder der Verlust von Arbeitsplätzen für Personen in stark routinierten manuellen oder kognitiven Tätigkeiten aufgrund von KI-Automatisierung), was dem ersten Merkmal entspricht. Die Schwierigkeit, die Ursachen digitaler Schäden zu identifizieren, wird seit langem diskutiert (z. B. die ‚Section 230‘-Debatte, das Konzept der ‚vielen Hände‘, die Datafizierung oder die Frage, ob die Verantwortung bei KI-Unternehmen oder bei Unternehmen liegt, die den Ausbau von KI-Modellen fordern). Nur in wenigen Gerichtsverfahren konnte ein Kausalzusammenhang erfolgreich nachgewiesen werden, was dem dritten Merkmal entspricht.

Jun Ui erläutert das Konzept von Kōgai weiter als Ergebnis der Priorisierung von Gewinnen gegenüber der Autonomie der Gemeinschaft. Shoji und Miyamoto wiederum beschrieben Kōgai mit folgenden Merkmalen: die Vorhersehbarkeit großflächiger Schäden durch die Erzeugung und Anreicherung von Schadstoffen; die Priorisierung von Gewinn gegenüber Sicherheitsmaßnahmen; die Förderung eines konsumorientierten Lebensstils; sowie eine Gesetzeslücke bei der Prävention. Infolgedessen beeinträchtigt Kōgai das tägliche Leben der Bevölkerung.

Glaubt noch jemand, dass die Verzweiflung einer Mutter über die Bildschirmabhängigkeit ihres Kleinkindes die Merkmale von Kōgai perfekt veranschaulicht, da der Gesetzgeber, die Mobilfunkunternehmen und die Inhaltsanbieter sich kaum um die Entwicklung von Kindern kümmern?

Das Kōgai-Paradigma vs. das Verschmutzungsparadigma

Obwohl Kōgai manchmal mit Umweltverschmutzung übersetzt wird, unterscheidet es sich paradigmatisch vom Konzept der Umweltverschmutzung. Diese Unterscheidung ist wichtig, da der Begriff auch mit Fehlinformationen und Desinformation in Verbindung gebracht wird, die als digitale Verschmutzung betrachtet werden könnten. Ich halte dies jedoch für eine falsche Diagnose des Problems.

Ein Artikel verwendet den Begriff „digitale Verschmutzung“, um auf die Gefahr hinzuweisen, die entsteht, wenn Hassreden und Trolle im Internet ignoriert werden. Der Artikel zieht eine Analogie zwischen dem Choleraausbruch im London des 19. Jahrhunderts und den heutigen unkontrollierten Falschinformationen im Internet und bezeichnet Letztere als „digitale Verschmutzung“. Unter Bezugnahme auf die Umweltverschmutzung während der Industriellen Revolution und den Bau des Abwassersystems als Lösung schreibt der Artikel: „Die Gesellschaft hat herausgefunden, wie sie mit den Abfällen der Industriellen Revolution umgehen muss. Das Gleiche müssen wir heute mit dem Internet tun.“

Ich halte das Paradigma der Umweltverschmutzung jedoch für problematisch. Es stellt Schaden als natürliches Nebenprodukt des Fortschritts dar – neutral, unvermeidbar und durch technische Innovation lösbar. Diese Erzählung stützt sich auf das bekannte Klischee des weißen männlichen Retter-Ingenieurs, während sie die lokalen sozioökonomischen Komplexitäten und die beteiligten Machtdynamiken ausblendet. Damit versäumt sie es, das Problem effektiv zu diagnostizieren, und reduziert ein vielschichtiges soziostrukturelles Problem auf eine bloße technische Lösung.

Jun Uis Kogai-Paradigma kritisiert genau dies und fordert die Einbindung der Gemeinschaft in den Prozess, ähnlich dem heutigen Prinzips der Design-Gerechtigkeit.

1992 schrieb Jun Ui: „Probleme, die durch eine zerstörte menschliche Umwelt verursacht werden, lassen sich nicht durch die bloße Anwendung einer technischen ‚Lösung‘ oder die Einführung neuer rechtlicher Strukturen lösen, die grundlegende lokale Unterschiede und die Notwendigkeit der Beteiligung der Opfer von Umweltverschmutzung am Problemlösungsprozess ignorieren. […] Der wichtigste Faktor für die Vermeidung von Umweltverschmutzungsproblemen ist die Entwicklung eines Bewusstseins für grundlegende Menschenrechte und die Notwendigkeit, stets frei von Unterdrückung zu bleiben, in der breiten Bevölkerung.“

Heute wissen wir, dass diejenigen, die digitale Umweltverschmutzung beseitigen, nicht die Ingenieure sind, die die Plattformen entwerfen, sondern vielmehr die Niedriglohnarbeiter*innen, die sie bereinigen. Der Dokumentarfilm „The Cleaners“ aus dem Jahr 2018 beleuchtete das Leben von Content-Moderator*innen auf den Philippinen, die täglich bis zu 25.000 Beiträge prüfen und dabei explizite Gewaltdarstellungen und Missbrauch erdulden müssen. Dies hat bei ihnen Traumata verursacht, die zu Depressionen und Selbstmord geführt haben.

Jun Ui stellte die These auf, dass jedem Kōgai Diskriminierung innewohnt. Dieses Phänomen bildet keine Ausnahme: Das Wohlergehen dieser Arbeitskräfte hat keine Priorität; vielmehr liegt der Fokus auf dem ununterbrochenen Fluss von Inhalten, der Gewinn generiert, und die Last wird unverhältnismäßig stark von denjenigen getragen, die am wenigsten Macht haben.

Kann KI das Problem lösen?

Man könnte argumentieren, dass diese Probleme gelöst werden, sobald KI-Modelle ausgefeilter werden. Betrachtet man jedoch die gesamte Lieferkette der KI-Entwicklung, so zeigt sich, dass sie nach dem gleichen Prinzip funktioniert.

In ihrem Vortrag über KI-Hype, Ethik und algorithmische rassistische Voreingenommenheit erörtert Timnit Gebru die Ungerechtigkeiten, die von den investigativen Journalistinnen Andrea Paola Hernández und Karen Hao aufgedeckt wurden. Diese fanden heraus, dass Datenannotatoren in Kenia Hungerlöhne erhalten, um schädliche Inhalte für KI-Unternehmen zu kennzeichnen. Diese Arbeitskräfte haben Mühe, ihre Kinder zu ernähren, und sind von Zwangsräumung bedroht. Dieselbe Logik gilt von den vergifteten Bauern der Ashio-Kupfermine bis hin zu den heutigen Content-Moderator*innen, Datenannotierer*innen und Gemeinden, die die Kosten für Rechenzentren tragen. Das ist kein Fehler im System – so funktioniert das System nun einmal. Wir müssen den gesamten Lebenszyklus der KI-Lieferkette betrachten (wie von Kate Crawford vorgeschlagen), von der Gewinnung über das Training bis hin zur Entsorgung. Wir müssen erkennen, dass Kōgai in jeder Phase wirkt – unsichtbar für diejenigen, die davon profitieren, und verheerend für diejenigen, die die Kosten tragen.

Jun Ui bietet ein weiteres eindringliches Prinzip an: „Es gibt keine Dritten bei Kōgai.“

Nach diesem Prinzip kann niemand echte Neutralität beanspruchen, wenn es darum geht, Schaden anzurichten. Er kritisierte scharf Expert*inneen, Regierungsbeamte und andere Fachleute, die sich als neutrale Beobachter*innen präsentierten, und argumentierte, dass sie fast immer letztendlich als Sprachrohre der Umweltverschmutzer*innen dienten. Sein Argument ging über privilegierte Autoritäten hinaus. Er argumentierte, dass der nächste Umweltverschmutzungsvorfall normale Bürger dazu zwingen würde, Partei zu ergreifen – entweder als Opfer oder als Täter. Seiner Ansicht nach besteht die gesamte Bevölkerung aus potenziellen Beteiligten an diesem Problem, da die Industriegesellschaft jeden in ihr Netz aus Produktion, Konsum und Abfall verstrickt.

Im Bewusstsein von Uis Warnung, dass Passivität an sich bereits eine Form der Mitschuld darstellt, versuchen viele von uns ihr Bestes, um aktiv zu werden – um dort Stellung zu beziehen, wo wir können, so begrenzt unser Einfluss auch sein mag.