In der digitalen Welt geht es immer wieder um Nachhaltigkeit und Autonomie. Zu Recht. Doch die Diskussion wird den wichtigen gesellschaftspolitischen Problemen nicht gerecht, wenn Ethik dabei zum Etikett verkommt. Berliner Gazette-Herausgeber Krystian Woznicki fordert stattdessen, Ethik als eine fortlaufende Suche nach dem Richtigen zu begreifen, die alle Annahmen in Zweifel zieht und auf schnelle Lösungen verzichtet.
*
Startup-Gründer mit einem ethischen Anspruch – gibt es das eigentlich? „In meinem Jahrgang habe ich niemanden getroffen, mit dem ich über Ethik sprechen konnte“. F. hat in Europa eine Elite-Uni besucht. „Da waren die besten der Besten“, sagt er. „Alle wollten, wie ich, Programmierer werden, viele hatten auch den Wunsch eine eigene Firma zu gründen, doch keiner von ihnen hat auch nur im Ansatz daran gedacht, etwas Ethisches zu machen. Für mich ist das unvorstellbar.“ Dann erzählt er, wie er auf die Idee kam ein Produkt für das Gesundheitswesen zu entwickeln. Software für Krankenhäuser, die Früherkennung für eine weit verbreitete Krankheit ermöglicht. In Berlin gründete er mit dieser Idee ein Startup. Ist das eine ethische Firma? Ich frage nach.
Was ist mit den Patientendaten? Habt ihr da eine Policy? Was ist mit Datenschutz und mit Security im allgemeinen? Habt ihr daran gedacht? F. guckt mich an und lässt mich weiter sprechen. Ich erzähle von einem Startup aus Süddeutschland. Ich habe den Gründer mal auf einem Chaos Computer Congress getroffen, dann zu der BG-Konferenz Slow Politics eingeladen, so habe ich die Welt der MedTech ein bisschen kennengelernt und grob verstanden, was es bedeutet, Datenschutz und Security für Anwendungen im medizinischen Bereich zu entwickeln. Vielleicht sollte ich Euch mal zusammenbringen?, frage ich. Doch das Gespräch entwickelt sich in ein andere Richtung, nun geht es um Nachhaltigkeit.
Sehnsucht nach Harmonie
„Sustainability“ scheint ein beliebtes Schlagwort zu sein, hier, im „Berlin Valley“, wie das gleichnamige Blatt der Gründerszene den europaweit wohl wichtigsten Knotenpunkt für Startups nennt. Manche tun so als wäre es ein Zeichen von Haltung, dass man hier aktiv wird. Denn Berlin Valley gilt als eine Alternative zum Silicon Valley. Es steht für eine Zukunft jenseits des Raubtierkapitalismus à la Alphabet, Facebook und Amazon. So kommt die Rede von Nachhaltigkeit wie selbstverständlich auf, wenn es um unternehmerische Visionen in der hiesigen Digitalbranche geht. Doch was ist nachhaltig? Die Antwort, die viele darauf finden, lautet: Lebensmittel, die in der Region angebaut werden. Mülltrennung. Oder selbstgemachte Möbel.
In der Digitalbranche setzen manche offenbar auf „Öko“. Das ist interessant. Doch macht das schon nachhaltiges, beziehungsweise ethisches Unternehmertum aus? Oder ist es eher eine Veredelung des Lebens im Geiste der Lohas, die zwischen Technikbegeisterung und Naturverbundenheit keinen Widerspruch erkennen wollen, sondern einen neuartigen Einklang suchen? Eine solche Harmonie steht nicht nur für das Versprechen, jene Extreme miteinander zu versöhnen, die drohen unsere Welt auseinanderbrechen zu lassen, sondern auch dafür, Nachhaltigkeit zu fördern. Doch wer ist an diesem Projekt aktiv beteiligt und wer nutzt es um sustainability washing für seine Firma zu betreiben?
In der Digitalbranche stellt sich jedoch noch eine andere wichtige Frage: Was ist mit digitaler Nachhaltigkeit? Was ist mit Umweltschutz und „grüner“ Denke im Netz? Was ist mit Mülltrennung 2.0? Das scheinen keine Themen zu sein. „Öko“ soll, so scheint es, ein offline-Anliegen bleiben, gegenbenenfalls digital-gestützt. Aber das war’s. Sonst wird es ungemütlich, weil wir dann über die Politik von Software, Netzwerken und Galsfaserkabeln reden müssten. Doch kann man das überhaupt außen vor lassen?
Eines der Anliegen des Berliner Gazette-Jahresprojekts Ambient Revolts besteht nun gerade darin, zu erkunden, warum genau das – also das Trennen von Öko-Online und Öko-Offline – heute nicht mehr geht, und was es bedeutet, dass ein Öko-System entstanden ist, in dem Menschen, Dinge, Natur und Computer miteinander verwoben sind. Schließlich herrscht heute ein Zustand der allumfassenden Vernetzung vor. Alle können sich (potentiell) mit allen und allem verbinden. Somit sind Massen nicht nur potentiell offen und entgrenzt, sondern verweben sich als solche in einem erweiterten Öko-System. Jenes umfasst nicht nur Menschen, sondern ebenso Gegenstände (Smartphones, Autos, Straßenbahnen, etc.), zusehends auch immaterielle Güter (Bilder, YouTube-Videos, etc.) sowie selbstlernende Systeme (Künstliche Intelligenz, etc.). Dieses techno-soziale Öko-System nimmt in Austauschprozessen zwischen Objekten und Subjekten sowie in einer Reihe von Feedbackschleifen Gestalt an. Es ist dabei in ständiger Bewegung begriffen.
Wer trifft Entscheidungen?
Wir stehen somit vor neuen Herausforderungen. Wer einen humaneren Kapitalismus schaffen, die Weltwirtschaft regulieren möchte oder gar den Post-Kapitalismus einläuten will, sollte präzedenzlos komplexe Dynamiken der Vernetzung und Entgrenzung in Rechnung stellen. Damit rückt das Netz des Kapitalismus als ein allumfassendes Netz des Lebens ins Blickfeld, die Capitalocene, wie der politische Denker Jason W. Moore die aktuelle Ära in Abgrenzung zum Anthropozän nennt. In diesem techno-sozialen Öko-System ist Kapitalismus überall, quasi-automatisiert und ein integraler Bestandteil der Atmosphäre geworden. Wir kennen das Gefühl gut: die Routinen des Alltags sind so selbstverständlich, dass sie kaum Raum für Alternativen lassen oder die Vorstellung, dass es auch ganz anders gehen könnte.
Hat Ethik in diesem techno-sozialen Öko-System überhaupt noch einen Platz? Die Frage nach dem richtigen Leben und Handeln scheint sich erledigt zu haben, weil längst „Empfehlungen“, „Prognosen“ oder „selbst-lernende Verfahren“ uns solche Entscheidungen abgenommen haben. Und weil Politik im molekularen Bereich im Stile atmosphärischer Modulierungen stattfindet – das Homeland Security-Programm der USA zum Beispiel arbeitete seinerzeit mit wechselnden Farb-Codes – und damit auf einer kaum mehr wahrnehmbaren Ebene operiert, die sich demokratischen Interventionen entzieht. Doch es regt sich Widerstand.
„Reclaim Autonomy“ fordert beispielsweise der Journalist Jakob Augstein in seinem neuen Buch. Das klingt vernünftig. Doch um wessen Autonomie geht es hierbei genau? Wer will sich etwas zurückholen? Geht es um „uns“ alle? Oder um ein „Uns“, das aus einem kleinen Grüppchen der Erdbevölkerung besteht? Wer war jemals autonom – also, sagen wir, selbstbestimmt – und wer ist es heute nicht? Wenn man sich umschaut, wird schnell klar, dass Autonomie vor allem immer zwei Ausschlusskriterien kannte: Geschlecht und Rasse. Weiße Männer durften, ja, sollten, autonom sein. Alle anderen hatten das Nachsehen. Das ist heute nicht anders.
Zu groß für Big Tech?
Wenn wir in Zeiten der Künstlichen Intelligenz mehr (menschliche) Selbstbestimmung und damit auch einen Raum für Ethik im techno-sozialen Öko-System fordern, dann muss man nicht nur fragen, ob so etwas im Angesicht der Totalautomatisierung des Lebens überhaupt noch geht, sondern auch, wer selbstbestimmt, autonom und ethisch denken und handeln soll – dürfen das auch Frauen und People of Color?
Das sind große Fragen. Sind sie etwa zu groß für Big Tech? Zu groß für eine tendenziell größenwahnsinnige Branche, die vorgibt, die Welt verändern zu können? Sicherlich, die Digitalbranche spielt aufgrund ihres rapiden Wachstums eine besondere Rolle – ökonomisch, gesellschaftlich, politisch, kulturell und eben auch ethisch. Die Digitalbranche ist die treibende Kraft im techno-sozialen Öko-System. Akteure dieser Branche setzen sich mühelos über Gesetze hinweg, ohne neue Gesetze zu initiieren, die für das Öko-System wegweisend sein könnten. Bei alledem gibt es keine Anzeichen, dass Diskriminierung auf der Basis von Geschlecht und Rasse abgebaut würde. Im Gegenteil. Wie viele aktuelle Studien zeigen, sind Algorithmen alles andere als frei von diskriminierenden Kriterien. Die algorithmische Diskriminierung trifft potentiell alle – doch nicht alle gleich. Wer bislang in der Menschheitsgeschichte das Nachsehen hatte – also vor allem Frauen und People of Color – wird heute ungleich härter getroffen.
So gesehen ist das Reden über Algorithmus-gestützte Früherkennung von Krankheiten in einem auf KI basierenden Gesundheitswesen von großer Selbstzufriedenheit getragen. Das ist es insbesondere dann, wenn Diskriminierungsfragen nicht auf den Tisch kommen. Letztlich ist das auch ein Symptom für die Blindheit der unternehmerischen Klasse, die aus den letzten Krisen des Kapitalismus nicht wirklich etwas gelernt hat und höchstens dann mal „Ethik“ und „Nachhaltigkeit“ als Bildschirmschoner oder als Arbeitsatmo programmiert. Es ist daher nicht verwunderlich, dass auch viele zentrale Fragen aus aktuellen gesellschaftspolitischen Diskussionen in der Gründerszene unberücksichtigt bleiben – selbst oder gerade dann, wenn bei MedTech-Innovationen „Ethik“ und „Nachhaltigkeit“ im Raum sind.
Beispielsweise die Frage, wie es um die Privatisierung der Gesundheitspflege steht. Was wenn nur Privatkunden und Leute mit einem höheren Einkommen, die algorithmischen Früherkennungsdienste in Anspruch nehmen können? Welchen Effekt hat die langwierige Umstellung der Krankenhäuser auf KI-Systeme die allgemeine Ungleichheit im Bereich der medizinischen Versorgung? Wird KI-gestützte Medizin etwas für alle? Oder wird der Kreis der Nutznießer noch kleiner, wie Evgeny Morozov in seinem Beitrag zu “Reclaim Autonomy” befürchtet? Kann ein KI-Unternehmen auf solche Fragen überhaupt Antworten finden? Ich meine, zumindest sollte man es versuchen. Ethik ist kein Etikett, sondern ein Prozess.
Ein unlösbares Effizienzproblem
Nur weil ich mich als Startup-Gründer mit Gesundheit beschäftigte, anstatt, sagen wir mit einem Genussmittel wie Bier, verleiht mir das noch lange nicht den Ethik-Orden. Gesundheit ist nicht an sich ethisch. Bier ist nicht an sich unethisch. Vielmehr gilt es, eine medizinische Software oder eben eine Software zur Erstellung von künstlichem Bier zu einem ethischen Anliegen zu machen. Was bedeutet es, in der einen oder anderen Sache, richtig zu handeln? Bedeutet es Gleichheit zu fördern oder nach monetärem Gewinn zu streben? Wie lassen sich beide miteinander vereinbaren, wenn überhaupt?
Es kommt darauf an, was ich aus einer Anwendung oder einem Angebot mache, ob und wie ich mich mit den ethischen Fragen auseinandersetzte und wie ich im Zuge dessen daraus etwas machen kann, das einer ethischen Befragung standhält. Dazu muss ich die ethischen Fragen selber aufwerfen, stellen, durchdringen, bearbeiten und so weiter. Der Ausgang ist offen. Diese Offenheit des Prozesses widerstrebt der Lösungslogik der Digitalbranche. Hier, wo es für alles immer eine technologische Lösung geben soll, wirft eine fortlaufende Auseinandersetzung mit ethischen Fragen ein schier unlösbares Effizienzproblem auf. Das ist aber notwendig und gut so.
Ethik, das ist learning by doing im techno-sozialen Öko-System. Irgendwann sollten wir damit anfangen. Dieses Irgendwann könnte jetzt sein. Hier und jetzt im Berlin Valley. Oder ist es dafür schon zu spät? Die Andersartigkeit der hiesigen Szene, die Potentiale für ethisches Unternehmertum verspricht, entpuppt sich als hohle Phrase, wenn alle doch nur auf den einen Exit hinarbeiten: von Alphabet oder irgendeinem anderen IT-Giganten aus dem Silicon Valley aufgekauft zu werden. Nachhaltigkeit und Ethik spielen dann auch keine Rolle mehr, beziehungsweise sind – weitgehend sinnentleert – zu weiteren Features des Veräußerungsobjekts geworden.
Anm.d.Red.: Das Buch „Reclaim Autonomy“ ist soeben im Suhrkamp Verlag erschienen. Das Foto oben stammt von Marc Dalmulder und steht unter einer Creative Commons-Lizenz.
Da wird allerlei Schindluder getrieben mit Image-Sachen, etwa das Coworking-Prinzip mißbraucht um Immobiliengeschäfte zu machen, wie man hier über WeWork aus den USA lesen kann:
“so wie Starbucks inzwischen weltweit alteingesessenen Caféhäusern Konkurrenz macht, breiten sich auch Coworking-Ketten wie Mindspace und WeWork aus. Als die Amerikaner im vergangenen Jahr nach Deutschland kamen, schimpfte Ansgar Oberholz über die „Kommerzialisierung des Coworking“. Die großen Ketten würden Coworking nur als Marketingetikett benutzen, um teure Büroeinheiten zu verkaufen und den Mietern einen „Distinktionsgewinn“ zu vermitteln. ”
[…]
„Jedes Bürogebäude in einer Stadt ist unser Konkurrent“, sagt der Zweimetermann und frühere Basketballer McKelvey. Denn das Unternehmen agiert inzwischen auch als moderner Immobiliendienstleister, der von der Standortsuche bis zum Gebäudemanagement alle Aufgaben übernimmt. So managt der Konzern für IBM ein ganzes Gebäude im New Yorker Stadtteil Greenwich Village oder betreibt die Büros von Amazon in Boston oder Airbnb in Berlin. Zudem arbeitet das Unternehmen sogar als Berater. „Wir helfen auch bei der Umgestaltung von traditionellen Firmenzentralen“, sagt McKelvey.”
hier noch die Quelle: https://www.tagesspiegel.de/wirtschaft/coworking-riese-wework-ein-schreibtisch-in-den-metropolen-der-welt/20517292.html
Es mag Ethikwashing sein, ABER:
– Es gibt Menschen, die nicht die notwendigen sozialen Kompetenzen haben, über solche Fragen zielführend nachzudenken, trotzdem aber gute Softwareentwickler sind. Sie tun – für ihre Kompetenzen – das sozialste, was sie können. Sie könnten auch Waffensysteme entwickeln, da würde sie niemand mit sozialen Fragen überfordern.
– Eine KI zur Krankheitsfrüherkennung NICHT entwickeln, obwohl man sie entwickeln könnte, ist unsozialer als sie zu entwickeln bei gleichzeitigem Verzicht auf den totalen Masterplan zur Rettung der Welt.
Ich sehe hier vielmehr eine typisch deutsche Forderung: Wenn etwas neues entwickelt wird, MUSS es sofort in seiner ersten Version absolut perfekt sein – ethisch, technisch usw.
Mit diesem Ansatz scheitert diese Kultur seit über einem Jahrhundert. Realistisch wäre, sich darüber zu freuen, dass überhaupt etwas positives passiert und es dann iterativ zu verbessern. Stattdessen wird gehasst, was nicht perfekt ist.
“Ethik als eine fortlaufende Suche nach dem Richtigen”
Was ist “das Richtige”?
Wer beispielsweise auf https://www.abfindunginfo.de/kundigung-entlassung-abfindung.html mal das Video und die Links darunter verfolgt, stellt schnell fest, dass es sehr verschiedene Sichten auf “das Richtige” gibt.
“Software für Krankenhäuser, die Früherkennung für eine weit verbreitete Krankheit ermöglicht”, das kann – so wie es Krystian Woznicki – will, eine höchst ethische Leistung sein… Fast alle Pharmafirmen nehmen auch für sich in Anspruch, den Menschen helfen zu wollen, doch wie ethisch sind sie wirklich? Tun sie nicht auch das Richtige (aus der Sicht Ihrer Anteilseigner), wenn der Profit das Maß aller Dinge ist…?
Ethik zu suchen in Zeiten neoliberaler Umwälzungen ist eine Herausforderung, bedient meines Erachtens gar die komplette Bandbreite von Satire bis hin zu Zynismus. Du musst es verkaufen können. Und darin liegt auch das Problem.
Die Rahmbedingungen aber auch Prägungen der letzen Jahrzehnte sind da gänzlich gegenläufig. In so einem Umfeld bleibt das eher Utopie. Google hat sein Credo “don’t be evil” zu ” do the right thing” verwässert. Es ist schon nicht immer einfach immer gut und böse zu unterscheiden, aber was wer will die Instanz sein, das einzig “Richtige” zu kennen und dem dann auch noch zu folgen?
Ein erster Schritt wäre meiner Meinung nach, ein ganz klares Bekenntnis wieder hin zum Ordoliberlismus vielleicht auch eine sozialistisch, demokratische Ordnung. Diese kann die wirtschaftlichen aber auch gesellschaftlichen Rahmen schaffen, ethische Unternehmen zu fördern und hervorzubringen.
“Wie viele aktuelle Studien zeigen, sind Algorithmen alles andere als frei von diskriminierenden Kriterien. Die algorithmische Diskriminierung trifft potentiell alle – doch nicht alle gleich.”
Würde mich über Links zu den Studien freuen, die Sie hier erwähnen :)
@#6: Hier wären ein paar Quellen auf die Schnelle:
Ethical Implications Of Bias In Machine Learning
https://scholarspace.manoa.hawaii.edu/bitstream/10125/50557/1/paper0670.pdf
Is “Big Data” racist? Why policing by data isn’t necessarily objective
https://arstechnica.com/tech-policy/2017/12/is-big-data-racist-why-policing-by-data-isnt-necessarily-objective/2/
Big Data and Racism
https://www.fordfoundation.org/ideas/equals-change-blog/posts/can-computers-be-racist-big-data-inequality-and-discrimination/
@#6: in Ergänzung zu den Links, hier noch der Hinweis auf eine Konferenz:
Coded Matters: Big Bias
How is it possible that a ‘smart’ soap dispenser does not recognize a black man’s hand? Why are predictive policing outcomes often pre-determined against minorities groups? Coded Matter(s): Big Bias is an evening program with talks and a closing lecture-performance that introduces audiences to the data-driven processes and automated technologies that are radically changing our world. There is a widely held belief that the machines we use are neutral. But the data they learn with is often fake, incomplete or exclusionary. Rather than giving us new affordances of accessibility and connectivity the problems around fake news, predictive policing and racist twitter bots show that technology also amplifies, rather than rectifies, the inequalities that exist in our society.
These ‘smart’ technologies are already embedded within the interaction designs of internet platforms and commercial products and are quickly changing our systems of governance, policing and public services. Big Bias explores what role artists, designers, researchers and companies play in addressing these ethical issues. The first announced speakers are artist/queer-theorist Zach Blas (UK) and artist, coder and writer Mimi Onuoha (US), whose works are aimed at critically investigating and changing these developments.
Ticket Info
Date: 17 May 2018
Location: Vlaams Cultuurhuis de Brakke Grond
City: Amsterdam
Time: 20:00 – 23:00
Doors: 19:45
Price: 16 | Students 12
More info: https://www.codedmatters.nl/event/coded-matters-big-bias/