• Bot und die Welt: Wer darf Autor sein? Wer hat Autorität? Wer ist Fake News?

    Wie entstehen Informationen und was sie erzählen sie über die Welt? Wie ist die Welt gebaut und welchen Platz haben wir in ihr? Wer darf Autor sein? Wer hat Autorität? Welche Rolle spielen Bots und Algorithmen? Dem Streit über Fake News liegen nicht zuletzt diese komplexen Fragen zu Grunde. Doch sie werden noch nicht annähernd diskutiert. Berliner Gazette-Herausgeber Krystian Woznicki unternimmt eine erste Bestandsaufnahme.

    *

    Wer heute Fake News sagt, empört sich auch ein stückweit über die Wirklichkeit, in der vieles in Unordnung geraten scheint, insbesondere im Hinblick auf Autorschaft und Autorität. Dieser Aspekt wird in der aktuellen Diskussion nicht ausreichend gewürdigt. Meistens liegt der Fokus darauf, unwahre Botschaften zu diskreditieren. Dabei wird grundsätzlich vorausgesetzt, dass es nur so etwas wie wahre Botschaften geben darf, ja: dass nur sie eine Existenzberechtigung haben.

    Doch gehört es nicht auch zur Demokratie darüber zu streiten, was wahr ist und was unwahr? Fake News ist heute auch ein Schlachtruf derer, die sich auf den Streit nicht einlassen wollen; Leute, die ihre Wahrheit gefunden haben, auch wenn ihnen letztlich nur soviel klar ist: dass sie die Wahrheiten anderer nicht akzeptieren können und wollen. Ob Trump-Befürworter oder Trump-Gegner.

    Insofern stimme ich auch der Technologie-Forscherin Danah Boyd zu, wenn sie in der Fake-News-Debatte sagt: „Wenn wir technische Lösungen für komplexe sozio-technische Probleme suchen, können wir uns nicht einfach aus der Verantwortung stehlen und ein paar Unternehmen beauftragen, die Brüche in der Gesellschaft zu kitten, die sie sichtbar gemacht und verstärkt haben.“

    Die Demokratierung der Falschmeldungen

    Der zentrale Grund dafür, dass die Idee von Fake News ein derart großes Ding werden konnte, dürfte vor allem die Vielfalt an Stimmen sein, die heute Aussagen über die Welt machen – und damit mal mehr, mal weniger energisch einen Anspruch auf Wahrhaftigkeit erheben. Falschmeldungen, Desinformationen und Propaganda im Allgemeinen haben Geschichte – doch heute sind es eben nicht nur die großen Institutionen und Autoritäten, die all das ‚wie selbstverständlich‘ in die Welt setzen können, sondern auch Max Mustermann, irgendein Algorithmus, ein gottverdammter Bot oder ein Whistleblower.

    Wir müssen also nicht nur das Neue des Phänomens Fake News in Frage stellen, sondern auch die veränderten Bedingungen, unter denen heute vermeintliche Wahrheiten in die Welt gesetzt werden. Beginnen wir die Suchbewegung im Alltag: Neulich hörte ich den Satz „Du bist Fake News“. Das ist eine Variante von „Ich Chef, Du nix!“; ein Satz, der jedoch weitergeht und dabei unsere Lage präzise auf den Punkt bringt.

    „Du bist Fake News“ sagt nicht einfach nur, dass Du ein schlechter Witz oder eine schlechte Nachricht bist, sondern eine nichtautorisierte Botschaft. Jemand, der das sagt, will nicht nur die Konfrontation (oder das Konfrontiert-Sein) nicht wahr haben, sondern dem Absender das Recht absprechen, überhaupt zu konfrontieren. Dem Gegenüber wird die Existenzberechtigung abgesprochen.

    Es ist eine Frage der Autorschaft, die hier im Raum ist. Konkreter, wie Autorschaft erlangt, bestätigt und behauptet werden kann. Wer darf sich herausnehmen, ein Autor zu sein? Die Rede von „Fake News“ will hier Klarheit schaffen, in dem sie eine Idee von Ausschluss in die Welt trägt. Doch Ausschluss ist hier nicht allzu klar definiert. Die Kriterien sind vage.

    Landkarte der Autorschaft

    Nicht alle (und nicht zu beliebigen Bedingungen) dürfen etwas über die Welt verbreiten. Zwei Verfahren stehen nun hier zur Diskussion: „top down“ und „gatekeeper“. Die beiden Verfahren hängen zusammen. Seitdem „top down“ nicht mehr gilt, seitdem alle irgendwie publizieren und sich Gehör verschaffen können, aber nicht einfach so sollen, ist die Funktion der gatekeeper mehr denn je in der Krise.

    Wir kennen diese Anliegen aus den Web 2.0-Debatten rund um Konfliktschauplätze wie Blogger vs. Journalisten. Doch die Vertrautheit sollte uns nicht bequem werden lassen. Wir müssen dennoch oder gerade deshalb fragen: Was ist neu, wenn heute Fake News gesagt wird? Wie werden damit Ausschlusskriterien für Autorität und Autorschaft aufgerufen?

    Wollte man heute eine Landkarte der Autorschaft zeichnen, müsste man auch Bots und Algorithmen (also allgemein: Maschinenintelligenz) sowie anonyme Quellen wie Whistleblower und Leaker berücksichtigen. Sicherlich, das ist kein angenehmer Vorgang, zumindest nicht für Leute, die an der Idee hängen, ein Autor sei der Repräsentant erhabener Subjektivität.

    Bots und Algorithmen sowie Whistleblower und Leaker – als erhabene Subjekte? Nein, danke! Aber vielleicht ist es an der Zeit diese überkommene Vorstellung zu erneuern. Es ist sehr offensichtlich, dass all diese Akteure nicht nur ein schlechter Traum sind, eben keine ‚Fake News‘ im Sinne einer frei erfundenen Nachricht, sondern, dass sie tatsächlich existieren – und dass sie gekommen sind, um für unabsehbare Zeit zu bleiben.

    Wem Gehör schenken?

    Dass wir uns daran gewöhnt hatten, ausschließlich erhabenen Subjekten Gehör zu schenken, also potenziellen Anwärtern auf den Nobelpreis oder angehenden bzw. amtierenden Demagogen – das ist ein Zustand, den wir im Zuge dessen ebenfalls hinterfragen sollten. Ich will noch nicht einmal sagen, dass wir unsere Idee von Erhabenheit und Subjektivität auf die Höhe der digitalen Gesellschaft bringen (das sicherlich auch), sondern schlicht und ergreifend, dass wir unsere Kriterien überdenken sollten: Wer bekommt meine Aufmerksamkeit? Wer nicht?

    Soll auch der Pegida-Follower oder der Asylssuchende gehört werden? Sollen wir auch Bots und Algorithmen sowie Whistleblowern und Leakern Gehör schenken? (Hier ist freilich aktives Hören gemeint.) Zugegeben, das sind alles sehr unterschiedliche Sprecherpositionen, man könnte sagen, dass sie sich nicht über einen Kamm scheren lassen. Doch der gemeinsame Nenner ist: Erstens, es handelt sich um emergierende und tendenziell gesellschaftlich schlecht repräsentierte ‚Sender‘. Zweitens, sie haben keine Autorität und haben entsprechend einen prekären Autorenstatus. Kurz, sie sind potenzielle ‚Verfasser‘ von Fake News.

    Doch wenn wir nicht anfangen, emergierende und tendenziell schlecht repräsentierte Sender ernst zu nehmen, laufen wir Gefahr realitätsfremde Wesen zu werden. Es empfiehlt sich eine Therapie, die Forscher mindfulness meditation nennen und die dabei helfen soll unsere Aufmerksamkeitsökonomie neu zu ordenen. Doch obgleich die Erkenntnisse, die am Centre for Psychological Wellbeing & Neuroscience gewonnen werden, auf unsere Social-Media-Hirne übertragen werden könnten, möchte ich an dieser Stelle nicht über Therapien sinnieren, sondern unsere Analyse weiterverfolgen. Zurück zu der Frage nach Autorschaft und Autorität und zurück zu Bots und Algorithmen.

    Algorithmen und Fake News

    Wir sind es inzwischen gewohnt Empfehlungen für Kauf-, Konsum- und wichtigen Lebensentscheidungen von Computerprogrammen entgegenzunehmen. Sie haben sich in unseren Smartphone-gestützten Alltag eingeschlichen, ohne dass wir sie noch bemerken. Andere Hinweise wiederum, etwa Prognosen über Wahlausgänge oder Aktienkursentwicklungen, die in ähnlicher Weise auf der Basis möglichst vieler Daten, Szenarien und die Zukunft damit nicht nur prognostizieren, sondern auch entscheidend prägen – solche Hinweise werden stärker von uns wahrgenommen, betteln sie doch um Aufmerksamkeit, die ihre Existenz würdigt und im Zuge dessen die Finanzierung ihrer aufwendigen Entwicklung und Wartung legitimiert.

    Doch egal ob sie nun mehr oder weniger unsichtbar sind oder als kleine Software-Stars daherkommen, kaum jemand stellt die alles entscheidende Frage: Wer ist Autor von algorithmischen Vorhersagen oder Empfehlungen? Ist es der Programmierer, der die Software entwickelt, ist es die Software selbst, die ein Eigenleben entwickelt und als künstliche Intelligenz zu agieren beginnt oder sind es jene, die den algorithmischen Wink überhaupt erst als Zeichen ‚lesen‘ und ihn erst dann in die Realität umsetzen – also wir, die wir nach Belieben User, Audience oder Consumer sind? Ohne uns und unser Zutun sind die algorithmischen Vorhersagen oder Empfehlungen nichts wert; wenn wir sie nicht wahrnehmen, nicht an sie glauben, sie nicht realisieren, verpuffen sie. Roland Barthes These vom „Tod des Autors“ lässt grüßen!

    So ist überrascht es nicht, wenn jemand eine algorithmische Vorhersage bzw. Kaufempfehlung als Fake News beschimpft. Dies ist etwa deshalb nachvollziehbar, weil sie das gewünschte Ergebnis verwehren: statt des passenden Produkts, gibt es etwas, das man gar nicht braucht. Doch da ist mehr, nämlich die Frage, was unsere Rolle eigentlich ist, wenn Algorithmen beginnen, unser Leben vorzuzeichnen. Wer ist Autor? Gott und seine Stellvertreter sind inzwischen zweitrangig geworden. Künstliche Intelligenz ist auf dem Vormarsch, darüber schrieb Norbert Wiener bereits kurz nach dem Zweiten Weltkrieg. Nicht viele wollten das hören.

    Heute finden Wieners Thesen stärkeres Gehör, etwa wenn diskutiert wird, dass KI so etwas wie Technologische Singularität mit sich bringt. Doch in der politischen Diskussion wird noch zu selten die folgende Frage gestellt: Wer hat etwas zu sagen? Es ist, einmal mehr anders gewendet, die Frage nach Autorschaft und Autorität. Diese Frage ist übrigens auch dann im Raum, wenn NGOs wie Algorithm Watch Tranzparenz fordern. Denn nur wenn wir wissen, wie der jeweilige Algorithmus funktioniert – etwa der Suchalgorithmus von Google – können wir auch anfangen, die besagte Frage halbwegs substanziell zu diskutieren.

    Die Forderung nach Transparenz

    Es sollte uns nicht entgehen, dass die Transparenz-Debatte einige Probleme mit sich bringt. Ich erinnere mich noch an die ersten Großprojekte von WikiLeaks und die erste große intellektuelle Auseinandersetzung mit dem Phänomen: eine Aktivisten-Plattform fordert eine Supermacht heraus. Das war 2010 und 2011. Damals stand nicht zuletzt die Frage im Raum, ob eine Transparenz-Initiative wie WikiLeaks so etwas wie eine Agenda haben darf, bzw. was es bedeutet, wenn sie eine hat.

    Eine Agenda zu haben, das sollte auch bedeuten, dass die Neutralität der Plattform zur Diskussion stand: Engagiert sich WikiLeaks für Transparenz nur in eine bestimmte (etwa: geo-politische) Richtung? Führt die Plattform vor allem einen Kampf gegen die Machenschaften der USA? Wenn ja, wessen Interessen würden damit bedient? Wer würde einen solchen Kampf finanzieren wollen? Schon damals stand Russland als möglicher Pate der Plattform im Gespräch.

    Es war nicht das alles dominierende Thema, doch es war klar, dass man eine Arena betreten hatte, in der trotz Transparenz-Gebote nicht alles top transparent war; in der aber auch kein gut ausgeprägter Geschichtssinn, sagen wir, keine historische Transparenz vorhanden war. Kaum jemand fragte: Waren Interessen nicht schon immer im Spiel gewesen, als es darum ging, Informationen ‚durchzustechen‘ und für Transparenz zu sorgen?

    Interessen so unterschiedlich wie „ich will mich in eine vorteilhaftere Position bringen“ oder „ich will für Gerechtigkeit sorgen“. Letzteres gilt als ehrenwerte Motivation für das Leaken. Ersteres nicht. Letzteres, also der Gerechtigkeitsimperativ, hat bei allen Debatten der vergangenen Jahre stark im Vordergrund gestanden, ersteres, also der strategische Nutzen, kaum. Nun vermischen sich die Diskurse. Seit einigen Monaten ist vom strategischen Leak die Rede – etwa im Blick auf die offengelegten Emails der Demokraten während des US-Wahlkampfs.

    Der strategische Leak wird als etwas vollkommen Neues gehandelt und soll angeblich in dieser Eigenschaft die komplette Landschaft des politischen Diskurses verändern (und damit natürlich auch die Aktivität von Whistleblowern und ihren Plattformen): strategische Leaks, die, von unbekannten Hacker-Kommandos initiiert, Wahlen oder Aktienkurse manipulieren.

    Man hat dabei freilich vergessen, dass die strategische Dimension des Leaks von Anfang an eine Rolle spielte. Hat man einfach bislang nicht die richtigen Fragen gestellt? Und stellt man nun die falschen, weil man so tut als wäre alles komplett neu?

    Auch in diesem Kontext geht es um Autorschaft und Autorität. Natürlich ist die Unterstellung einer Strategie, einer Voreingenommenheit, eines gewissen Interesses – natürlich ist all das schon immer der Versuch gewesen, einen Leak und einen Whistleblower zu diskreditieren. „Aber das nutzt doch nur den Russen!“, ergo: es kann nur falsch sein, sprich: Fake News. Doch wir müssen lernen, sowohl über politischen Nutzen (also: wem nutzt der Leak?) als auch über politische Konsequenzen (also: was legt der Leak offen und was folgt daraus?) sprechen zu können.

    Wir müssen dabei verstehen, dass das eine das andere nicht per se ausschließt. Nur weil ein bestimmter Leak „den Russen“ nutzt muss er nicht zwangsläufig Fake News sein. Er muss so oder so ernst genommen werden – sowohl im Hinblick auf Autorschaft als auch auf Autorität. Nicht nur Journalisten, sondern auch die Nutzerinnen und Nutzer von sozialen Medien sollten ihre W-Fragen („Was“ und „Wo“) konsequent um das „Wer“, „Wie“ und „Warum“ ergänzen.

    Anm. d. Red.: Das Foto stammt von Krystian Woznicki und steht unter CC-Lizenz. Lesen Sie mehr zu den Themen in unseren Dossiers Medienkritik und WikiLeaks.


3 Kommentare zu Bot und die Welt: Wer darf Autor sein? Wer hat Autorität? Wer ist Fake News?

  • Kim Ly Lam am 05.05.2017 09:05
    Die Debatte um die Autorenschaft und Autorität von "Fake News"-Produzenten und Algorithmen/Bots/Co. und der pluralismusfeindliche Ansatz, Autoren von vornherein in "Fake News" und normale News zu unterteilen, ist ein interessanter Denkanstoß. Danke dafür, Krystian!

    Für mich ist die Frage um eine Autorenschaft stets mit der Frage um die Fähigkeit zur "agency" gekoppelt. Haben Algorithmen einen Handlungsgeist?
    Technologische Deterministen würden von einem materialistischen Standpunkt ausgehen und die Frage bejahen, Anthropozentriker auf den menschlichen Schöpfergeist als Ursache und Anfangspunkt der Technologisierung verweisen und die Autorenschaft deshalb dem Menschen zuschreiben.
    Vielleicht aber sollten wir aufhören, beide Ströme (materialistisch vs. soziologisch) zu trennen und sowohl den Menschen als auch die materielle Technologie als Agenten sehen, die in wechselseitiger Beziehung zueinander stehen und einander beeinflussen. Wie Bruno Latour einst formulierte:

    "You are different with a gun in hand; the gun is different with
    you holding it. You are another subiect because you hold the gun; the gun is another object because it has entered into a relationship with you. [...] Neither subject nor object (nor their goals) is fixed. It is, now, possible to shift our attention to the someone else, the hybrid actor composed (for instance) of gun and gunman."

    Wir könnten derzeit die Emergenz neuer Autorenschaft erfahren, eine Hybridform von Algorithmus und Mensch. Damit würden sich auch die Beziehung zwischen Autor und Leser und unsere bisherige Informationskultur verändern. Es ist eine emergierende Situation, die der Überprüfung bedarf. Um sie richtig einzuschätzen, müssten wir uns von unserer Kastendenkweise loseisen und neue Blickwinkel und Analyseoptionen schaffen.
  • "Wir könnten derzeit die Emergenz neuer Autorenschaft erfahren, eine Hybridform von Algorithmus und Mensch."

    Ja! Ist freilich älter.

    Man mag an der Stelle von "Fake News" nach Harry Frankfurt von "Bullshit" sprechen oder von "Clickbait".

    "Es war nicht das alles dominierende Thema, doch es war klar, dass man eine Arena betreten hatte, in der trotz Transparenz-Gebote nicht alles top transparent war;"

    Leaks verhindern sogar Fortschritte bei der Transparenz.

    Das "Pizzagate" als Fake News war kein Fall von falschen Quellnformationen im Leak, sondern falscher Kontextualisierung und Erschliessung. Richtige Einordnung bleibt kritisch.

    Was imaginieren sich die Menschen bei Bruchstücken dazu? Was wird gesagt über das gesagte hinaus?
  • Autorenschaft und Wahrnehmung heute in einer vernetzten CyberSpace-Welt, wo jeder mit jedem in sekundenschnelle eine Verbindung herstellen kann und eine überwältigende Fülle an Informationen auf das Subjekt einstürzt - ganz bestimmt ein brennendes Thema. Prof. Peter Kruse zeigt auf, das Netz verschiebt die Macht vom Anbieter zum Nachfrager, was besagt, ich verliere die Kontrolle über meine Botschaften und Inhalte, das Netz macht mit ihnen, was es will, ohne dass ich noch Einfluss darauf habe und funktioniert damit fundamental anders als Fernsehen oder Print. Das Netz ist kein Präsenzmedium. Schon die Vorstellung, Präsenz kaufen zu können, ist absurd. Im Internet geht es um Resonanz.


    Damit haben sich Fake News zu einem relevanten Instrument der Machteliten und ihrer Interessen entwickelt. Wahrheiten und Informationen, die nicht genehm sind, die stören, werden zu Fake News deklariert. Die Mainstream-Medien einschließlich der „Öffentlich-Rechtlichen“ zeigen Tag für Tag, wie gelogen wird, wie über Kriege, ob Syrien, Afghanistan, Jemen, Venezuela und und und mit Fake News Meinungen und Stimmungen den „Lämmern“ vermittelt werden. Also: Fake News werden unverhohlen als politisches Mittel eingesetzt. Wahre Informationen des Widerstands werden dagegen unverhohlen mit dem Mittel Fake New eliminiert.


    Transparenz, die heute durch das Internet, durch Blogger oder Portale wie die Netzfrauen etc. möglich wird, stört im System. Nach und nach wird sie strategisch diffamiert und zu Fake News, die man dann auch gesetzlich/technisch eliminieren kann. Mit faschistischen Strukturen, die erschreckend zunehmen, wird das bald leicht zu realisieren sein .


    Das freie Internet und mit ihm der „freie Mensch“ steht also auf dem Spiel und ist in Gefahr. Whistleblower wie Assange oder Snowden müssen verhindert werden. Davor haben die Mächtigen Angst. Sie stören zu sehr und könnten vielleicht noch aus Lämmern Wölfe machen und verhindern, das sich eine Sklavengesellschaft der Jahrtausende neu etabliert und die Errungenschaften der Aufklärung sich vollends ins Nichts verkrümeln. Aber auch: Ein Diskurs über Fake News bedeutet leider auch, die Macht-Eliten haben bereits ihr Ziel erreicht, nämlich was wahr und unwahr ist zu instrumentalisieren.

Kommentar hinterlassen