Im Gespräch mit Bellingcat: „Algorithmen radikalisieren Menschen“

Im Interview mit Upgrade Democracy erklärt Bellingcat-Gründer Eliot Higgins, wie moralische Verletzungen zu Desinformation führen, warum generative KI zum Zerfall der Realität beitragen könnte und wieso es wichtig ist, die junge Generation über diese Themen aufzuklären.

Eliot Higgins, 2024 gilt als Superwahljahr, weil mehr Hälfte der Weltbevölkerung wählt. Gleichzeitig sorgen Expert:innen und Politiker:innen sich zunehmend über die Auswirkungen von Desinformation auf diese Wahlen. Wie konnte es so weit kommen?

Viele unserer heutigen Probleme stammen daher, dass die Menschen sich übergangen fühlen. Sie fühlen sich von der Gesellschaft und der Politik abgekoppelt und wollen diese Lücke füllen. Daher suchen sie online, weit weg von den etablierten Medien, nach Quellen der Ermächtigung. Das führt dazu, dass sie in einer Umgebung landen, die von Menschen mit einer bestimmten Agenda dominiert werden. Häufig sind das Desinformations-Gemeinschafen.

Sie verfolgen diese Gemeinschaften seit eineinhalb Jahrzehnten.

Ich nutze das Internet seit 1995 und habe mich in den letzten 15 Jahren intensiv mit Online-Gemeinschaften beschäftigt, die Desinformationen verbreiten. Ich glaube, dass die Menschen, die ein Teil davon sind, sich nicht als Lügner:innen betrachten. Vielmehr denken sie, auf der Suche nach der Wahrheit zu sein und gegen die böse Seite zu kämpfen. Diese Merkmale gelten für verschiedene dieser Gruppen, wie etwa die Corona-Leugner, die MH17-Skeptiker und die Chemiewaffen-Zweifler.

Von außen betrachtet wirken diese Gruppen sehr unterschiedlich.

Sie sind durch ein tiefes Misstrauen gegenüber traditionellen Autoritäten wie der Regierung, den Medien oder medizinischem Fachpersonal vereint. Dieses Misstrauen basiert oft auf vergangenen Traumata, einer Art moralischen Verletzung.

Was wäre ein Beispiel für eine solche moralische Verletzung?

Für viele Chemiewaffen-Zweifler:innen ist die moralische Verletzung die US-Invasion des Irak 2003. Sie sehen darin einen massiven Verrat durch die Regierung und die Medien, der ihr Vertrauen erschüttert hat und gegen den sie sich in Opposition gebracht haben. Das führt dazu, dass sie bei späteren Ereignissen ebenfalls an Verschwörungstheorien glauben. Etwa beim Chemiewaffeneinsatz im syrischen Bürgerkrieg. Denn wenn du glauben willst, dass Amerika böse ist, hast du eine Menge Geschichte und viele Bücher, Webseiten, Videos und Tweets, die diese Überzeugung stützen. Folgst du dieser Weltsicht, glaubst du, dass jede:r, der gegen sie angeht, wie z. B. Bellingcat, auf der falschen Seite steht und deshalb auch böse ist, genau wie die USA. Das ist eine sehr binäre Weltsicht.

Was ist die moralische Verletzung, die zum Aufkommen der Anti-Vax-Verschwörungstheorien geführt hat?

Das ist eine etwas andere Dynamik. Als die COVID-19-Impfstoffe aufkamen, waren die Menschen besorgt, ob sie sicher sind. Fragt man jedoch Google, ob Impfstoffe sicher sind, landet man schnell in einer Flut extremer Inhalte. Denn wenn du einmal auf ein Ergebnis geklickt hast, das nahelegt, dass Impfstoffe nicht sicher sind, empfiehlt der Algorithmus dir mehr davon, weil er glaubt, dass du dich dafür interessierst. Am Anfang sind die Vorschläge vielleicht noch harmlos und es geht z.B. um Bedenken über die Zusatzstoffe in Impfstoffen. Aber sobald du klickst, kommst du auf die nächste Ebene und liest dann irgendwann, dass Impfungen Autismus verursachen. Von da ist es nicht mehr weit bis zu der Ebene, auf der Bill Gates die Impfungen mit Mikrochips versehen hat.

Zum Glück landet nicht jede:r, der/die Zweifel an der Sicherheit von Impfungen hat, auf dieser Ebene.

Der Prozess ähnelt einer Pyramide. Die Menschen fangen unten mit den milden Inhalten an und arbeiten sich allmählich zu den extremeren Ansichten vor, aber nicht jede:r erreicht die Bill-Gates-Mikrochips-Ebene. Ein gewisser Prozentsatz tut es jedoch und auf globaler Ebene sind das schnell Hunderttausende oder sogar Millionen von Menschen. Auf dieser extremen Ebene gibt es oft ein tiefes Misstrauen gegenüber Autoritäten, das seinen Ursprung in ebenjenen vergangenen Traumata hat. Viele der Corona-Verschwörungstheoretiker haben negative Erfahrungen mit medizinischen Fachpersonal gemacht. Ihre Sorgen beruhen auf realen Ängsten, aber die Radikalisierung durch Algorithmen verschlimmert sie. Die Menschen werden durch das Internet in den Wahnsinn getrieben. Und wenn sie eine bestimmte Schwelle des Misstrauens überschritten haben, sind sie unerreichbar und sehen jede:n außerhalb ihrer Gemeinschaft als Feind an.

Die Mitglieder dieser Gruppen wechseln oft von einem Thema zum nächsten. Wie kommt es dazu?

Es gibt viele Websites und Gemeinschaften, deren Hauptthema ihr tiefes Misstrauen gegenüber westlichen Regierungen und den Medien ist. Ihre Mitglieder wählen die Seite des Gegners, etwa Russland. Wir haben das etwa bei den Bauernprotesten in der EU gesehen, bei denen einige Teilnehmer:innen russische Fahnen geschwenkt haben. Ihr Protest wird zu einer fast kindischen Opposition gegen die EU und die USA, bei dem es nicht wirklich um Politik geht, sondern darum, sich gegen den Bösen zu stellen, egal wer das sein mag.

Wie können wir diese Menschen erreichen?

Mit Bildung. Wir müssen junge Menschen mit den Fähigkeiten ausstatten, um in diesem neuen Umfeld zu bestehen, in dem sie ständig von Medien umgeben sind. Denn es ist eine andere Art von Medien als jene, die die ältere Generation gewohnt ist. Die junge Generation sieht sich nicht nur als Empfänger von Informationen. Sie will Teil des Gesprächs sein. Wenn jemand ein Video postet und sie nicht einverstanden sind, posten sie ein Video zurück. So funktioniert TikTok.

Welche Fähigkeiten brauchen sie, um sich in diesem neuen Medienumfeld zurechtzufinden?

Wir müssen dafür sorgen, dass sie sich nicht zu Leuten hingezogen fühlen, die sie ausnutzen, und ihnen helfen, positive Mitglieder dieser Online-Gemeinschaften zu werden. Denn sie werden sowieso ein Teil von ihnen sein. Bei Bellingcat versuchen wir das mit unseren Workshops umzusetzen, weil junge Menschen vieles davon tun können, was wir machen. Sie brauchen nur ein wenig Anleitung. Denn wenn wir sie nicht anleiten, werden noch mehr Menschen in diese Desinformations-Gemeinschaften gezogen und sich in der Opposition positionieren. Das wäre Gift für unsere Demokratien und ein Vorteil für autoritäre Regierungen.

Wie beeinflusst die rasante Entwicklung von generativer KI Ihre Arbeit?

Ich mache mir keine Sorgen über KI-generierte Bilder. Denn wenn es um die Beweisführung bei einem Vorfall geht, besteht unsere Vorgehensweise darin, ganze Informations-Netze um ihn herum aufzubauen. Wir vertrauen nicht einem einzelnen Bild. Wenn es aber um die Zukunft des Informationsgehalts von Bildern geht, sehe ich ein großes Problem auf uns zukommen.

Warum?

Weil die Existenz von KI-generierten Bilder eine Grundlage dafür schafft, echte Bilder zu leugnen. Menschen können behaupten, dass reale Bilder, die nicht zu ihren Überzeugungen passen, von KI generiert wurden. Und Desinformations-Gemeinschaften können so Fakten leugnen, weil sie von der vermeintlich falschen Seite stammen. So entsteht ein Leerraum, in dem jede:r denkt, er oder sie könne sich seine oder ihre Realität aussuchen. Die Menschen existieren dann in ihren eigenen Blasen und leugnen, dass der Rest der Welt real ist. Und es wird so viele Inhalte geben, die diese Einstellung bestärken, dass sie sie nicht mehr hinterfragen müssen. Das wird zu einer zersplitterten Gesellschaft führen, in der es nicht mehr um links oder rechts oder politische Parteien geht oder darum, was in den Zeitungen steht. Jede:r lebt in seiner oder ihrer Online-Blase und glaubt, was er oder sie will, und fügt der Demokratie damit gewaltigen Schaden zu.

Beunruhigt Sie diese Perspektive?

Ich beschäftige mich sehr intensiv mit diesen Themen. Aber der Moment, in dem ich merke, dass sie zu ernsthaften Problemen führen können, ist, wenn ich mich mit anderen Menschen darüber unterhalte. Denn viele haben noch nie von generativer KI gehört, geschweige denn gesehen, wozu sie fähig ist. Deshalb sind sie viel einfacher zu täuschen. Darum müssen wir sie unbedingt aufklären und in die Unterhaltung über diese Themen einbeziehen.

Eliot Higgins ist der Gründer des investigativen Recherche-Netzwerks Bellingcat, das weltweit für seine Open-Source-Analysen von Konflikten, Menschenrechtsverletzungen und Desinformationskampagnen bekannt ist.