Analytische künstliche Intelligenz und Repräsentation

    Visions

Prof. Dr. Thorsten Thiel, Dr. Susanne Kailitz

Artikel

Mit Künstlicher Intelligenz verbinden viele Menschen das Versprechen, sie werde Politik effizienter machen und besser in die Lage versetzen, auf gesellschaftliche Entwicklungen zu reagieren. Die Sammlung und Auswertung großer Datenbestände, die Vermessung von Verhalten und Interessen der Bürger:innen sowie die ständige Evaluation staatlichen Handelns durch analytische KI soll, so die Hoffnung, rationalere und passgenauere Lösungen liefern. Zugleich zeigen die ersten Anwendungen, dass die KI vorhandene Ungleichheiten nicht abbaut, sondern in einigen Fällen eher verstärkt.

Worum geht es?

Analytische KI birgt ein hohes Potenzial, nicht zuletzt für die öffentliche Verwaltung und den politischen Betrieb. Sie soll vor allem dabei helfen, Entscheidungen vorzubereiten, indem sie Daten kontinuierlich erfasst und umfangreiche Datenbestände (idealerweise in Echtzeit) analysiert. Beispiele für politische Praktiken, die durch analytische KI sehr viel stärker Verbreitung finden können, sind die Modellierung komplexer Zusammenhänge, Trendvorhersagen oder die Verwaltung knapper Ressourcen. In den vergangenen Jahren haben sowohl die Rechenkapazitäten als auch die für das Training und die späteren Anwendungen zur Verfügung stehenden digitalen Datenbestände dramatisch zugenommen. In einigen Anwendungsgebieten gibt es auch schon spektakuläre Fortschritte (z. B. in der Medizin bei der Erkennung von Tumoren). Diese Entwicklungen durchlaufen seit den 2000er Jahren rasante Sprünge: von Mustererkennung im maschinellen Lernen zu neuronalen Netzwerken, die menschlichen Gehirnen nachempfunden sind und ohne vorgegebene Klassifizierung, Zusammenhänge aus komplexen Datensammlungen herleiten. Auf Basis neuronaler Netzwerke sind kontinuierliche Anpassungen, iterative Lerneffekte und Prognosen über Wahrscheinlichkeiten leichter und konsequenter abbildbar.

Von der menschlichen Intelligenz unterscheiden sich diese Verfahren vor allem darin, dass sie sich auf Wahrscheinlichkeiten konzentrieren und weder kausale Grundannahmen noch Begründungen geben, wobei daran bereits viel gearbeitet wird. Zu welchen Ergebnissen diese KI-Verfahren kommen, hängt daher von den Modellen, die aus den Trainingsdaten extrahiert wurden, und den Spezifika des Einzelfalls ab. Das führt dazu, dass Entscheidungen und Einschätzungen für Menschen mitunter nicht nachvollziehbar sind. Für eine Vielzahl spezifischer Aufgaben (etwa im Bereich der Sprach- oder Bilderkennung) lassen sich mit dieser Methode aber sehr beeindruckende Ergebnisse erzeugen, die häufig über die Möglichkeiten menschlicher Klassifizierung hinausgehen. Sie führen schnell zu Ergebnissen – und liefern damit das, was in vielen gesellschaftlichen Kontexten erwartet und gewollt wird. Die Möglichkeit, Entscheidungsverfahren zu beschleunigen oder zu entlasten, macht diese Technologien auch für den politischen Bereich zu einer attraktiven Option.

Was sind die Potentiale und Risiken?

Wie aber wirken sich diese Verfahren auf die Qualität demokratischen Regierens aus? Der breite Einsatz analytischer künstlicher Intelligenz ist insbesondere da relevant, wo er auf das Verhältnis von Entscheidungsinstanzen und Bürger:innen wirkt.

Technologische Verantwortungsdiffusion

Zunächst geschieht dies auf der unmittelbaren Ebene durch die Technisierung der Verfahren. Mehr und bessere automatisierte Verfahren der Entscheidungsfindung können einerseits positive Auswirkungen auf die Effizienz, Geschwindigkeit und Differenziertheit politischer Entscheidungen haben. So würde sich die Legitimität der getroffenen Entscheidungen und die Zufriedenheit mit dem politischen System erhöhen. Allerdings stellen sich hier schnell Fragen nach der Verantwortung und Rückbindung von Politik – werden Entscheidungen unterstützt oder ausgelagert? Es besteht die Gefahr, dass suggeriert wird, die getroffenen Entscheidungen beruhten nicht auf dem Urteil von Menschen und seien nicht das Ergebnis von Aushandlungsprozessen, sondern zwangsläufig und alternativlos. Stark technisierte Verfahren und insbesondere solche, die auf maschinellem Lernen beruhen, machen es schwerer oder gar unmöglich, Grundlagen von Entscheidungen nachzuvollziehen. Das kann die Wahrnehmung bestärken, es gebe einen großen Abstand zwischen Regierenden und Regierten.

Weil analytische künstliche Intelligenz immer nur vorhandene Daten auswerten kann, ist ihre Funktionsweise rückwärtsbezogen. Damit geht die Gefahr einher, dass die KI bestehende Ungleichheiten und Vorurteile fortschreibt, wenn sie Vorhersagen trifft. Zudem werden die Technologien häufig ausgerechnet da genutzt, wo es darum geht, durch Automatisierung Kosten zu sparen. Betroffen sind dann aber besonders oft vulnerable Gruppen – man denke etwa an die prädiktive Polizeiarbeit oder die Administration des Sozialstaats. Nicht vergessen darf man dabei, dass mit dem Einsatz von KI auch Ressourcen verbunden sind, deren Verfügbarkeit sowohl darüber entscheidet, wie genau die Modelle letztlich arbeiten und wer sie überhaupt wie nutzen kann.

Die exakte Vermessung der Bürger:innen

Und auch dort, wo die Technologien nicht unmittelbar zur Umsetzung von Entscheidungen beitragen, sondern nur zu deren Vorbereitung eingesetzt werden, haben sie Auswirkungen auf das Verhältnis von Bürger:innen und Politik. Zentral ist hier etwa die Repräsentation der Interessen und Belange der Bürger:innen in der Politik. Klassisch ist diese an formale politische Prozesse gekoppelt, insbesondere Wahlen oder Volksabstimmungen. Dazu kommen in komplexen Demokratien die medial konstituierte und konstruierte öffentliche (oder besser: veröffentlichte) Meinung, die oft als repräsentativ für die Ansichten der Bevölkerung interpretiert wird, sowie die Demoskopie, die Stimmungen und Ansichten misst und so der Politik Orientierung ermöglicht. Analytische KI-Verfahren bieten hier einen neuen Zugang: Sie erlauben sehr viel umfassender und direkter, das Verhalten breiter Bevölkerungsschichten zu analysieren und zu interpretieren sowie die Reaktionen auf politische Maßnahmen (oder deren Simulation) nachzuvollziehen. Politische Institutionen erhalten so ein neues Instrument, um Politik auf die Bürger:innen zuzuschneiden. Im Prinzip kann sich somit die Legitimationsbasis von Politik vergrößern. Etwa weil neue Gesetze besser zu den Bedürfnissen der Bürger:innen passen oder schneller hinsichtlich ihrer Wirkung evaluiert werden können.

Zu beachten aber ist, dass sowohl aktive Verfahren politischer Partizipation als auch der mediale Diskurs stets auch stark verzerrende Effekte haben und privilegierte Positionen deutlich bevorzugen. Umgekehrt ist die direkte Reaktion der Politik auf Bedürfnisse oder Meinungen der Bürger:innen nicht zwangsläufig ein Zeichen für demokratisches Handeln. Dieses Verhalten kann auch als technokratische und manipulative Herrschaftsweise gedeutet werden – was die Gefahr birgt, die Beziehung zwischen Bürger:innen und Politik langfristig zu beschädigen.

Maßgeschneiderte Wahlkämpfe und fragmentierte Kommunikation

Dies wird nochmal dadurch verstärkt, dass die Möglichkeit der Vermessung der Bevölkerung in Echtzeit samt Klassifikation und Modellierung von Verhaltenserwartung auch noch auf eine weitere Weise Einfluss auf demokratische Legitimitätserzeugung hat: in Bezug auf die Ansprache der Bürger:innen im Kontext von Wahlkämpfen. Wir beobachten seit mindestens 20 Jahren eine Tendenz zu immer stärker datengetrieben Wahlkämpfen. Diese wird sich durch die umfassenden Analysemöglichkeiten weiter verstärken. Es ist zu erwarten, dass neuere Praktiken wie das sogenannte Microtargeting, also die zielgruppengerechte Ansprache sehr kleiner Untergruppen, noch weiter verfeinert und ausgeweitet werden. Auch hier sind zwei Deutungen möglich: Zum einen kann Politik so gezielt auf Wünsche und Haltungen der Bevölkerung reagieren. Politische Programme und Entscheidungen würden dadurch im Idealfall leichter nachzuvollziehen und die daraus resultierenden Wahlentscheidungen würden so stärker die tatsächlichen Interessen und Belange der Wähler:innen abbilden. Gleichzeitig aber wird zum anderen so der Raum, in dem der demokratische Diskurs stattfindet, immer weiter zergliedert. Werden die politische Kommunikation und insbesondere Wahlversprechen immer weiter individualisiert, gerät mehr und mehr in Vergessenheit, dass Parteien im repräsentativen System die Aufgabe haben, politische Kompromisse zu verkörpern und möglichst breite Schnittmengen zu finden. Wechselseitiges Verständnis, das Abwägen von Gütern oder die Notwendigkeit von Kompromissen könnten in einer persönlich maßgeschneiderten politischen Ansprache noch weiter ins Hintertreffen geraten, da jeder nur noch die Botschaften präsentiert bekommt, die zu ihm selbst passen.

Unter dem Strich

Die hier zusammenfassend als analytische künstliche Intelligenz bezeichneten Verfahren haben ein hohes Potenzial, die Funktionsweise staatlicher Systeme und organisierter politischer Akteure wie Parteien dauerhaft zu verändern – zumal sich derzeit immer mehr Anwendung finden. Öffentliche und private Akteur:innen erzeugen aus verschiedensten Gründen mehr und detailliertere Daten über die Gesellschaft. Gleichermaßen steigt die Erwartung an die Politik, sie möge besonders responsiv und effizient sein. All diese Faktoren machen diesen digitaltechnologischen Trend besonders stabil. Dies gilt trotz des Umstandes, dass die eingesetzten Verfahren erwartbare Grenzen und Probleme in ihrer Anwendung auf soziale Zusammenhänge haben und deshalb in den letzten Jahren zunehmend und zurecht problematisiert und politisiert wurden.

Wir werden genau beobachten müssen, ob das permanente Beobachten und Analysieren der Bevölkerung in Verbindung mit der automatisierten Evaluation staatlichen Handelns sogar den zentralen Stellenwert von Wahlen und damit aktiver Partizipation unterminieren können. Hier könnte einem transformierten Verständnis von Demokratie Vorschub geleistet werden, indem Akteure versuchen, Zustimmung zur Regierung im Namen des Volkes nicht länger über Diskurs und Aushandlung herzustellen, sondern über Effektivität und Geräuschlosigkeit. Legitimität wird so langfristig durch Effizienz generiert. Ungeachtet dessen, ob es zu einer solch weitreichenden Rekonfiguration kommt, müssen wir im Blick behalten, ob und wie automatisiertes Entscheidungshandeln und die differenzierte Repräsentation der Bürgerschaft einen instrumentellen Blick auf Gesellschaft und manipulative Praktiken befördert.

Download

Veröffentlichung herunterladen


Zum Weiterdenken

  • Algorithm Watch / Bertelsmann Stiftung 2020: Automating Society Report 2020, Berlin // Bericht, der für eine Vielzahl europäischer Länder und die Europäische Union nachzeichnet, wie Verfahren des automatisierten Entscheidens sich ausbreiten.
  • Margetts, Helen 2022: Rethinking AI for Good Governance, in: Daedalus 151: 2, 360 – 371. // Forschungsartikel, der insbesondere die Potentiale von KI-Verfahren für demokratisches Regieren zu betonen versuchtMohabbat-Kar, Resa / Thapa, Basanta 2018: (Un)berechenbar? Algorithmen und Automatisierung in Staat und Gesellschaft, Berlin // Vom Kompetenzzentrum Öffentliche IT herausgegebener Open-Access-Sammelband, der die Nutzung von Daten und Algorithmen in Politik und Verwaltung diskutiert und Handlungsempfehlungen aus Politik und Wissenschaft sammelt.
  • Ulbricht, Lena 2020: Scraping the demos. Digitalization, web scraping and the democratic project, in: Democratization 27: 3, 426 – 442. // Wissenschaftlicher Artikel, der die Möglichkeiten der Erfassung und Repräsentation der Bevölkerung und die daraus resultierenden demokratischen Risiken diskutiert.
  • Yeung, Karen 2023: The New Public Analytics as an Emerging Paradigm in Public Sector Administration, in: Tilburg Law Review 27: 2, 1 – 32. // Forschungsartikel, der aus rechtwissenschaftlicher Perspektive analysiert, wieso sich eine neue Form des Managements der Öffentlichkeit durchsetzt und worin dessen normative Probleme bestehen.

Prof. Dr. Thorsten Thiel

Dr. Susanne Kailitz

Share

Similar articles

  • Announcement, Data, Elections

    Herausforderungen durch Desinformation: Die Rolle von Regulierung, Journalismus und Meinungsfreiheit

    28.02.2024
  • Announcement, Community

    faktenstark in Sachsen gestartet: neue Kooperation mit Amadeu Antonio Stiftung und codetekt e.V.

    22.02.2024
  • Perspectives, Platform Governance

    Wie unterschiedlich US-amerikanische und chinesische Social-Media-Plattformen in Brasilien agieren

    20.02.2024
  • Community, Perspectives

    Wie der Westen Desinformation in Afrika missversteht

    26.01.2024