Rat beim Beirat: Potenzial von Plattformbeiräten

Die meisten, sehr großen sozialen Plattformen sind bisher davor zurückgeschreckt, einen solchen Rat, zumindest permanent, einzurichten. In der wissenschaftlichen Diskussion werden vor allem folgende Variablen betont: die inklusive Gestaltung des Einberufungs-Verfahrens sowie der Multi-Stakeholder-Ansatz. Bei der Gestaltung sind zudem die Einbeziehung von technischem Fachwissen und die Förderung von Teilhabe wichtige Grundbedingungen.

Die Debatte ist allerdings nicht rein theoretisch: Im europäischen Gesetz über digitale Dienste (Digital Services Act, DSA) werden Räte – wie im Koalitionsvertrag der deutschen Ampel-Regierung von 2021 – ebenfalls explizit als Regelungs- und Normierungsinstanzen erwähnt.

Vor diesem Hintergrund haben wir zwei Hypothesen formuliert, die wir in unserem Deep Dive gemeinsam mit ausgewiesenen Expert:innen reflektiert haben:

• Plattformräte können bei entsprechender Ausgestaltung ein effektives Mittel sein, um Vielfalt und Diversität in den Regelungs- und Normierungspraktiken der Plattformen zu sichern. Nur so kann demokratische Rückbindung gelingen.
• Je größer der Rat ist, desto weniger effektiv ist seine Entscheidungsfindung, auch wenn seine Legitimität erhöht werden könnte. Es gilt eine Balance in der Ausgestaltung der Besetzung zu finden, die gesellschaftliche Vielfalt und geforderte Expertise widerspiegelt, ohne ineffektiv zu werden.

Diese Hypothesen führten uns zu vier zentralen Fragen:

1. Wie schaffen wir eine echte demokratische Rückbindung der Plattformen an die Gesellschaft, in der sie wirken? Wie halten wir die Balance zwischen gesellschaftlicher Veränderung und struktureller Institutionalisierung?
2. Was ist mit der Skalierbarkeit? Wie viele solcher Räte kann oder soll es geben? Sind diese national, regional oder themenspezifisch gedacht?
3. Wie sollten Plattformräte besetzt werden? Welche Kriterien von Diversität und Expertise sollten ihrer Zusammensetzung zugrunde liegen?
4. Welche Rolle spielen Plattformräte mit Blick auf die Durchsetzung von Regulierung?

2.1 Demokratische Rückbindung von Plattformen an die Gesellschaft: Zwischen gesellschaftlicher Veränderung und struktureller Institutionalisierung

Um die Diskussion um Plattformräte zu konkretisieren, lohnt ein Blick in die Praxis, denn: Meta setzt seit 2018 ein sogenanntes Oversight Board ein. Dieser Beirat setzt sich aus Expert:innen aus allen Kontinenten zusammen und ist als sogenannte „selbstverwaltende Einheit“ strukturiert. Der Beirat formuliert Empfehlungen zur Inhaltsmoderation auf den Plattformen Facebook und Instagram an Meta. Diese sind allerdings nicht bindend für das Unternehmen. Das Board kann auch bindend Entscheidungen treffen. In der Zeit von Januar 2021 bis April 2023 traf das Gremium allerdings lediglich 191 Entscheidungen. Dabei gab es allein 2022 1,3 Millionen Fälle, die der Plattform für eine Moderationsentscheidung vorgelegt bzw. die nach einer Beschwerde der Betroffenen an den Beirat weitergeleitet wurden. Die Divergenz der Zahlen verdeutlicht, dass das Oversight Board seine Fälle sehr spezifisch auswählt — oder aufgrund von Kapazitäten auch auswählen muss: Im Idealfall können durch die Bearbeitung eines Falles größere strukturelle Probleme angegangen werden.

Hier stellen sich bereits wesentliche Fragen in der Arbeit von Räten: was sind wirksame Priorisierungsfaktoren für den Umgang mit unterschiedlichen Themen und wie effektiv können vergleichsweise geringe Entscheidungs- bzw. Empfehlungszahlen sein? Die Entscheidungen des Meta Oversight Boards sind zudem, wie oben genannt, für das Unternehmen nicht bindend. Es kann nur Empfehlungen zur Praxis oder den Regeln der Inhaltsmoderation bzw. zu Transparenzvorgaben abgeben und muss dann darauf hoffen, dass Meta entsprechend reagiert. Hier wird die zweite wesentliche Herausforderung von Räten deutlich: die Frage nach Legitimität und Verbindlichkeit getroffener Entscheidungen.

In unseren Diskussionen war entsprechend auch erkennbar, dass die Balance zwischen gesellschaftlicher Veränderung – und damit struktureller, breitenwirksamer Entscheidungen – und der Institutionalisierung von Plattformräten in einem Spannungsverhältnis stehen. Es gibt Fortschritte, aber sie sind langsam – und hängen in ihrer aktuellen Form oft weiterhin von den Interessen bzw. der Bereitschaft der Plattform selbst ab, im Sinne der Empfehlung des Beirats zu handeln.

2.2 Skalierbarkeit von Plattformräten: regional, national, global, themenspezifisch?

Wenn es um die Ausgestaltung und damit die Skalierbarkeit von Plattformräten geht, zeigen sich schnell Differenzen. Je nach Fragestellung, Bedürfnissen oder Plattform gehen die Meinungen auseinander, ob Plattformräte regional oder national aufgehangen oder gar global wirken sollten, um demokratische Rückbindung von global-agierenden Plattformen gewährleisten zu können. Gleichzeitig sind wir weit von einem Konsens entfernt, ob Plattformräte entweder ortsgebunden oder themenspezifisch arbeiten sollten. Brauchen wir spezielle Runden, wenn es um Klimadesinformation, geschlechtsspezifische Hassrede oder Gesundheitsfragen geht? Oder ist es für solche Debatten wichtiger, wie sie konkret in den jeweiligen regionalen oder nationalen Kontext eingebettet sind?

• Gründe für die Einrichtung von Plattformräten: In allen Fällen muss die Notwendigkeit solcher Beiräte gut begründet werden – wenige Akteur:innen (Plattformen) sind intrinsisch daran interessiert, ihre Macht durch externe Gremien zu begrenzen. Einzelne Expert:innen rekurrieren auf das Recht zur informationellen Selbstbestimmung, welches nach einer Machtbalance zwischen Plattform und Nutzer:innen verlange und nur mit dem Errichten kollektiver Selbstverwaltungsmechanismen erreicht werden könne. Andere argumentieren auf Grundlage der Grund- und Menschenrechte mit Blick auf Beteiligung, Einbindung und Repräsentation. Wieder andere verweisen auf wettbewerbsrechtliche Grenzen der Marktmacht und fordern Beteiligungsformate als notwendige Legitimationsquelle für derart gesellschaftlich dominante Strukturen wie große soziale Plattformen.
• Europäischer Ansatz: Im europäischen Kontext sind im Zuge des Gesetzes über digitale Dienste (DSA) parlamentarisch eingerichtete nationale Plattformräte mit Beratungsfunktion denkbar. So taucht ein solcher im aktuellen Gesetzesentwurf zur Umsetzung des DSA in Deutschland beispielweise mit Blick auf die Einrichtung der Koordinierungsstelle (DSC) auf. Auf europäischer Ebene können Plattformräte so entweder als außergerichtliche Streitbeilegungsstellen (Art. 21 DSA), zur Entwicklung von Verhaltenskodizes für die Werbeindustrie (Art. 46 DSA) oder zur Gewährung des Zugangs für Menschen mit Behinderungen (Art. 47 DSA) eingesetzt werden. Auch könnten sie als Mechanismus der Bürger:innenbeteiligung zur Risikobewertung und -minderung (Art. 45 DSA) zum Einsatz kommen. Weder Plattformen, noch Staaten, noch Auditierungsunternehmen sind mit ihren jeweiligen Anreizstellungen und Kompetenzen geeignet, um die Risikoeinschätzungen selbst durchzuführen. Plattformräte könnten hier als Repräsentation von Stakeholder:innen aus Zivilgesellschaft und Wissenschaft unabhängige Risikobewertungen durchführen und Empfehlungen für Anpassungen abgeben.
• Mit Blick auf Wirkung und Skalierbarkeit wird dabei häufig betont, dass breit angelegte Plattformräte auf regionaler Ebene auch Anreize für globale Veränderungen auf der Plattform liefern können. Breite öffentliche Aufmerksamkeit und medialer Druck sind weitere Hebel, um Beschlüsse aus Plattformräten in die Plattformregeln zu integrieren. Keines dieser Argumente ersetzt allerdings die Notwendigkeit, Machtgefälle immer wieder und kontinuierlich zu reflektieren. Zudem werden gesellschaftliche Veränderungsprozesse in unterschiedlichen Regionen oder Gruppen unterschiedlich wahrgenommen, sodass Werte und Gepflogenheiten in einem globalen Rahmen permanent Verhandlungsprozessen ausgesetzt sind.
• Expertise statt Breite? Einer anderen Logik folgt das Konzept von Expert:innenräten. Für einen übergreifenden Rat, der verschiedene Expert:innendisziplinen zusammenbringt, bedarf es eines institutionell neutralen Zuhauses. Die Theorie ist, dass ein solches Expert:innengremium (teilweise als „Konsilienzrat“ bezeichnet), die Wissensbasis schaffen könnte, die für eine wirksame Governance erforderlich ist. Hier würde die klassische Bürger:innenbeteiligung allerdings in den Hintergrund rücken.
• Verbindung von Elementen: Einzelne Expert:innen plädieren dafür, verschiedene Designs mit unterschiedlichen Schwerpunkten in der Praxis zu verbinden. So könnten ein Rat mit einem Fokus auf Bürger:innenbeteiligung und ein von Expert:innen besetzter Rat in einem engmaschigen Reflexions- und Iterationsprozess eruieren, wie Effektivität, Legitimität und die gesellschaftliche Rückbindung öffentlicher Werte auf Plattformen am besten in Einklang gebracht werden. Das Ziel hier wäre eine sowohl nachhaltig menschenrechtskonforme als auch demokratisch eingebettete Gestaltung. Fragen nach Ressourcen und Realisierbarkeit bleiben allerdings auch hier offen.

Wegweisend scheint in jedem Fall, wie mit dem Trade-Off zwischen Expert:innenwissen und Partizipation umgegangen wird. Expert:innen arbeiten oft routinierter und können bereits auf einen großen Wissens- und Erfahrungsschatz zurückgreifen. Es gilt, eine Balance in der Ausgestaltung der Besetzung zu finden, die gesellschaftliche Vielfalt und geforderte Expertise widerspiegelt und dabei effektiv arbeitet.

2.3. Diversität in der Zusammensetzung von Plattformräten

Eine weitere zentrale Frage in Bezug auf Plattformräte betrifft ihre Zusammensetzung: Welche Kriterien von Diversität und Expertise sollten hier zugrunde liegen? Welche Rolle spielen Plattformräte mit Blick auf die Einbeziehung marginalisierter Gruppen und deren Bedarfe? Wie können sie sinnvoll die Durchsetzung von Regulierung beeinflussen?

Es besteht Konsens darüber, dass lokale und partizipative Lösungen wesentliche Bestandteile von demokratischer Rückbindung sind. Ressourcenschwache Regionen, gesellschaftlich-marginalisierte Gruppen und Themen finden im Kontext Platform Governance noch immer wenig Beachtung. Mangelnde Berücksichtigung von lokalen Sprachen zum Beispiel führt nachweislich dazu, dass Algorithmen unzureichend oder falsch filtern und dass nur unzureichend Zugang zu adäquaten  Konfliktlösungsmechanismen besteht. Die Teilbereiche der Digitalen Gewalt und gezielte Strategien zur Bedrohung marginalisierter Gruppen trifft noch immer auf wenig substantielle Resonanz. Partizipation, Diversität und Teilhabe sind deshalb essentiell, weil dem Konzept der Plattformräte in der Umsetzung nur so Legitimität und Breitenwirksamkeit verschafft werden kann.

Im deutschen Kontext thematisierten Expert:innen in der Diskussion beispielsweise die Reform der deutschen Rundfunkräte. Diese wurden zuletzt aufgrund ihrer Überrepräsentation von etablierten politischen Gruppen auf Kosten von marginalisierten zivilgesellschaftlichen Gruppen stark kritisiert. Die Räte bildeten die gesellschaftlich sichtbaren Strukturen der 80er Jahre ab und hätten sich seither kaum verändert. Plattformräte sollten und müssen dies besser machen und flexibler bleiben.

2.4. Plattformräte und die Durchsetzung von Regulierung

Die großen Onlineplattformen beeinflussen, wie wir unsere Grundrechte ausüben können.  Sie schaffen die Räume, in denen wir kommunizieren und legen die Regeln fest, nach denen Kommunikation stattfindet – durch Allgemeine Geschäftsbedingungen wie durch algorithmische Empfehlungssysteme.  Dabei sind sie und ihre intern getroffenen Entscheidungen zunächst durch ihre Nutzer:innen nicht direkt legitimiert, noch weniger jedoch durch die Menschen, welche die Plattform nicht nutzen. Diese Menschen können jedoch genauso stark von den Entscheidungen einer Plattform abhängen. Dies wird spätestens deutlich, wenn algorithmisches Design Polarisierung oder sogar Menschenrechtsverletzungen fördert oder wenn mangelhafte Moderation in weniger stark gesprochenen Sprachen zu Menschenrechtsverletzungen führen. Wo Plattformregeln gesamtgesellschaftliche Wirkung entfalten, dürfen sie auch Regulierung unterworfen werden.

• Kontrolle erfordert Zugang: Um effektiv arbeiten zu können, muss der Rat Zugang zu Ressourcen haben. Diese Forderung wurde in unserer Diskussion mit den Expert:innen stark betont: von Social-Media-Unternehmen generierte Daten, Zugang zu Plattformen für die Durchführung von Studien und die Messung der Auswirkungen von normativen Interventionen sind zwingende Voraussetzungen.
• Schnellere Reaktionsfähigkeit: Gerade in seiner Rolle als Koordinierungsforum für diverse Stakeholder in der Plattform Governance verspricht ein Plattformrat agiler zu sein als traditionelle staatliche Behörden. Es wird eine direkte Rückbindung an Nutzer:innen und Betroffene geschaffen, sodass Themen und Lösungsfindung sich an aktuellen Herausforderungen orientieren. Voraussetzung bleibt allerdings, dass Plattformen an die Empfehlungen gebunden sind.
• Zivilgesellschaftliche Beratung: Als Alternative zu den oben skizzierten Möglichkeiten, Beiräte in die Arbeit der Plattformen einzubinden, wurde vorgeschlagen, dass zivilgesellschaftliche Organisationen in die Analyse der systemischen Risiken der Plattformen eingebunden werden. Solche “Risk Assessments” sieht beispielsweise das Gesetz über digitale Dienste (DSA) für sehr große Onlineplattformen vor. Dies beantwortet auch die Frage, wie ein globaler Plattformbeirat auf nationale oder regionale Besonderheiten eingehen könnte. Schließlich haben zivilgesellschaftlich etablierte Organisationen in der Regel eine hohe Expertise und breite Akzeptanz innerhalb der sozialen Kontexte, in denen sie sich bewegen.
• Technische Expertise und Unabhängigkeit: Neben Partizipation darf der Faktor technische Expertise nicht vernachlässigt werden. Um möglichst nachhaltige und gut angepasste Lösungen zu entwerfen, sind tiefgehendes Wissen und Verständnis um die Logik von Plattformen und deren Strukturen de facto unerlässlich. Gleichzeitig muss aber vorausgesetzt sein, dass Expert:innen unabhängig vom Unternehmen beraten, um den Plattformrat gegen Lobbyingversuche zu schützen und dessen öffentliche Legitimität zu bewahren. Auch Datenschutzrechte sind zu bedenken. Spannend zu beobachten wird, inwiefern die durch den DSA in Art. 40 geschaffenen Datenzugangsrechte für Forschende dieses Spannungsfeld beeinflusst werden.

Wie genau am Ende die jeweiligen Plattformräte besetzt werden und in welchem Verhältnis Partizipation und Expertise stehen, hängt dann von der Priorisierung bzw. Zielsetzung ab.  Hat ein Plattformrat den Anspruch, Zivilgesellschaft zu repräsentieren, so darf Partizipation schon bei der Aufsetzung des Rates nicht fehlen. Auch ethische und strukturelle Grundsatzentscheidungen (z.B. zu Besetzung und Finanzierung) sollten nicht von politischer und akademischer Elite allein beantwortet werden. Geht es um die Optimierung der Regeln-Algorithmen-Interaktion, dann ist Expert:innenwissen gefragt.

2.5 Beobachtungen und Empfehlungen für die demokratische Rückbindung durch Plattformräte

Im Austausch mit den Expert:innen im Workshop und darüber hinaus konnten wir spannende Einblicke in alle vier unserer Fragebereiche gewinnen. Das Feld und die Konzepte zu Plattformräten sind vielfältig, die Argumentation zur Notwendigkeit durchaus kontrovers – der Diskurs grundsätzlich aber motiviert und lösungsorientiert. Trotz all der Vielfalt lassen sich Beobachtungen und Empfehlungen für die Zukunft von Platform Governance ableiten: zum Spannungsverhältnis zwischen gesellschaftlicher Veränderung und struktureller Institutionalisierung, zur Skalierbarkeit, zu Diversität und Beteiligungspotenzial sowie zu den Möglichkeiten, die Durchsetzung von Regulierung zu unterstützen. Auf Grundlage unserer Analyse lassen sich folgende Empfehlungen ableiten:

• Breites Bedürfnis digitale Räume demokratischer zu gestalten: Soziale Plattformen haben Kommunikationsräume geschaffen, die privatwirtschaftlich organisiert sind, aber gesamtgesellschaftlich wirken. Je größer ihr Einfluss auf öffentliche Diskurse und Menschenechte ist, desto stärker müssen verschiedenen Stakeholder und Grundpfeiler des öffentlichen Interesses in die Gestaltung von Regeln und Praktiken einbezogen werden. Verschiedene Modelle von Plattformräten finden zunehmend Einzug in Regulierung (wie DSA) und Praxis (s. Meta Oversight Board).
• Zusammensetzung und Struktur am Ziel ausrichten: Die Idee hinter den Plattformräten ist es, die Diversität, Teilhabe und Partizipation bei der Entscheidungsfindung und der Gestaltung von öffentlichen Diskursen auf privaten Plattformen zu erhöhen. Plattformräte, die sich aus Expert:innen und/oder ausgewählten Nutzer:innen zusammensetzen, können – je nach Auswahl – unterschiedliche Rollen übernehmen. Mehr Expertise unterstützt themenspezifische Legitimität und mitunter schnellere Entscheidungen; eine breitere Beteiligung diverser Gruppen führt zu höherer demokratischer Legitimität und mitunter Entscheidungen, die über den engen Kontext hinauswirken. Um die komplexen und vielschichtigen Herausforderungen effektiv anzugehen, kann eine Zusammenarbeit und Koordinierung zwischen den verschiedenen Ebenen der Räte erforderlich sein.
• Von Beispielen lernen: Das Oversight Board von Meta stellt einen der ersten Versuche dar, das Entscheidungssystem einer kommerziellen Plattform nach „außen“ zu öffnen. Hier können wichtige normative Wegmarken gesetzt werden, indem etwa in der strategischen Auswahl der Fälle oder in Form von “Sammelentscheidungen”, nachhaltig Einfluss auf Metas Regularien genommen wird. Sowohl Geschwindigkeit als auch langfristige Wirkung über Einzelfälle hinaus lässt sich bisher jedoch nicht eindeutig nachzeichnen.
• Gefahren sehen und ihnen vorbeugen: Während Plattformräte den Regeln und algorithmischen Praktiken von Plattformen mehr Legitimität verleihen können, gibt es auch Nachteile und Kompromisse zu berücksichtigen. Dazu gehören: die Schwächung staatlicher Regulierungsbehörden, die Diversifizierung von Verantwortlichkeiten, ein potenzieller Feigenblatteffekt – in dem auf gute Taten verwiesen wird, ohne dass diese nachweisliche Konsequenzen haben – und ein dominanter Ansatz für Sprachregelungen, der nicht auf lokale und regionale Praktiken eingeht.
• Weitere Modelle zur demokratischen Rückbindung mitdenken: Um sowohl globale als auch lokale Herausforderungen und Interessen effektiv zu wahren, müssen die Governance-Strukturen und die Zusammensetzung der Räte auf die Bedürfnisse aller zugeschnitten sein, auch auf die von Nicht-Nutzer:innen. Denkbar wäre, Plattformstrukturen und -räte durch öffentliche, auch staatliche, Konsultationsmaßnahmen und die gezielte Beratung durch zivilgesellschaftliche Organisationen mit enger sozialer Einbindung zu flankieren.
• Ressourcenanforderungen ehrlich diskutieren: Der Wunsch nach demokratischer Rückbindung ist weitverbreitet, für die Umsetzung braucht es nicht nur entsprechende Offenheit auf Unternehmensseite und Expertise in der Gestaltung, sondern vor allem auch entsprechende Ressourcen. Nur wenn Anreize für weniger privilegierte Gruppen geschaffen werden, sich konstruktiv zu beteiligen, können solche Modelle gesellschaftliche Diskurse fördern.

Im Folgenden findet sich eine Übersicht mit Leseempfehlungen rund um Plattformräte und damit verbundene Beobachtungen bzw. Entwicklungen – wir nehmen auch gern weitere Hinweise entgegen.

• Der Platform://Democracy-Report mit den Projektergebnissen, die in unseren Workshop und das Impulspapier eingeflossen sind, ist im Mai 2023 erschienen und bietet 35 Perspektiven von Forschenden auf der ganzen Welt zum Design von Plattformräten.
• Zur Grundfrage, welchen Einfluss digitale Kommunikationsforen und Plattformen auf demokratische Prozesse, Vertrauen und Zusammenhalt haben, findet sich in Nature eine Metastudie.
• Die Demokratie plattformfest machen – wie geht das überhaupt? Das bereits 2021 erschienene Paper von Matthias C. Kettemann und Martin Fertmann erforscht das Grundkonzept “Plattformräte”.
• Aviv Ovadya schlägt per Zufallsprinzip ausgewählte Citizens’ Assemblies vor: ‘Platform Democracy’—a very different way to govern big tech.
• Alicia Wanless untersucht das CERN Model for Studying the Information Environment – einen Rat für disziplinübergreifende Informationswissenschaft.
• Matthias C. Kettemann hakt noch einmal genauer nach: “Wie soll die digitale Demokratie aussehen?” stellt verschiedene Ansätze vor zu Plattformräten, deliberativer Demokratie und staatlichen Maßnahmen vor.
• Wolfgang Schulz will Musks Willkür Grenzen setzen (November 2022) und erläutert, wie komplexe Regelungsstrukturen in der Online-Kommunikation miteinander interagieren und wie Plattformräte sich darin einfügen.
• Unser Impulsgebender Niklas Eder setzt sich mit systematischen Risikobewertungen auseinander und reflektiert dabei auch über seine Erfahrungen aus dem Meta Oversight Board.
• Metas Bürger:innengremien zum Metaverse werden hier vom Stanford Deliberative Democracy Lab zusammengefasst.
• Zum optimalen Ansatz an die Auswahl von Bürger:innen in Konsultationsprozessen, schreiben Christian Huesemann und Stefan Roch hier.
• Die Agora Digitale Transformation will einen Diskursraum öffnen, um über die Zukunft der Bestimmung von Regeln und Selbstbestimmung in digitalen Räumen zu debattieren.
• Im Entwurf zum deutschen Begleitgesetz um Rechtsakt zu Digitalen Diensten ist ein Beirat vorgesehen, der allerdings nicht die Plattformen, sondern die Behörden beraten soll.

Impulsgebende:

• Niklas Eder, Senior Policy Officer, Meta Oversight Board
• Dominik Piétron, Soziologe, Humboldt-Universität zu Berlin

Expert:innen:

• Martin Fertmann, Leibniz Institut für Medienforschung (HBI)
• Sabine Frank, YouTube / Google
• Henrike Gudat, Gemeinsame Geschäftsstelle der Medienanstalten
• Bettina Hesse, ver.di Berlin
• Dominik Hierlemann, Bertelsmann Stiftung
• Sandra Hoferichter, EuroDIG Sekretariat
• Friederike Mohrat, Tagesspiegel Background Digitalisierung & KI
• Katrin Ohlmer, .berlin
• Francesca Schmidt, Bundeszentrale für politische Bildung
• Julia Tegeler, Bertelsmann Stiftung