In diesem Beitrag diskutieren MARTIN LACKNER und JAN MALY wie Künstliche Intelligenz genutzt werden kann, um die Demokratie zu stärken und demokratische Prozesse zu verbessern. Dies betrifft insbesondere das Verhältnis von Künstlicher Intelligenz und Sozialdemokratie.
I. Einleitung
Es herrscht kein Mangel an Medienberichten, die auf die Gefahren und Probleme von Künstlicher Intelligenz (KI) hinweisen: von Falschinformationen zu Halluzinationen, von Deep Fakes zu Bias, von Copyright-Verstößen zur Sorge vor Arbeitsplatzverlusten. Angesichts der Risiken und Herausforderungen stellt sich die Frage, warum die Forschung zu KI dennoch mit solcher Kraft vorangetrieben wird.
Der Grund für die KI-Begeisterung– und für die beachtlichen Investitionen – ist das gewaltige Potenzial, das diese Technologie mit sich bringt. Auch für Demokratie und demokratische Prozesse kann KI beachtliche Verbesserungen bringen. Im Folgenden beschreiben wir einige demokratische Anwendungen von KI, an denen aktiv geforscht wird.
Noch eine Anmerkung zum Begriff „Künstliche Intelligenz“: Wir verwenden diesen Begriff im Sinne des Forschungsgebietes Künstliche Intelligenz, das wesentlich größer ist, als die Berichterstattung über Chat-GPT und Silicon Valley vermuten lässt. Daher beinhaltet die folgende Liste auch einige Punkte, die typischerweise nicht im Diskurs um KI auftauchen. Konkret arbeiten beide Autoren dieses Beitrags im Forschungsgebiet Computational Social Choice, einem Teilgebiet der KI, das sich mit der Entscheidungsfindung von Gruppen beschäftigt. Insbesondere geht es darum, wie faire Gruppenentscheidungen mit algorithmischen Mitteln unterstützt werden können.
II. Einfachere Beteiligung durch KI
Für das Funktionieren einer Demokratie ist es unabdingbar, dass sich Bürger*innen am demokratischen Prozess beteiligen. In den letzten Jahren wurden deshalb verschiedene neue Beteiligungsformate entwickelt und erprobt. Ein wichtiges Beispiel sind partizipative Budgets (Bürgerbudgets), wie die Wiener Klimateams, die Stadtidee Zürich und das Budget Participatif in Paris, durch das hunderte Millionen Euro demokratisch verteilt wurden. Ebenso eindrucksvoll sind neue deliberative Prozesse wie die Beteiligung von Bürger*innen in Chile und Island an der Erstellung einer neuen Verfassung.
Trotz aller Erfolge gibt es Zweifel daran, ob solche Beteiligungsprozesse tatsächlich die Meinung der ganzen Bevölkerung repräsentieren können. Einerseits nimmt oft nur ein kleiner Teil der Bevölkerung überhaupt an solchen Prozessen teil und andererseits ist die teilnehmende Bevölkerung alles andere als repräsentativ. KI allein wird diese Probleme nicht lösen können, aber richtig eingesetzt kann sie einen wichtigen Beitrag leisten.
Einer der wichtigsten Gründe, warum nur wenige Bürger*innen an Beteiligungsprozessen teilnehmen, ist simpel: Es ist mühsam und kostet Zeit, die viele Menschen neben ihrem hektischen Alltag nicht haben. Sich auf einer neuen (digitalen) Plattform zurechtzufinden ist nicht einfach und hunderte Vorschläge oder Kommentare von anderen Beteiligten zu sichten ist oft schlicht unmöglich.
Moderne KI-basierte System bieten die Chance, dass Bürger*innen ihre Vorschläge auf vielfältige Weise einbringen können, zum Beispiel durch Chat-Systeme oder per Spracherkennung. Ein besonderer Vorteil dieser Systeme ist, dass sie die Bürger*innen in ihrem Alltag erreichen können, sei es auf Social Media oder im öffentlichen Raum. Besonders im Globalen Süden, wo viele Menschen nur über Smartphones Zugang zum Internet haben, können solche niederschwelligen, chat-basierten Beteiligungsformate ganz neue Bevölkerungsgruppen ansprechen und in den demokratischen Prozess einbinden (vgl. More und Dutschke 2024).
Darüber hinaus können KI-Agenten Benutzer*innen helfen Beteiligungsplattformen zu bedienen, den aktuellen Stand der Diskussion zusammenfassen und auf Kommentare oder relevante Vorschläge hinweisen (Landemore 2024). Eventuell können KI-Agenten sogar genutzt werden, um Diskussionen zu moderieren. Dieser Ansatz wird zum Beispiel von Stanford für sogenannte Deliberative Polls erprobt (Gelauff et al. 2023). Deliberative Polls sind kleine Bürger*innenräte, die zumeist online stattfinden. Mit der Hilfe von KI können Diskussionsrunden moderiert werden und so die Anzahl und Beteiligung an durchgeführten Deliberative Polls massiv erhöht werden. Dies ist wünschenswert, da Deliberative Polls die Polarisierung der Teilnehmer*innen oft reduziert (Fishkin et al. 2021).
Zusammenfassend zeigen diese Beispiele, dass KI helfen kann, den Zugang zur demokratischen Beteiligung zu vereinfachen und somit auf vielfältige Art breiteren Bevölkerungsteilen demokratische Mitsprache ermöglicht.
III. Bessere Repräsentation durch KI
Um zu garantieren, dass ein Beteiligungsprozess tatsächlich repräsentativ ist, reicht es allerdings nicht aus, dass sich genug Bürger*innen einbringen. Auch der Prozess selbst muss so gestaltet sein, dass er nicht nur die Mehrheitsmeinung widerspiegelt, sondern auch Minderheiten angemessenes Gehör verschafft. Das Grundprinzip der Demokratie ist zwar die Herrschaft der Mehrheit, aber der Schutz und die angemessene Berücksichtigung von Minderheiten ist genauso essenziell für eine demokratische Gesellschaft. In Österreich erreichen wir dies unter anderem durch das Prinzip der proportionalen Repräsentation (Verhältniswahlrecht) in den Parlamenten; das heißt, eine Partei, die 20 % der Stimmen erhalten hat, sollte auch in etwa 20 % der Sitze im Parlament erhalten.
Obwohl dieses Prinzip bei politischen Wahlen in Österreich fest verankert ist, werden die meisten Beteiligungsverfahren nach einfachem Mehrheitsrecht entschieden. Das führt dazu, dass zum Beispiel bei einem partizipativen Budget eine (relative) Mehrheit der Bürger*innen über 100 % des Budgets bestimmen könnte. Tatsächlich sehen wir in der Praxis, dass dies zu Verzerrungseffekten führen kann, die bestimmten Bevölkerungsgruppen überproportional viel Macht geben. Da Bürger*innen bei partizipativen Budgets tendenziell für Projekte in ihrer direkten Nachbarschaft stimmen, neigen diese Prozesse bei Verwendung des simplen Mehrheitswahlrechts zum Beispiel dazu, dichter bewohnte Stadtteile stark überzurepräsentieren. Anschaulich sieht man diesen Effekt bei einem partizipativen Budget in der Schweizer Stadt Aarau, das von einer internationalen Gruppe von Wissenschaftler*innen begleitet wurde. Betrachtet man nur Projekte, die sich einem Stadtteil zuordnen lassen, fallen ungefähr 50 % der Stimmen auf Projekte des sogenannten Zentralbezirks, während sich die anderen 50 % der Stimmen auf die restlichen Stadtteile verteilen (Stadt Aarau 2023). Wählt man nun einfach die populärsten Projekte aus, befinden sich diese aber alle im Zentralbezirk.
Kann man, um solche Effekte zu vermeiden, das Prinzip der proportionalen Repräsentation auf die Entscheidungsfindung in Beteiligungsverfahren übertragen? Auf den ersten Blick scheint dies schwierig. Bei Parlamentswahlen können Wähler*innen nur für eine einzige Partei stimmen, wodurch intuitiv klar ist, was Repräsentation bedeutet. Bei einem partizipativen Budget können Bürger*innen aber üblicherweise für mehrere Projekte stimmen, wodurch einzelne Wähler*innen Teil ganz verschiedener Interessengruppen sein können. Noch unübersichtlicher ist die Lage bei deliberativen Prozessen, wo Wähler*innen verschiedene Beiträge zu gänzlich unterschiedlichen Themen unterstützen können.
Forscher*innen aus der Computational Social Choice, einem Teilbereich der KI-Forschung, haben in den letzten Jahren gezeigt, dass sich in vielen Fällen proportionale Repräsentation auch in komplizierten Beteiligungsverfahren erreichen lässt. Dazu werden innovative, algorithmisch komplexere Wahlregeln angewendet, die Wähler*innengruppen mit ähnlichen Interessen identifizieren können und diesen Gruppen dann eine proportionale Repräsentation garantiert. Eine solche Wahlregel ist die Methode der gleichen Anteile für partizipative Budgets (Peters und Skowron 2024), die schon den Sprung aus der Forschung in die Praxis geschafft hat und in einigen Städten in Europa verwendet wird. Eine dieser Städte ist das bereits erwähnte Aarau. Betrachtet man wieder nur Projekte, die sich einem Stadtteil zuordnen lassen, sieht man, dass in Aarau mit der Methode der gleichen Anteile ziemlich genau 50 % des Budgets für Projekte im Zentralbezirk ausgegeben wurden, während das restliche Budget für Projekte in anderen Stadtteilen verwendet wurde, genauso wie man es nach dem Prinzip der proportionalen Repräsentation erwarten würde.
Ein anderes Problem im Bereich der deliberativen Demokratie ist die faire Zusammenfassung von großen Online-Debatten mit vielen tausenden Beiträgen. Hier ist es Teilnehmer*innen nicht mehr möglich, sich einen vollständigen Überblick über den Diskussionsfortschritt zu verschaffen, geschweige denn ihre Meinung zum Diskussionsfortschritt vollständig auszudrücken. Allerdings können selbst komplexe Wahlregeln kein repräsentatives Ergebnis garantieren, weil nur ein bruchstückhaftes Meinungsbild vorliegt. Um dieses Problem zu umgehen, verwenden Diskurs-Plattformen wie vTaiwan und Pol.is maschinelles Lernen, um Diskussionen auf repräsentative Weise zusammenzufassen. Solche Verfahren können für konsultative Beteiligungsprozesse sehr wertvoll sein, bei denen das Ergebnis einen beratenden oder informierenden Charakter hat. Es ist hier aber auch wichtig festzustellen, dass das Ergebnis von maschinellem Lernen selbst für Expert*innen eine Black Box darstellt und nur schwer zu interpretieren ist. Daher ist reines maschinelles Lernen für Einsätze wie die Erstellung einer neuen Verfassung kaum geeignet. In diesem Bereich ist deshalb noch weitere Forschung notwendig, insbesondere wenn es darum geht, maschinelles Lernen mit den Repräsentationsgarantien klassischer Ansätze zu kombinieren (wie sie zum Beispiel die Methode der gleichen Anteile bietet).
Zusammenfassend möchten wir anmerken, dass die vollständige Repräsentation und Inklusion aller Meinungen in demokratischen Prozessen zwar ein erstrebenswertes Ideal ist, aber man sich diesem Ideal in der Praxis nur annähern kann. Die hier vorgestellten Konzepte zeigen, dass KI-System Schritte in Richtung umfassenderer Repräsentation ermöglichen können.
IV. Mehr Demokratie im Alltag durch KI
Wie schon zuvor angesprochen, erfordert jede demokratische Entscheidung kognitive Arbeit. Je mehr Entscheidungen demokratisch getroffen werden, desto mehr Zeit und Aufwand verlangt der demokratische Prozess. Ein radikaler Vorschlag für mehr direkte Demokratie liefert Virtuelle Demokratie (virtual democracy). Die Kernidee ist, dass jede*r ein persönliches, „virtuelles“ KI-Modell besitzt, das die eigenen (politischen) Präferenzen und Meinungen lernt. Mit genügend Zeit und Trainingsdaten – so ist die Hoffnung – kann dieses Modell die Person in politischen Entscheidungen vertreten und für sie Entscheidungen treffen (Gudiño et al. 2024). Theoretisch wäre es so möglich, dass eine große Zahl von politischen Entscheidungen mittels direkter Demokratie entschieden werden.
Diese Idee bringt mehrere Probleme mit sich, beginnend mit prinzipiellen Einwänden zu mehr direkter Demokratie bis hin zu technischen Zweifeln, z. B. ob politische Positionen akkurat gelernt werden können. Unserer Ansicht nach liegt die Stärke dieser Idee aber vor allem abseits schwerwiegender politischer Entscheidungen.
Eine erfolgreiche Anwendung von Virtueller Demokratie ist die Verteilung von Essensspenden in Pittsburgh, USA (Kahng et al. 2019). Der Verteilung von Essensspenden liegen komplexe Präferenzen zugrunde: die von Spender*innen (wer soll die Spende bekommen?), von Freiwilligen (welche Arbeiten bin ich bereit zu leisten?) und von Empfänger*innen (welche Spenden kann ich gebrauchen?). Mit Hilfe von Virtueller Demokratie konnten die Präferenzen von allen Beteiligten approximativ gelernt und so der Verteilungsprozess demokratisch gestaltet werden. Bei diesem Beispiel ist hervorzuheben, dass hier ein gewisser Spielraum für Fehler besteht (nicht jede Spende muss an die bestmöglichen Empfänger*innen gelangen).
Wenn wir diese Idee weiterdenken, sehen wir, dass sich der Einsatzbereich von Demokratie noch wesentlich erweitern lassen kann. Gerade Alltagsentscheidungen werden oft nicht demokratisch getroffen, allein weil der Aufwand dafür nicht bewältigbar wäre. Dabei wäre gerade im Alltag, in Kindergärten, Schulen, am Arbeitsplatz, in Vereinen, in Organisationen etc. mehr partizipative Mitgestaltung sehr wünschenswert. Selbst wenn Organisationen gemeinschaftliche Entscheidungen suchen, ist dies ein zeitintensiver Prozess, bei dem nicht alle gleichberechtigt teilnehmen können – aus verschiedensten Gründen.
Betrachten wir zum Beispiel den Speiseplan in einer Schule oder im Kindergarten. Ohne technische Unterstützung ist es definitiv nicht möglich demokratisch eine Speisenauswahl zu treffen, die auch den vielen faktischen Rahmenbedingungen gehorcht. Aber wünschenswert wäre die demokratische Inklusion von Kindern und Eltern in diesem Prozess sehr wohl. Oder denken wir an die Arbeitsplanung in einem großen Industriebetrieb. Auch hier wäre es wichtig, die individuellen Wünsche und Bedürfnisse aller Mitarbeiter*innen zu berücksichtigen. Während dies in eingeschränktem Umfang durchaus möglich ist, ist ein vollständig demokratischer Prozess vor allem durch Zeitbeschränkungen unmöglich. Wenn aber diese umfangreiche Planung mit hunderten oder tausenden Beteiligten von digitalen Agenten verhandelt werden könnte (selbstverständlich mit der Möglichkeit von menschlichem Einspruch), wäre ein beispielloser Grad an demokratischer Mitbestimmung erreicht.
Virtuelle Demokratie eröffnet also neue Möglichkeiten für demokratische Mitbestimmung. Entscheidungen, die zuvor von Einzelpersonen getroffen wurden, können durch die Auslagerung an (fähige) digitale Agenten gemeinschaftlich entschieden werden. Die Hoffnung ist, dass durch breitere Beteiligung auch bessere Entscheidungen getroffen werden und die gemeinschaftliche Inklusion erhöht wird.
V. Conclusio: Der Blick nach vorne
Die nächsten Jahre werden zeigen, welche Hoffnungen KI erfüllen kann und welche Probleme diese Technologie mit sich bringt. Der gesamtgesellschaftliche Nutzen von KI wird sich erst mit einigem zeitlichen Abstand wirklich beurteilen lassen. Es ist aber beachtenswert, dass sowohl bei Versprechungen als auch bei Warnungen hinsichtlich der Entwicklung von KI extreme Szenarien ernsthaft für möglich gehalten werden. Die Vision von Superintelligenz, also KI, die menschliche kognitive Fähigkeiten deutlich übertrifft, geht einher mit dem Bild einer wohlhabenden freien Welt. Dem gegenüber steht die Sorge vor einer Superintelligenz, die sich nicht mehr von Menschen kontrollieren lässt und sogar ein existenzielles Risiko für die Menschheit darstellt. Beide Szenarien werden von ernstzunehmenden Wissenschaftler*innen für möglich gehalten und deren Argumente verdienen genaue Aufmerksamkeit. Aber selbst wenn sich der Traum von einer Superintelligenz in absehbarer Zeit nicht bewahrheitet, birgt die Technologie KI viele Herausforderungen, Gefahren und Möglichkeiten, die unsere Gesellschaft in den nächsten Jahren prägen werden.
Mit dem Blick auf Demokratie und demokratische Systeme ist ebenso ein ganzes Spektrum von Auswirkungen denkbar. Ohne Zweifel birgt KI große Gefahren für Demokratie. KI-unterstützte Propaganda und Massenüberwachung geben autoritären Staaten größere Macht über ihre Bevölkerung. Autonome Waffensysteme können die Hemmschwelle von Krieg deutlich senken. Ebenso wird der absehbare rapide Wandel unserer Arbeits- und Lebenswelt durch KI für viele Menschen schwer nachvollziehbar sein und ihre Bereitschaft zur Anpassung im Übermaß fordern. Dies kann rückschrittliche Gegenbewegungen auslösen und populistische, kontraproduktive Lösungen mehrheitsfähig machen (wie z. B. die Abkehr von modernen gesellschaftlichen Errungenschaften). In diesem Sinne muss klar gesagt werden: es genügt nicht, wenn das Hauptaugenmerk von liberalen Demokratien auf den Schutz vor negativen Auswirkungen der KI gelegt wird (durch Regulierungen, Sozialsysteme etc.). Ebenso wichtig ist das Ergreifen der Chancen, die moderne Technologien mit sich bringen. Und gerade in Bezug auf die Demokratie selbst gibt es viele aussichtsreiche Forschungsbereiche, die zur Stärkung und Resilienz der Demokratie einen Beitrag leisten können.
Literatur
Landemore, Hélène (2024): Can Artificial Intelligence Bring Deliberation to the Masses?, in: Conversations in Philosophy, Law, and Politics, Oxford University Press. https://doi.org/10.1093/oso/9780198864523.003.0003.
Gelauff, Lodewijk/Nikolenko, Liubov/Sakshuwong, Sukolsak/Fishkin, James/Goel, Ashish/Munagala, Kamesh/Siu, Alice (2023): Achieving parity with human moderators: A self-moderating platform for online deliberation, in: The Routledge Handbook of Collective Intelligence for Democracy and Governance, Routledge.
Fishkin, James/Siu, Alice/Diamond, Larry/Bradburn, Norman (2021): Is deliberation an antidote to extreme partisan polarization? Reflections on “America in one room”, in: American Political Science Review, 115/4.
More, Lesego/Dutschke, Mira (2024): WhatsApp a powerful tool: virtual civil society oversight, capacity building, online unter: https://www.democracyworks.org.za/whatsapp-a-powerful-tool-virtual-civil-society-oversight-capacity-building/ (letzter Zugriff 01.02.2025).
Peters, Dominik/Skowron, Piotr (2024): Die Methode der gleichen Anteile, online unter: https://equalshares.net/de (letzter Zugriff 01.02.2025).
Stadt Aarau (2023): Auswertung Stadtidee, online unter https://www.stadtidee.aarau.ch/abstimmung.html/2114 (letzter Zugriff 01.02.2025).
Gudiño, Jairo F./Grandi, Umberto/Hidalgo, César (2024): Large language models (LLMs) as agents for augmented democracy, in: Phil. Trans. R. Soc. A 382: 20240100.
Kahng, Anson/Kyung Lee, Min/Noothigattu, Ritesh/Procaccia, Ariel D./Psomas, Christos-Alexandros (2019): Statistical Foundations of Virtual Democracy, in: Proceedings of the 36th International Conference on Machine Learning
JAN MALY
ist Assistant Professor am Institute for Data, Process and Knowledge Management an der WU Wienund Postdoctoral Researcher in der Database and Artificial Intelligence Research Group an der TU Wien. In seiner Forschung beschäftigt er sich hauptsächlich damit, wie die Informatik dabei helfen kann, bessere und fairere kollektive Entscheidungen zu treffen, in formalen demokratischen Prozessen oder im Alltag. Er ist außerdem Mitbegründer des European Digital Democracy Networks. Weitere Informationen online unter: https://janmaly.de/.
Kontakt: jan.maly@wu.ac.at.
MARTIN LACKNER
forscht an der TU Wien im Gebiet Künstliche Intelligenz, insbesondere an Computational Social Choice. Er ist Principal Investigator des FWF-Projekts Algorithmen für nachhaltige Entscheidungsfindung in Gruppen. Er ist Autor des Buchs Multi-Winner Voting with Approval Preferences (Springer 2023) sowie mehr als 60 weiteren wissenschaftlichen Publikationen. Weitere Informationen online unter: https://martin.lackner.xyz/.
Kontakt: lackner@dbai.tuwien.ac.at.