KI versus Demokratie

KI zum Nutzen der Gesellschaft?

Aber wie kann eine Demokratie kontrollieren, was künstliche Intelligenz macht? Wie können wir sichergehen, dass die Entscheidungen, die KI-Systeme bereits jetzt vielfach in unserem Alltag treffen, zum Nutzen der Gesellschaft sind? „Das führt uns immer wieder zu hochphilosophischen Fragen, was Nutzen genau heißt, welche Werte in unserer Gesellschaft gelten und wer überhaupt darüber entscheidet“, so Maly.

Netzwerk für digitale Demokratie

Deshalb hält der Mitgründer des European Digital Democracy Network es für unerlässlich, dass sich die Informatik mit anderen Disziplinen wie der Philosophie, den Politik- und Sozialwissenschaften vernetzt, um Antworten auf diese Fragen zu finden. Ziel dieses Netzwerks ist es, Wissenschaftler:innen und Praktiker:innen zusammenzubringen, die aktiv an oder mit digitaler Demokratie arbeiten. Die erste Konferenz des Netzwerks im April 2024 in Rotterdam zählte mehr als sechzig Teilnehmende aus Wissenschaft und Praxis.

Faire Onlineentscheidungen

Für seine aktuellen Arbeiten zu Fairness in Onlineentscheidungen erhielt Maly Ende 2024 den „netidee SCIENCE“-Preis. Die über den Wissenschaftsfonds FWF vergebene Auszeichnung der Internet Stiftung in Höhe von rund 400.000 Euro ermöglicht ihm, Mechanismen für faire digitale Gruppenentscheidungen zu entwickeln.

Minderheiten werden nicht gehört

Mit der wachsenden sozialen Dimension internetbasierter Anwendungen in der Gesellschaft steigt auch die Bedeutung online geführter Entscheidungsprozesse. Gruppen treffen zunehmend Entscheidungen mittels verschiedener Onlinetools. Dazu gehören sowohl Entscheidungen über Regeln, die sich eine Onlinecommunity gibt, wie beispielsweise, welche Meinungen oder Inhalte unterstützt werden sollen, als auch Entscheidungen in der analogen Welt, die mithilfe von Onlinetools getroffen werden – von der Planung von Besprechungen bis hin zu größeren digitalen Partizipationsprozessen. „Die meisten Online-Gruppenentscheidungen basieren jedoch auf einfachen Mehrheiten. Einfache, nicht repräsentative Entscheidungsverfahren sorgen dafür, dass in vielen Onlinecommunitys Minderheitsmeinungen nicht gehört werden, was Filterblaseneffekte verstärkt und dafür sorgt, dass Menschen, die Teil einer Minderheit sind, sich oft nicht an Onlinediskussionen beteiligen, da sie kein Gehör finden“, so der Wissenschaftler der Wirtschaftsuniversität Wien.

Polarisierung verringern

Diese Dynamik veranschaulicht Maly am Beispiel von Kommentaren bei Onlinezeitungen: „Kommentare mit den meisten Upvotes werden angezeigt, mit der Folge, dass weniger populäre Minderheitsmeinungen nicht repräsentiert werden.“ Mit seiner Arbeit möchte Maly dazu beitragen, die Polarisierung zu verringern und Minderheiten mehr Repräsentation im politischen Diskurs zu ermöglichen.

Partizipative Budgets

Mit dem Forschungsfeld Computational Social Choice, in dem es unter anderem um Entscheidungen in digitalen Demokratieplattformen geht, begann sich der Wissenschaftler, der seinen Master in mathematischer Logik an der Universität Wien erworben hat, während seines Doktorats zu beschäftigen. 2021 ging er mit einem vom FWF finanzierten Erwin-Schrödinger-Stipendium nach Amsterdam, um bei einer der führenden Gruppen zu diesem Thema Fairness und Proportionalität bei Participatory Budgeting (partizipative Budgets) zu erforschen. Bei diesem Bürgerbeteiligungsverfahren können Bürger:innen entscheiden, wie das Budget ihrer Stadt eingesetzt werden soll.

Revolutionäre Idee von Brasilien in die Welt

Ausgehend von Brasilien, wo das Participatory Budgeting erstmals 1989 in der Stadt Porto Alegre unter der linken Arbeiterpartei PT (Partido dos Trabalhadores) eingeführt wurde, verbreitete sich diese damals revolutionäre Idee ab den 1990er-Jahren weltweit. In Brasilien konnten Bürger:innen entscheiden, wie das Gesamtbudget auf Bereiche wie Bildung, Polizei, Gesundheit usw. aufgeteilt wird. Mit Erfolg, denn „Studien haben gezeigt, dass etwa die Kindersterblichkeit um elf Prozent gesunken ist“, weiß Maly. Im Westen hat dieses Konzept eine neue, strukturiertere Form angenommen, Bürger:innen können Projekte vorschlagen und am Ende klassisch mittels Stimmzettel oder Onlinevoting abstimmen. „Das Konzept ist weit verbreitet. In Europa hat Paris mit 80 Millionen Euro das größte partizipative Budget“, so Maly.

Kinder entscheiden über Haushaltsmillion

In Wien gibt es seit 2021 mit der „Kinder- und Jugendmillion“ ein partizipatives Budget, über das Bürger:innen zwischen fünf und 20 Jahren abstimmen können. Ideen von Kindern, Schulklassen, Kindergartengruppen oder Vereinen können online eingereicht werden. Für den Prozess der Ideenfindung wurde das Kartenspiel „Junges Wien“ entwickelt, bei dem die Teilnehmenden spielerisch in einem partizipativen und demokratischen Prozess gemeinsam Ideen entwickeln können. Nach einem Prüfungsprozess und einer Onlineabstimmung können Projekte im Wert von bis zu 1 Million Euro realisiert werden. 2024 wurden damit beispielsweise Gratishygieneartikel für Schülerinnen oder Gratisschwimmkurse finanziert. „Im Westen geht es sehr oft um Stadtverbesserungsmaßnahmen und Infrastrukturprojekte wie Fußgängerzonen. Hier hat das Konzept etwas von seinem revolutionären Potenzial verloren“, so Maly.

Fairness über gleiche Anteile

Malys Forschungsansatz war, sich den partizipativen Prozess in einem breiteren Kontext anzuschauen, über mehrere Jahre hinweg und mit Blick auf die gesamte Stadt. Dabei stellte er fest, dass es noch einige offene Fragen gab, etwa dazu, wie Fairness und Verhältnismäßigkeit im proportionalen Wahlsystem überhaupt definiert werden. „Eine Interessensgruppe, die zehn Prozent der Bevölkerung ausmacht, sollte auch zehn Prozent des Budgets verteilen können. Diese Fairnessregel – die sogenannte Methode der gleichen Anteile – haben wir untersucht“, erzählt der Informatiker. Er beobachte seit ein, zwei Jahren einen Push in der Community, Städte zu überzeugen, diese Methode auch anzuwenden. Als Beispiel nennt der Wissenschaftler Wieliczka, eine Stadt in Polen, die seit zehn Jahren partizipative Budgets durchführt. Ein kleines vorgelagertes Dorf, das Teil der Stadt ist, aber nur fünf Prozent der Bevölkerung ausmacht, erhält seit Einführung der Methode der gleichen Anteile nun auch tatsächlich fünf Prozent des Budgets. „Damit erkennt man an, dass diese kleine Gruppe, dieses Dorf seine eigenen Bedürfnisse hat und damit die Chance erhält, eigene Projekte umzusetzen“, so Maly.

Fairness online

Wie aber kann Fairness funktionieren in einer weniger übersichtlichen Onlinewelt mit ihrer eigenen Logik? Eine alles andere als triviale Frage, der Maly in seinem Forschungsprojekt nachgeht. Dabei stellen sich zwei grundsätzliche Probleme: Nutzer:innen sehen – um beim Beispiel der Kommentare zu bleiben – nicht alle Kommentare, sondern nur einen Teil und stimmen deshalb auch nur über einen Ausschnitt ab. Zweitens gibt es kein vollständiges Wissen über die Nutzer:innen. Die Lösungsansätze, die der Wissenschaftler hier verfolgt, gehen Richtung logikbasierte künstliche Intelligenz. „Wir verwenden Methoden der Argumentationstheorie, um Meinungscluster zu finden und dann Nutzer:innen über diese Cluster zu repräsentieren“, erläutert er.

Meinungscluster

Das Problem bei der Machine-Learning-Software, die aktuell im Einsatz ist, ist laut dem Experten, dass man nicht nachvollziehen könne, was das Programm genau mache, und man daher keine Fairness garantieren könne. „Wir versuchen, ein System zu entwickeln, das sicherstellt, dass ein Meinungscluster, der von zehn Prozent der Nutzer:innen unterstützt wird, auch repräsentativ angezeigt wird“, sagt Maly und weist auf die noch ungelöste Frage hin, wie man mit Dislikes umgeht: „Wenn ein Kommentar von zehn Prozent gut und von 90 Prozent schlecht gefunden wird, ist es dann trotzdem okay, ihn zu verwenden, um die zehn Prozent zu repräsentieren? Wie wäge ich positive und negative Emotionen gegeneinander ab? Das muss noch konzeptuell gut durchdacht werden.“

Realistische Träume

Jan Maly ist sich sicher, dass die Algorithmen, die er und seine Kolleg:innen entwickeln, für Social Media anwendbar wären. „Aber wir werden Facebook wohl nicht davon überzeugen können, unsere gerechten Algorithmen zu verwenden, wenn das bedeutet, dass sie 100 Millionen Euro weniger verdienen, denn sie haben wirtschaftliche Interessen an diesen Filter-Bubbles.“ Deshalb hält er es für ein realistischeres Ziel seiner Forschung, wenn sie Anwendung in Gebieten wie Kommentaren von Onlinemedien findet. „Ich wünsche mir, dass es einen Knopf gibt, der sagt: ,Zeig mir ein repräsentatives Sample an Kommentaren‘, sodass ich eine Übersicht dazu bekomme, was die Leute wirklich denken“, beschreibt Maly seinen „realistischen Traum“.

Federated Social Media

Eine aktuelle Entwicklung in den USA, die er als sehr positiv wahrnimmt und mitverfolgt, sind sogenannte Federated-Social-Media-Plattformen wie Blue Sky, die das Monopol aufbrechen. „Wenn ich die Plattform nicht mehr für mich passend finde, weil sie Filter-Bubbles erzeugt, dann kann ich meinen Account mit allen Daten mitnehmen. Man kann einen eigenen Client programmieren, der dann zum Beispiel unsere Methoden umsetzt, um weniger Filter-Bubbles in Diskussionen zu erlauben. Das ist eine große Chance für neue kreative Onlinediskurse“, so Maly.

Ziel seiner Arbeit ist, open source, also frei verfügbare Methoden zu entwickeln, die dann einfach im Backend implementiert werden können. „Wir können zukünftigen Entwickler:innen von neuen Social-Media-Plattformen die Mittel an die Hand geben, unsere Methoden extrem einfach zu implementieren“, sagt er. Umso mehr freut er sich über die Konkurrenz unter den Social-Media-Plattformen, die durch Federated Social Media nun entsteht.

Dolce Vita auf Wienerisch

An Wien schätzt der gebürtige Nürnberger die hohe Lebensqualität: „Die Österreicher:innen sind genauso ehrgeizig, wissen aber viel besser als die Deutschen oder auch die Holländer:innen, wie man das Leben genießt“, schmunzelt er. „Auch mal drei Stunden im Kaffeehaus zu sitzen und Zeitung zu lesen, gehört hier zum guten Leben dazu. Es bringt am Ende eine breitere Weltsicht, wenn man nicht immer nur auf seine To-Dos fokussiert ist.“

KI – große gesellschaftliche Fragen

Die großen, weitsichtigen Fragen in seinem Fach – aber auch weit darüber hinaus – sieht der Wahlwiener im Umgang mit der künstlichen Intelligenz. Denn bereits heute treffen vielfach Algorithmen Entscheidungen über unser Alltagsleben und das wird sich mit KI verstärken. „Wie leiten wir das in Bahnen, dass es der Gesellschaft nützt, und wie entscheiden wir überhaupt, was nützlich für die Gesellschaft ist? Das sind die großen, wichtigen Fragen, denen wir uns in den nächsten Jahren nähern“, sagt der Experte.

Doch welchen Einfluss hat der AI Act der EU tatsächlich, während die KI in den USA entwickelt wird? Aus seinen Erfahrungen von Konferenzen wie der AAAI, der größten AI-Konferenz, sieht er sowohl seitens der Forschung als auch der Politik das Bewusstsein für die Notwendigkeit einer Regulierung. „Ich glaube, wir haben – im Gegensatz zur Entwicklung von Social Media – bei KI sehr viel früher das Bewusstsein entwickelt, dass es Regulierungen braucht. Zumindest in der Spitzenforschung, wo die Leute ausgebildet werden, die in Unternehmen wie Google arbeiten. Ich glaube, es gibt in den USA Bestrebungen, diese Entwicklungen in Europa zu verfolgen und selbst eine Regulierung auszuarbeiten“, zeigt er sich zuversichtlich.