Macht Digitalisierung den Sozialstaat gerechter?

Wo kommen welche Systeme zum Einsatz?

Die Art automatisierter Systeme und deren Verbreitung sind in den Ländern und deren Regionen sehr divers. Dennoch beobachteten die Forschenden über Europa verteilt ähnliche Entwicklungen. „Erst wurden technische Systeme in einzelnen Bereichen eingesetzt: Viele Länder versuchten etwa, Arbeitssuchende in Gruppen aufzuteilen. Dadurch wollten sie herausfinden, welche Unterstützung sie benötigen“, so Allhutter. Ein Beispiel dafür ist der Algorithmus, den das österreichische Arbeitsmarktservice (AMS) einzusetzen plante. Ein anderer Einsatzbereich ist der Versuch, datenbasiert „Wohlfahrtsbetrug“ aufzudecken.

Im Rahmen von AUTO-WELF eruieren die Forscherteams, welche Systeme aktuell eingesetzt werden. Näher erforscht werden pro Land zwei Systeme: eines im Bereich der Kernsozialleistungen und eines in der kommunalen Wohlfahrt, beispielsweise der Stadtentwicklung. „Wir untersuchen, wie die Systeme funktionieren – sprich, welche Daten fließen ein, wie werden sie zueinander in Beziehung gesetzt und wofür sollen sie eingesetzt werden“, erklärt Allhutter.

Alles für die Effizienz

Allhutter und ihr Team interviewten Entwickler:innen, Entscheidungsträger:innen und Sachbearbeiter:innen in österreichischen öffentlichen Institutionen. So bekamen sie Einblicke in die technische Entwicklung, den beabsichtigten Nutzen und mögliche Probleme in der Anwendung der Systeme.

„Viele zielen darauf ab, Arbeitsabläufe und Entscheidungen zu beschleunigen“, sagt Allhutter. Vor allem regelbasierte Systeme können Prozesse effizienter machen, etwa indem sie automatisch überprüfen, ob Anträge korrekt ausgefüllt wurden. „Diese Systeme arbeiten allerdings nur mit einer begrenzten Anzahl an Parametern.“ Soziale Verhältnisse hingegen seien komplex und ließen sich nicht so leicht in Computersystemen abbilden, wendet die Forscherin ein. Mit dem Ergebnis, dass datenbasierte Systeme Entscheidungen nicht zwangsmäßig objektiver und gerechter machen.

Ungleichheiten inklusive

Zugleich spiegeln Daten gesellschaftliche Ungleichheiten wider, wie man aus der Forschung weiß. Der AMS Berufsinformat schlug etwa Frauen vermehrt Berufe wie Friseurin oder Modehändlerin, Männern hingegen solche in der IT vor. Die Trainingsdaten, die der KI-basierte Chatbot erhielt, waren voller solcher stereotypen Zuschreibungen. Das AMS musste die Anwendung überarbeiten lassen. Das zeigt: Der Einsatz technischer Systeme kann unerwünschte Folgen haben, in dem er Ungleichheiten fortsetzt.

Der Algorithmus SyRI (System Risk Indication) der niederländischen Regierung ist ein weiteres, extremeres Beispiel dafür, wie technische Lösungen „falsche“ Ergebnisse ausspucken können. Gespeist mit Bevölkerungsdaten wurde es unter anderem eingesetzt, um aufzudecken, welche Familien unrechtmäßig Beihilfe bezogen. SyRI überprüfte vermehrt Familien mit Migrationshintergrund, die dann ungerechtfertigt die Beihilfe zurückzahlen mussten. Viele schlitterten dadurch in die Armut – und erfuhren erst Jahre später, warum.

Doris Allhutter sagt dazu: Damit Ungleichheiten sich nicht verstärken, braucht es einen rechtlichen und institutionellen Rahmen, regelmäßige Überprüfungen und Möglichkeiten der Einsichtnahme durch die Bürger:innen.

Die Folgen für Organisationen, Städte und Sozialstaat

„Wir interessieren uns für die Folgen des Einsatzes dieser Systeme. Das geht bis hin zu der Frage, wie sich Sozialpolitik verändert, wenn wir Daten sammeln. Auf dieser Basis wollen wir Modelle entwerfen, um herauszufinden, welche Maßnahmen gut funktionieren“, erklärt die Forscherin. Neue technische Systeme können Organisationen verändern, indem etwa eher Menschen mit technischen Kenntnissen eingestellt werden, um diese zu bedienen.

Auch Regionen, Städte und Gemeinden sammeln Daten – allerdings nicht über einzelne Personen, sondern etwa über Populationsdichte, Klima- und Umweltfaktoren. Viele versuchen diese auch zu nutzen, sagt die Technikforscherin: „Wir beobachten gerade den Trend, dass Städte sogenannte digitale Zwillinge erstellen.“ Solche Stadtmodelle können positive Effekte haben: „Mit diesen Modellen lassen sich auch Ungleichheitsverhältnisse darstellen. Das kann helfen, Schritte zu setzen, um die Verhältnisse zu verbessern.“ Ungleichheiten können sozialer Natur sein – etwa schlechtere Luftqualität in gewissen Stadtteilen.

Damit datenbasierte Modelle und technische Lösungen positive Veränderungen anstoßen, sei es wichtig, dass die Menschen, die es letztendlich betrifft, mitentscheiden dürfen, wo sie eingesetzt werden, plädieren die Wissenschaftler:innen. Auch aus diesem Grund führen die Forschungsteams Workshops mit der Bevölkerung durch. In Österreich gibt es etwa im September 2024 im Rahmen des Ars Electronica Festivals in Linz die Möglichkeit, sich mit den Forschenden auszutauschen. „Wir wollen herausfinden, was die Bürgerinnen und Bürger wirklich vom Sozialstaat und ihrer Stadt wollen, wenn man von Vorstellungen der Effizienz weggeht“, erläutert Allhutter.

Die nächsten Schritte

Ende Oktober 2025 wird AUTO-WELF abgeschlossen sein. Neben den Gesprächen mit den Bürger:innen werden die Forschenden dann die internationalen Fälle auch im Ländervergleich analysiert haben. Und zusätzlich zu den Forschungspapers werden sie auch politische Handlungsempfehlungen für die einzelnen Länder verfassen.

Die vermeintliche Tatsache, dass Sozialstaaten zu wenig Geld zur Verfügung haben, lasse sich nicht einfach auf höheren Bedarf zurückführen, sondern auf die Verteilung von Ressourcen, betont Allhutter. Was sollte also ihrer Ansicht nach einen modernen Sozialstaat ausmachen? „Er sollte mittels technischer Systeme vor allem eines herstellen: Gerechtigkeit.“

Das Projekt „Automatisierung der Wohlfahrt“ (AUTO-WELF) läuft von 2022 bis 2025 und wird im Rahmen des europäischen Forschungsprogramms HERA vom Wissenschaftsfonds FWF mit rund 306.000 Euro gefördert.

Zur Person

Doris Allhutter ist Senior Scientist am Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften (ÖAW). Sie studierte Wirtschaftswissenschaften an der Wirtschaftsuniversität (WU) Wien, absolvierte das Postgraduate-Programm „Governance in Europe“ am Institut für Höhere Studien (IHS) und provomierte an der Universität Wien in Politikwissenschaft. Doris Allhutter lehrt am Institut für Wissenschafts- und Technikforschung der Universität Wien und ist Mitglied des UNESCO-Beirats für Ethik der Künstlichen Intelligenz. Sie war Gastforscherin, unter anderem an der UC Berkeley und am Vassar College in New York, sowie Fellow am Paderborner Forschungskolleg „Datengesellschaft“ und am Digital Curation Institute (DCI) an der Universität Toronto.

Publikationen

Kaun A., Lomborg St. et al.: Crosscurrents: Welfare, in: Media, Culture & Society 2023

Allhutter D., Cech F. et al.: Algorithmic Profiling of Job Seekers in Austria: How Austerity Politics Are Made Effective, in: Frontiers in Big Data 2020

Allhutter D.: Of “Working Ontologists” and “High-quality Human Components”. The Politics of Semantic Infrastructures, in: DigitalSTS: A Field Guide for Science & Technology Studies 2019