Menschen im Park bei Sonnenschein mit Hochhäusern im Hintergrund
Können KI-getriebene Systeme in Kommunen und im Staat zu mehr Gerechtigkeit und Lebensqualität beitragen? © Mason Dahl/unsplash

Wie stellen Sie sich einen modernen Sozialstaat vor? Die Technikforscherin Doris Allhutter kennt die gängigste Antwort. „Aktuell“, sagt sie, „stellen wir uns die Modernisierung des Sozialstaates durch die Einführung technischer Systeme, durch Daten und durch KI vor. Darüber stehen oft Leitbilder, die nicht das menschliche Wohlergehen, sondern die Effizienz der Verwaltung in den Vordergrund stellen.“

Die öffentliche Hand – von der Arbeitsvermittlung über den Gesundheits- und Sozialversicherungsbereich bis hin zur Stadtverwaltung – versucht, Services für Bürger:innen treffsicherer zu machen. Dafür setzen viele Organisationen und Institutionen auf das Sammeln von Daten und auf automatisierte Prozesse, die auf neuen Technologien beruhen. „Es gibt eine weite Bandbreite: von einfachen Systemen, die überprüfen, ob alle Daten in Anträgen vorhanden sind, über Chatbots und den Aufbau von Dateninfrastrukturen bis zum Einsatz von KI“, erklärt Allhutter, die am Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) arbeitet.

Was bedeutet das nun für uns Bürger:innen? Dieser Frage geht Allhutter mit europäischen Kolleg:innen im Forschungsprojekt „Die Automatisierung von Wohlfahrt“ (AUTO-WELF) nach, das vom Wissenschaftsfonds FWF gefördert wird. Das interdisziplinäre Team erforscht die Länder Österreich und Deutschland, Italien und Portugal, Estland und Polen sowie Dänemark und Schweden. Jedes Länderpaar repräsentiert ein sogenanntes „Wohlfahrtsregime“. Hierzulande ist dieses konservativ-korporatistisch geprägt. Das bedeutet, Sozialleistungen sind stark an die Erwerbstätigkeit geknüpft. Soziale Ansprüche von Partner:innen, die sich der Familien- und Pflegearbeit widmen, sind in vielen Fällen nur davon abgeleitet, erklärt Doris Allhutter.

Wo kommen welche Systeme zum Einsatz?

Die Art automatisierter Systeme und deren Verbreitung sind in den Ländern und deren Regionen sehr divers. Dennoch beobachteten die Forschenden über Europa verteilt ähnliche Entwicklungen. „Erst wurden technische Systeme in einzelnen Bereichen eingesetzt: Viele Länder versuchten etwa, Arbeitssuchende in Gruppen aufzuteilen. Dadurch wollten sie herausfinden, welche Unterstützung sie benötigen“, so Allhutter. Ein Beispiel dafür ist der Algorithmus, den das österreichische Arbeitsmarktservice (AMS) einzusetzen plante. Ein anderer Einsatzbereich ist der Versuch, datenbasiert „Wohlfahrtsbetrug“ aufzudecken.

Im Rahmen von AUTO-WELF eruieren die Forscherteams, welche Systeme aktuell eingesetzt werden. Näher erforscht werden pro Land zwei Systeme: eines im Bereich der Kernsozialleistungen und eines in der kommunalen Wohlfahrt, beispielsweise der Stadtentwicklung. „Wir untersuchen, wie die Systeme funktionieren – sprich, welche Daten fließen ein, wie werden sie zueinander in Beziehung gesetzt und wofür sollen sie eingesetzt werden“, erklärt Allhutter.

Alles für die Effizienz

Allhutter und ihr Team interviewten Entwickler:innen, Entscheidungsträger:innen und Sachbearbeiter:innen in österreichischen öffentlichen Institutionen. So bekamen sie Einblicke in die technische Entwicklung, den beabsichtigten Nutzen und mögliche Probleme in der Anwendung der Systeme.

„Viele zielen darauf ab, Arbeitsabläufe und Entscheidungen zu beschleunigen“, sagt Allhutter. Vor allem regelbasierte Systeme können Prozesse effizienter machen, etwa indem sie automatisch überprüfen, ob Anträge korrekt ausgefüllt wurden. „Diese Systeme arbeiten allerdings nur mit einer begrenzten Anzahl an Parametern.“ Soziale Verhältnisse hingegen seien komplex und ließen sich nicht so leicht in Computersystemen abbilden, wendet die Forscherin ein. Mit dem Ergebnis, dass datenbasierte Systeme Entscheidungen nicht zwangsmäßig objektiver und gerechter machen.

Ungleichheiten inklusive

Zugleich spiegeln Daten gesellschaftliche Ungleichheiten wider, wie man aus der Forschung weiß. Der AMS Berufsinformat schlug etwa Frauen vermehrt Berufe wie Friseurin oder Modehändlerin, Männern hingegen solche in der IT vor. Die Trainingsdaten, die der KI-basierte Chatbot erhielt, waren voller solcher stereotypen Zuschreibungen. Das AMS musste die Anwendung überarbeiten lassen. Das zeigt: Der Einsatz technischer Systeme kann unerwünschte Folgen haben, in dem er Ungleichheiten fortsetzt.

Der Algorithmus SyRI (System Risk Indication) der niederländischen Regierung ist ein weiteres, extremeres Beispiel dafür, wie technische Lösungen „falsche“ Ergebnisse ausspucken können. Gespeist mit Bevölkerungsdaten wurde es unter anderem eingesetzt, um aufzudecken, welche Familien unrechtmäßig Beihilfe bezogen. SyRI überprüfte vermehrt Familien mit Migrationshintergrund, die dann ungerechtfertigt die Beihilfe zurückzahlen mussten. Viele schlitterten dadurch in die Armut – und erfuhren erst Jahre später, warum.

Doris Allhutter sagt dazu: Damit Ungleichheiten sich nicht verstärken, braucht es einen rechtlichen und institutionellen Rahmen, regelmäßige Überprüfungen und Möglichkeiten der Einsichtnahme durch die Bürger:innen.

Die Folgen für Organisationen, Städte und Sozialstaat

„Wir interessieren uns für die Folgen des Einsatzes dieser Systeme. Das geht bis hin zu der Frage, wie sich Sozialpolitik verändert, wenn wir Daten sammeln. Auf dieser Basis wollen wir Modelle entwerfen, um herauszufinden, welche Maßnahmen gut funktionieren“, erklärt die Forscherin. Neue technische Systeme können Organisationen verändern, indem etwa eher Menschen mit technischen Kenntnissen eingestellt werden, um diese zu bedienen.

Auch Regionen, Städte und Gemeinden sammeln Daten – allerdings nicht über einzelne Personen, sondern etwa über Populationsdichte, Klima- und Umweltfaktoren. Viele versuchen diese auch zu nutzen, sagt die Technikforscherin: „Wir beobachten gerade den Trend, dass Städte sogenannte digitale Zwillinge erstellen.“ Solche Stadtmodelle können positive Effekte haben: „Mit diesen Modellen lassen sich auch Ungleichheitsverhältnisse darstellen. Das kann helfen, Schritte zu setzen, um die Verhältnisse zu verbessern.“ Ungleichheiten können sozialer Natur sein – etwa schlechtere Luftqualität in gewissen Stadtteilen.

Damit datenbasierte Modelle und technische Lösungen positive Veränderungen anstoßen, sei es wichtig, dass die Menschen, die es letztendlich betrifft, mitentscheiden dürfen, wo sie eingesetzt werden, plädieren die Wissenschaftler:innen. Auch aus diesem Grund führen die Forschungsteams Workshops mit der Bevölkerung durch. In Österreich gibt es etwa im September 2024 im Rahmen des Ars Electronica Festivals in Linz die Möglichkeit, sich mit den Forschenden auszutauschen. „Wir wollen herausfinden, was die Bürgerinnen und Bürger wirklich vom Sozialstaat und ihrer Stadt wollen, wenn man von Vorstellungen der Effizienz weggeht“, erläutert Allhutter.

Die nächsten Schritte

Ende Oktober 2025 wird AUTO-WELF abgeschlossen sein. Neben den Gesprächen mit den Bürger:innen werden die Forschenden dann die internationalen Fälle auch im Ländervergleich analysiert haben. Und zusätzlich zu den Forschungspapers werden sie auch politische Handlungsempfehlungen für die einzelnen Länder verfassen.

Die vermeintliche Tatsache, dass Sozialstaaten zu wenig Geld zur Verfügung haben, lasse sich nicht einfach auf höheren Bedarf zurückführen, sondern auf die Verteilung von Ressourcen, betont Allhutter. Was sollte also ihrer Ansicht nach einen modernen Sozialstaat ausmachen? „Er sollte mittels technischer Systeme vor allem eines herstellen: Gerechtigkeit.“

Das Projekt „Automatisierung der Wohlfahrt“ (AUTO-WELF) läuft von 2022 bis 2025 und wird im Rahmen des europäischen Forschungsprogramms HERA vom Wissenschaftsfonds FWF mit rund 306.000 Euro gefördert.

Zur Person

Doris Allhutter ist Senior Scientist am Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften (ÖAW). Sie studierte Wirtschaftswissenschaften an der Wirtschaftsuniversität (WU) Wien, absolvierte das Postgraduate-Programm „Governance in Europe“ am Institut für Höhere Studien (IHS) und provomierte an der Universität Wien in Politikwissenschaft. Doris Allhutter lehrt am Institut für Wissenschafts- und Technikforschung der Universität Wien und ist Mitglied des UNESCO-Beirats für Ethik der Künstlichen Intelligenz. Sie war Gastforscherin, unter anderem an der UC Berkeley und am Vassar College in New York, sowie Fellow am Paderborner Forschungskolleg „Datengesellschaft“ und am Digital Curation Institute (DCI) an der Universität Toronto.

Publikationen

Kaun A., Lomborg St. et al.: Crosscurrents: Welfare, in: Media, Culture & Society 2023

Allhutter D., Cech F. et al.: Algorithmic Profiling of Job Seekers in Austria: How Austerity Politics Are Made Effective, in: Frontiers in Big Data 2020

Allhutter D.: Of “Working Ontologists” and “High-quality Human Components”. The Politics of Semantic Infrastructures, in: DigitalSTS: A Field Guide for Science & Technology Studies 2019

Erkunden Sie weiter

Die Hälfte aller Menschen mit Leberzirrhose verliert krankhaft an Muskelmasse. Eine Grazer Forschungsgruppe hat das „Missing Link“ zwischen Leber und Muskel gefunden.

10.06.2024
Biologie & Medizin
Illustration von Bakterien im Darm

Wie es Kindern aus Regenbogenfamilien in Österreich im Alltag geht, darüber weiß die Forschung noch recht wenig. Psycholog:innen der Universität Wien führen nun die erste Längsschnittstudie in Österreich durch.

05.06.2024
Kultur & Gesellschaft
Porträtbild junger Frau mit halblangem dunkelblondem Haar in roter Bluse

Die Physikerin Karin Hain sucht nach neuen Methoden, um menschengemachte radioaktive Spurenelemente in der Umwelt zu finden.

03.06.2024
Natur & Technik
Projektmitarbeiter und Doktorand Andreas Wiederin und Karin Hain vor dem Teilchenbeschleuniger, dem Herzstück der Anlage VERA in Wien.

Der Soziologe Bojan Bilić beobachtet seit Jahren die Entwicklung der LGBTIQ-Szene im postjugoslawischen Raum.

27.05.2024
Kultur & Gesellschaft
Banner und Teilnehmende bei der Europride Parade 2022, Belgrad

Der Statistiker Gregor Kastner arbeitet daran, die Grundlagen für bessere Vorhersagen in Wirtschaft und Ökologie zu schaffen.

21.05.2024
Natur & Technik
Screen mit Börsekursen vor einer Bank

Neue Untersuchungen von Hirntumoren zeigen, wie Tumorzellen das Immunsystem für ihre eigenen Zwecke umprogrammieren.

13.05.2024
Biologie & Medizin
CT-Aufnahmen des Gehirns im Labor mit Patient:in in der Röhre
Nach oben scrollen