Automatisierung der Wohlfahrt

In vielen europäischen Ländern ist der Wohlfahrtssektor mit wachsendem Bedarf und schrumpfenden Ressourcen konfrontiert. Um sozialstaatliche Leistungen effektiv zu verteilen und die Effizienz der öffentlichen Verwaltung zu erhöhen, wird daher immer mehr auf die Automatisierung von Entscheidungsprozessen gesetzt. Es gibt die Vision, dass die Wohlfahrt durch datenbasierte Entscheidungsunterstützung und künstliche Intelligenz radikal verändert werden kann. Wir leben in einer Welt, in der die Automatisierung in vielen Bereichen Aufwand und Kosten reduzieren soll. Was geschieht aber mit menschlichem Wohlergehen, sozialer Gerechtigkeit und Gleichheit, wenn diese Logik für Entscheidungen im Wohlfahrtssektor eingesetzt wird? AUTO-WELF untersucht den steigenden Einsatz automatisierter Entscheidungsfindung im Wohlfahrtssektor in Europa. Es ist das erste Projekt, das eine Analyse der Automatisierung von Wohlfahrtsservices in verschiedenen europäischen Sozialsystemen liefert. Im Zentrum stehen die Auswirkungen von Algorithmen und künstlicher Intelligenz auf die Zukunft der europäischen Bürger*Innen und Gesellschaften. Automatisierte Entscheidungssysteme erfüllen viele Funktionen in der Gesellschafteinige davon sind alltäglich und werden als relativ unproblematisch und vorteilhaft wahrgenommen. Andere wiederum können sich negativ auf die Lebensumstände von Bürger*innen auswirken. Die Entwicklung datenbasierter Infrastrukturen in der öffentlichen Verwaltung hat Auswirkungen auf die menschliche Handlungsmacht innerhalb dieser komplexen soziotechnischen Systeme. Das wirft viele ethische und politische Fragen in Bezug auf Transparenz und Rechenschaftspflicht sowie auf systemischen Bias und soziale Ungleichheiten auf. Die Systeme wirken sich nicht nur auf die Wohlfahrt und die öffentliche Verwaltung aus, sondern auch auf die Art und Weise, wie der Staat mit Bürger*innen interagiert und wie sich das Verhältnis zwischen Bürger*innen und Staat verändert. AUTO-WELF stellt die Perspektive der Menschen in den Vordergrund, die in den Automatisierungsprozess eingebunden sind - die Entwickler*innen der Systeme, die Sachbearbeiter*innen, die mithilfe datenbasierter Systeme über die Vergabe von Sozialleistungen entscheiden, und die Menschen, deren Daten in die Systeme einfließen und sie weiter trainieren. Das Projekt erarbeitet notwendiges Wissen über die Folgen von automatisierten Prozessen in zwei Bereichen: erstens, in Kerndienstleistungen der Wohlfahrt, wie Arbeitsvermittlung, Gesundheitsfürsorge und Bereitstellung von Sozialleistungen; und zweitens, in der Automatisierung von kommunaler Wohlfahrt im Rahmen von Smart-City- und Smart-Village-Initiativen, die automatisierte soziale Infrastrukturen für gemeinschaftliche Aktivitäten und die Stadtentwicklung bereitstellen. Wir untersuchen diese Bereiche in acht europäischen Ländern: Österreich und Deutschland, Italien und Portugal, Estland und Polen, sowie Dänemark und Schweden repräsentieren verschiedene Modelle des Sozialstaats und unterschiedliche Stufen von Automatisierung. Mit seinem interdisziplinären Ansatz entwickelt AUTO-WELF ein tiefgehendes Verständnis der Automatisierung des Wohlfahrtsstaates aus einer europäischen Perspektive. Das Projekt wird wesentliche Erkenntnisse darüber liefern, wie automatisierte Entscheidungsfindung das menschliche Wohlergehen unterstützen, aber auch beeinträchtigen kann.

Mit der zunehmenden Nutzung großer Datensätze und immer leistungsfähigerer Rechenmodelle erleben wir eine neue Phase der digitalen Transformation des Wohlfahrtsstaates. Diese Entwicklung wird maßgeblich durch künstliche Intelligenz (KI), algorithmische Entscheidungsunterstützung und den verstärkten Einsatz von Datenanalysen vorangetrieben. Im Rahmen des Projekts AUTO-WELF wurden die Auswirkungen automatisierter Systeme in acht europäischen Ländern untersucht: Österreich, Dänemark, Estland, Deutschland, Italien, Polen, Portugal und Schweden. In Österreich und Portugal wurde die Studie von einem Team unter der Leitung von Dr. Doris Allhutter an der Österreichischen Akademie der Wissenschaften durchgeführt, in Zusammenarbeit mit einem europäischen Konsortium geleitet von Prof. Anne Kaun. In der öffentlichen Verwaltung werden derzeit von internen Abteilungen und in Public-Private-Partnerships zahlreiche datenbasierte Systeme entwickelt. Die Delegation von Entscheidungsprozessen an Algorithmen, KI und Datenanalysen-häufig begleitet von organisatorischen Anpassungen-verändert grundlegend, wie Bürgerinnen und Bürger mit dem Staat interagieren und wie Macht im Sozialstaat ausgeübt wird. Diese Systeme werden mit dem Ziel eingeführt, öffentliche Politik kosteneffizient und evidenzbasiert zu gestalten. Allerdings zeigen bisherige Forschungsergebnisse, dass Datenverzerrungen, fehlerhafte Modelle und mangelnde Transparenz erhebliche Probleme verursachen. Solche schwer nachvollziehbaren Veränderungen haben direkte Auswirkungen auf die Lebensgrundlagen der Menschen sowie auf ihre Rechte und Pflichten. In Österreich und Portugal lässt sich die schrittweise Einführung und Ausweitung datenbasierter Systeme in verschiedenen Bereichen beobachten. Erstens kommen Algorithmen zunehmend bei der Erbringung öffentlicher Leistungen zum Einsatz: So wird in beiden Ländern beispielsweise die Aufdeckung von Sozialbetrug im öffentlichen Sozialversicherungswesen automatisiert. Zweitens werden essenzielle Dienste immer stärker durch Daten gesteuert: In Lissabon entsteht beispielsweise ein Urban Management and Intelligence Centre mit einer Datenintegrationsplattform, die von öffentlichen Dienstleistern wie Rettungsdiensten und Verkehrsbetrieben genutzt wird. Drittens werden Daten in vernetzten Dateninfrastrukturen für unterschiedliche öffentliche Zwecke zusammengeführt: In Österreich sammelt die Open Government Data Plattform Metadaten aus dezentralen Quellen der öffentlichen Verwaltung, das Austrian Micro Data Centre stellt Verwaltungsdaten für akkreditierte Forschungseinrichtungen bereit, und Städte entwickeln digitale GeoTwins zur Optimierung des Stadtmanagements. Diese und vergleichbare Beispiele aus den acht Ländern wirken wie ein fortlaufender Beta-Test, der einen wachsenden Aufwand für Datenpflege mit sich bringt. Informationen darüber, wie datenbasierte Systeme in der Sozialpolitik eingesetzt werden, sind jedoch oft fragmentiert, unvollständig und schwer zugänglich. Obwohl es herausfordernd ist, die sozialen Auswirkungen solcher Systeme systematisch zu dokumentieren, zeigt AUTO-WELF, dass ihre Einführung häufig mit einer stillschweigenden Neuausrichtung wohlfahrtsstaatlicher Ziele verbunden ist. Datenbasierte Systeme verändern das Wissen und die Arbeitspraktiken in öffentlichen Institutionen grundlegend. Daten werden zunehmend als strategische, infrastrukturelle Ressource genutzt. Dabei treten charakteristische neoliberale Entwicklungen zutage, wie die Individualisierung sozialer Probleme, die Einschränkung rechtlich garantierter sozialer Rechte durch in der Technologie verborgene Entscheidungen, die Priorisierung der Überwachung von Anspruchsberechtigten im Sozialsystem gegenüber einem universellen Zugang zu hochwertigen sozialen Leistungen und Diensten sowie die mangelnde Einbindung von Beamten und der Zivilgesellschaft in die Gestaltung von Reformen.