Sozial erklärbare künstliche Intelligenz (SAI)

Die jüngste Welle künstlicher Intelligenz (AI), die auf maschinellem Lernen basiert, hatte enorme soziale und wirtschaftliche Auswirkungen. AI ist schon (oft verborgen) in viele unserer alltäglichen Erfahrungen (wie virtuelle Assistenten, Tracking-Ausrüstungen, soziale Medien, Empfehlungsprogramme) eingedrungen. Die Gemeinschaft der Forscher (und die Gesellschaft im Allgemeinen) hat schon erkannt, dass der jetzige, zentralisierte Zugang zur AI, wo unsere persönlichen Daten zentral gesammelt und durch undurchschaubare ML Systeme (Black Box) verarbeitet werden, langfristig kein annehmbares und nachhaltiges Model ist. Wir denken, dass die nächste Welle der ML getriebenen AI die folgenden Eigenschaften haben soll: (i) menschenzentrisch, (ii) erklärbar und (iii) besser verteilt und dezentralisiert (d.h., nicht zentral kontrolliert). Diese Prinzipien zeichnen die sozialen und ethischen Erwartungen der vertrauenswürdigen und die Privatsphäre respektierenden AI aus. Unser Projekt SAI wird die wissenschaftlichen Grundlagen für die neue ML-basierte AI-Systeme entwickeln, wobei folgende Punkte gesichert werden: (i) Individuation: In SAI wird jedes Individuum mit seinem eigenen Persönlichen AI Diener (PAIV) assoziiert; (ii) Personalisation: Die PAIVs verarbeiten die Daten von Individuen durch erklärbare AI Modelle, die den speziellen Eigenschaften ihrer humanen Zwillinge angepasst sind; (iii) zielgerichtete Wechselwirkung: die PAIVs wechselwirken miteinander um globale AI Modelle aufzubauen und/oder um zu globale Entscheidungen erlangen, die von lokalen (d.h., individuellen) Modellen ausgehen; (iv) Menschenzentrierung: die neuen AI-Algorithmen und die Wechselwirkungen zwischen den PAIV-s sind (quantifizierbare) Modelle des individuellen und sozialen Verhaltens ihrer humanen Benutzer; Erklärbarkeit: erklärbare ML-Techniken werden durch quantifizierbare humane Verhaltensmodelle und netzwerkwissenschaftliche Analyse erweitert um sowohl lokale als auch globale AI-Modelle schon durch Design erklärbar zu machen. Das Endziel von SAI ist die grundlegenden Elemente zu liefern, um eine dezentralisierte Kollektive erklärbarer PAIVs zu schaffen, und lokale und globale AI-Modelle zu entwickeln, deren Prozesse und Entscheidungen durchschaubar, erklärbar und zu den Bedürfnissen und Bedingungen der einzelnen Benutzer angepasst sind. Diese Aufgabe wird von 7 international führenden Institutionen gelöst. Die Rolle unserer Gruppe an der Central European University wird die Erkundung des PAIV-Netzwerks sein, eines komplexen Netzwerks aus Menschen und AI-Einheiten, um seine Struktur darzulegen und neue Phänomene, wie die Segregation von Meinungen auf diesem Netzwerk zu entdecken.

We started our research from the recognition that the current centralised approach to AI is not an acceptable and sustainable model in the long run. The vision of SAI was towards a decentralised "collective" of local machine-learning-based AI components, interpreting data and interacting according to human-centric design principles. We created models of coordination-free fully decentralized learning where individuals own in their mobile devices AI units and they neither share data with others nor use a centralized computing unit. The limited amount of local data is compensated by communicating model parameters between the AI units. Addressing this challenge required an interdisciplinary approach, bringing together AI experts and network scientists who leveraged their complementary knowledge. We solved several key problems, from the proper initialization of local models to designing an optimal inter-node communication scheme. While this issue was central to our project, we also made significant progress in analyzing the structure of human interaction networks-the underlying web that connects and enables communication between AI units.