XAIface

Gesichtserkennungsverfahren haben sich zu einer Schlüsseltechnologie in unserer Gesellschaft entwickelt, die mittlerweile in den unterschiedlichsten Anwendungsbereichen eingesetzt werden und dementsprechend auch gleichzeitig Auswirkungen auf die Privatsphäre haben. Da Lösungen zur Gesichtserkennung, die auf Künstlicher Intelligenz (KI) basieren, immer größere Beliebtheit erfahren, ist es notwendig die Funktionsweise dieser angemessen zu verstehen, um sie so effektiver gestalten zu können und schlussendlich auch die gesellschaftliche Akzeptanz zu fördern. In diesem Projekt konzentrieren wir uns auf die Analyse der Einflussfaktoren, die für die Entscheidungsfindung eines KI-basierten Gesichtserkennungssystem relevant sind und sehen darin, einen entscheidenden Schritt in Richtung eines besseren Verständnisses der zugrunde liegenden Prozesse. Der im Projekt verfolgte wissenschaftliche Ansatz, ist so konzipiert, dass er auch auf andere Anwendungsfälle, wie beispielsweise Objektdetektionen und Mustererkennungsaufgaben in einem breiteren Anwendungsspektrum, anwendbar sein wird. Dank des interdisziplinären Charakters des Konsortiums werden die Ergebnisse von XAIface verschiedene Wissenschaftsbereiche betreffen und lassen sich wie folgt zusammenfassen: (i) die Entwicklung von rechtlichen Leitlinien hinsichtlich des Einsatzes und dem Design von KI- basierter Gesichtserkennung nach dem Privacy-by-design-Ansatz; (ii) die Entflechtung der demographischen Faktoren (Alter, Geschlecht, ethnische Zugehörigkeit) von der Gesamtdarstellung des menschlichen Gesichts, um die Auswirkungen solcher Merkmale auf Gesichtserkennungsverfahren zu verstehen, aber auch um eine demographie-freie Gesichtserkennung zu entwickeln; (iii) die Behandlung von Fairness- und Diskriminierungsproblemen mit der Idee des De-Biasing während der Trainingsphase; (iv) die Optimierung des Kompromisses zwischen Interpretierbarkeit und Leistungsperformance; (v) das Erstellen von Tools, die eine Bewertung und die Messbarkeit der Perfomance und Erklärbarkeit der Entscheidungen von KI-basierten Gesichtserkennungssystemen ermöglichen sollen; (vi) die Analyse der Auswirkungen von Bildkodierungen, um besser zu verstehen, wie künftige KI-basierte Kodierungslösungen unter dem Gesichtspunkt der Erklärbarkeit anders sein könnten. Die daraus gewonnenen Ergebnisse werden in die Implementierung eines End- to-End-Gesichtserkennungssystem miteinfließen, um so die Auswirkungen der verschiedenen Systemprozesse hinsichtlich Erkennungsleistung und Erklärbarkeit untersuchen zu können. Dies wird eine Anwendungsfallstudie liefern, wie man die Erklärbarkeitsanalyse mit den von uns im Projekt bereitgestellten Tools durchführt.

Das Ziel des CHIST-ERA-Projekts XAIface konzentriert sich auf KI-basierte Gesichtserkennungstechnologien, insbesondere auf das Verständnis und die Erklärung ihrer Funktionsweise, um sie effektiver und gesellschaftlich akzeptabler zu gestalten und gleichzeitig den rechtlichen Rahmen einzuhalten. Die Endergebnisse sind: ein Rahmen und ein Toolkit zur Verbesserung der Erklärbarkeit von KI-Entscheidungen im Kontext der automatisierten Gesichtserkennung durch mehrere neuartige Methoden. Diese Tools sind in ein End-to-End-Demonstrationssystem für die integrierte Gesichtserkennung, das die Untersuchung der Auswirkungen verschiedener Einflussfaktoren und Systemprozesse auf die Erkennungsleistung erleichtert. Auf diese Weise kann anhand von Heatmaps und lokal interpretierbaren Merkmalen visuell erklärt werden, wie die Entscheidungen der Gesichtsverifizierungspipeline für bestimmte Instanzen in unserem Testset getroffen werden. Darüber hinaus bieten wir eine umfassende Erklärung des End-to-End-Modells, indem wir den Zusammenhang zwischen Verifizierungsfehlern und Fehlklassifizierungen weicher biometrischer Gesichtsmerkmale untersuchen. Basierend auf diesen Ergebnissen und ihren Auswirkungen wird eine umfassende rechtliche Analyse bereitgestellt.