Skalierbare Optimierung für interpretierbares ML
Scalable Optimization for Interpretable Machine Learning
Wissenschaftsdisziplinen
Informatik (15%); Mathematik (85%)
Keywords
- Copositive Optimization,
- Complementarity Constraints,
- Completely Positive Reformulation,
- Double Nonnegative Relaxation,
- Interpretable Machine Learning
Maschinelles Lernen wird zunehmend in Bereichen wie Finanzwesen und medizinischer Versorgung eingesetzt, in denen Entscheidungen sowohl präzise als auch nachvollziehbar sein sollten. Viele leistungsfähige Modelle funktionieren jedoch als Black Boxes und lassen kaum erkennen, wie ihre Vorhersagen entstehen. Dieses Projekt betrachtet Interpretierbarkeit aus der Perspektive der mathematischen Optimierung und verbindet transparente Modellstrukturen mit effizienter Berechnung. Interpretierbare Lernprobleme werden in einem einheitlichen Rahmen als quadratische Optimierungsprobleme mit Komplementaritätsbedingungen beschrieben. Diese Formulierung bildet die logischen Beziehungen ab, die den Entscheidungen eines Modells zugrunde liegen, etwa welche Merkmale in einer Vorhersage aktiv oder inaktiv sind. Um diese komplexen Modelle rechnerisch beherrschbar zu machen, nutzt das Projekt zunächst Sparsamkeitsmuster in ihrer Struktur und reformuliert sie zu kompakten konvexen Problemen in höherdimensionalen Räumen. Anschließend werden diese Darstellungen in enge, aber lösbare konvexe Relaxationen überführt, die die wesentlichen Eigenschaften der ursprünglichen Modelle bewahren und gleichzeitig eine effiziente Berechnung ermöglichen. Die resultierenden Relaxationen werden mit First-Order-Zerlegungsverfahren gelöst, die sich auch für große Datensätze eignen. Diese Algorithmen werden in ein struktur-sensitives Branch-and-Bound-Framework integriert, das die Relaxationen zur Steuerung der Suche nach global optimalen Lösungen nutzt. Durch die Verbindung präziser Modellierung und skalierbarer numerischer Verfahren entsteht eine Brücke zwischen Optimierungstheorie und interpretierbarem maschinellen Lernen. Die entwickelten Open-Source-Werkzeuge und Fallstudien zeigen, wie mathematische Optimierung datenbasierte Entscheidungen transparenter, vertrauenswürdiger und effizienter machen kann.
- University of Southern California , 24 Monate, Jong-Shi Pang
- Universität Wien , 12 Monate
- Immanuel Bomze, Universität Wien , nationale:r Kooperationspartner:in
- Emre Alper Yildirim, University of Edinburgh - Vereinigtes Königreich