Ein Referenz-Modell für Explainable AI in der Medizin

Der Fortschritt in statistischen maschinellen Lernmethoden (ML) hat die Künstliche Intelligenz (KI) zunehmend erfolgreich gemacht. Deep Learning übertrifft mittlerweile sogar die menschliche Leistungsfähigkeit, sogar im medizinischen Bereich. Ihr volles Potenzial ist jedoch begrenzt durch die Schwierigkeit, zugrunde liegenden erklärende Strukturen zu generieren. Das zentrale Problem ist, dass solche Modelle als "Black-Boxes" betrachtet werden und selbst wenn wir die mathematischen Prinzipien verstehen, fehlt eine explizite deklarative Wissensrepräsentation. Dies erfordert Werkzeuge, die es ermöglichen, Entscheidungen transparent, verständlich und erklärbar zu machen. Eine große Motivation für dieses Projekt sind steigende rechtliche und Datenschutzprobleme, welche die Nutzung von "Black-Boxes" erschweren. Dies bedeutet kein Verbot automatischer Lernansätze oder eine Verpflichtung, alles ständig zu erklären. Es muss jedoch möglich sein, die Ergebnisse bei Bedarf nachverfolgbar zu machen. Das Thema dieses Projekts ist Erklärbarkeit und unser Ziel ist es, bestehende AI/ML-Algorithmen transparent, nachvollziehbar und damit für einen Mediziner verständlich zu machen und einen möglichen neuen Ansatz zur erklärbaren KI aufzuzeigen. Wir haben von einer Vielzahl von technischen Lösungen gelernt, die derzeit entwickelt werden und die helfen könnten, AI/ML-Systeme und ihre Entscheidungen zu erklären. Transparente Algorithmen könnten das Vertrauen von Medizinern entsprechend verbessern und dadurch die Akzeptanz von maschinellen Lernlösungen speziell und von KI generell erhöhen. Wir werden ML mit einem kontinuierlichen Eingangsstrom sensorischer Daten und (implizitem) Wissenserfassung kombinieren und dabei die kognitiven Fähigkeiten des Menschen nutzen. Alle Ergebnisse dieses Projekts, Algorithmen und Werkzeuge, werden der internationalen Forschungsgemeinschaft offen zugänglich gemacht.