AURA - Abstraktion für verständliches Schließen in der KI
AURA - Abstraction for Understandability of Reasoning in AI
Wissenschaftsdisziplinen
Informatik (100%)
Keywords
-
Knowledge Representation and Reasoning,
Answer Set Programming,
Artificial Intelligence,
Explainable AI,
Logic Programming,
Planning
In den letzten Jahren hat die Forschung im Bereich der Kunstlichen Intelligenz (KI) stark zugenommen. Die Fahigkeiten der dabei entwickelter KI-Agenten verbessern sich immer mehr. Durch die zunehmende Verwendung solcher Agenten ist es wichtig fur den Menschen, ihr Verhalten zu verstehen. Diese Agenten haben jedoch meist einen sehr komplexen Aufbau, wodurch ein solches Verstandnis schwierig ist. Knowledge Representation and Reasoning (KRR) (Wissensreprasentation und Schließen) ist ein Bereich der KI, in dem seit Jahrzehnten flexible und machtige Techniken erforscht werden, um Wissen auszudrucken und Agenten mit der Fahigkeit des logischen Schließens auszustatten. Symbolische und regelbasierte Ausdrucksweisen sind der Schlussel zu mehr Transparenz in der KI. Fur den Menschen ist es jedoch noch immer herausfordernd, mit solchen Ausdrucksweisen zum Kern des Verhaltens vorzudringen, wenn sie komplexer werden oder viele ablenkende Details enthalten. Um sich diesem Problem zu stellen, wird in diesem Projekt angestrebt, Abstraktion einzusetzen. Dies ist eine Methode, die vom Menschen unterbewusst eingesetzt wird, um gegebene Probleme zu vereinfachen, sodass sie le- ichter zu verstehen und zu behandeln sind. Diese Fahigkeit ermoglicht es dem Menschen, relevante Details zu iden- tifizieren und ein ubergeordnetes Verstandnis zu erlangen. In diesem Projekt werden wir solche vom Menschen inspirierte Abstraktionen anwenden, um die Schlusselelemente von regelbasierten Programmen zu erhalten, die nur die relevanten Details widerspiegeln und eine Programmanalyse auf abstrakter Ebene ermoglichen. Wir werden eine theoretische Grundlage fur die Bestimmung von Abstraktionen schaffen, die gut im Sinne der Identifikation von Schlusselelemente fur das Schließen sind. Dies wird zur menschlichen Verstandlichkeit positiv beitragen. Außerdem werden wir uns der Herausforderung stellen, Abstraktionen, die das Wesen des logischen Schließens erfassen, automa- tisch zu berechnen. Damit wollen wir nicht nur die Erklarbarkeit von Entscheidungen, sondern auch die allgemeine Verstandlichkeit von symbolischen und regelbasierten Programmen unterstutzen. Die Untersuchungen in diesem Projekt werden dazu beitragen, eine KRR-Perspektive in die Erklarbarkeit von KI-Systemen einzubringen, indem mehr automatisierte und vom Menschen inspirierte Konzepte zur Problemlosung eingesetzt werden.
- Technische Universität Wien - 100%
- Ute Schmid, Otto-Friedrich Universität Bamberg - Deutschland
- Torsten Schaub, Universität Potsdam - Deutschland
- Sheila Mcilraith, University of Toronto - Kanada
Research Output
- 2 Zitationen
- 9 Publikationen
- 2 Wissenschaftliche Auszeichnungen
-
2025
Titel Towards Observing the Effect of Abstraction on Understandability of Explanations in Answer Set Programming Typ Conference Proceeding Abstract Autor Langer J Konferenz KI 2025 - 48th German Conference on Artificial Intelligence -
2024
Titel A Semantical Approach to Abstraction in Answer Set Programming and Assumption-Based Argumentation DOI 10.1007/978-3-031-74209-5_18 Typ Book Chapter Autor Apostolakis I Verlag Springer Nature Seiten 228-234 -
2024
Titel On Abstracting over the Irrelevant in Answer Set Programming DOI 10.24963/kr.2024/61 Typ Conference Proceeding Abstract Autor Knorr M Seiten 654-664 -
2024
Titel Abstraction in Assumption-based Argumentation DOI 10.24963/kr.2024/5 Typ Conference Proceeding Abstract Autor Apostolakis I Seiten 49-59 -
2024
Titel Aligning Generalisation Between Humans and Machines DOI 10.48550/arxiv.2411.15626 Typ Preprint Autor Hammer B Link Publikation -
2024
Titel A Unified View on Forgetting and Strong Equivalence Notions in Answer Set Programming DOI 10.1609/aaai.v38i9.28940 Typ Journal Article Autor Saribatur Z Journal Proceedings of the AAAI Conference on Artificial Intelligence -
2024
Titel Abstracting Assumptions in Structured Argumentation Typ Conference Proceeding Abstract Autor Apostolakis I Konferenz Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems Seiten 2132-2134 Link Publikation -
2023
Titel Foundations for Projecting Away the Irrelevant in ASP Programs DOI 10.24963/kr.2023/60 Typ Conference Proceeding Abstract Autor Saribatur Z Seiten 614-624 Link Publikation -
2022
Titel Abstraction for Non-Ground Answer Set Programs (Extended Abstract) DOI 10.24963/ijcai.2022/807 Typ Conference Proceeding Abstract Autor Eiter T Seiten 5767-5771
-
2024
Titel Nomination for Hedy Lamarr Prize 2024 Typ Research prize Bekanntheitsgrad National (any country) -
2024
Titel Nomination to present at the Early Career Track of IJCAI 2024 Typ Personally asked as a key note speaker to a conference Bekanntheitsgrad Continental/International