• Zum Inhalt springen (Accesskey 1)
  • Zur Suche springen (Accesskey 7)
FWF — Österreichischer Wissenschaftsfonds
  • Zur Übersichtsseite Entdecken

    • Forschungsradar
    • Entdeckungen
      • Emmanuelle Charpentier
      • Adrian Constantin
      • Monika Henzinger
      • Ferenc Krausz
      • Wolfgang Lutz
      • Walter Pohl
      • Christa Schleper
      • Anton Zeilinger
    • scilog-Magazin
    • Auszeichnungen
      • FWF-Wittgenstein-Preise
      • FWF-START-Preise
    • excellent=austria
      • Clusters of Excellence
      • Emerging Fields
    • Im Fokus
      • 40 Jahre Erwin-Schrödinger-Programm
      • Quantum Austria
      • Spezialforschungsbereiche
    • Dialog und Diskussion
      • think.beyond Summit
      • Am Puls
      • Was die Welt zusammenhält
      • FWF Women’s Circle
      • Science Lectures
    • E-Book Library
  • Zur Übersichtsseite Fördern

    • Förderportfolio
      • excellent=austria
        • Clusters of Excellence
        • Emerging Fields
      • Projekte
        • Einzelprojekte
        • Einzelprojekte International
        • Klinische Forschung
        • 1000 Ideen
        • Entwicklung und Erschließung der Künste
        • FWF-Wittgenstein-Preis
      • Karrieren
        • ESPRIT
        • FWF-ASTRA-Preise
        • Erwin Schrödinger
        • Elise Richter
        • Elise Richter PEEK
        • doc.funds
        • doc.funds.connect
      • Kooperationen
        • Spezialforschungsgruppen
        • Spezialforschungsbereiche
        • Forschungsgruppen
        • International – Multilaterale Initiativen
        • #ConnectingMinds
      • Kommunikation
        • Top Citizen Science
        • Wissenschaftskommunikation
        • Buchpublikationen
        • Digitale Publikationen
        • Open-Access-Pauschale
      • Themenförderungen
        • AI Mission Austria
        • Belmont Forum
        • ERA-NET HERA
        • ERA-NET NORFACE
        • ERA-NET QuantERA
        • ERA-NET TRANSCAN
        • Ersatzmethoden für Tierversuche
        • Europäische Partnerschaft Biodiversa+
        • Europäische Partnerschaft ERA4Health
        • Europäische Partnerschaft ERDERA
        • Europäische Partnerschaft EUPAHW
        • Europäische Partnerschaft FutureFoodS
        • Europäische Partnerschaft OHAMR
        • Europäische Partnerschaft PerMed
        • Europäische Partnerschaft Water4All
        • Gottfried-und-Vera-Weiss-Preis
        • netidee SCIENCE
        • Projekte der Herzfelder-Stiftung
        • Quantum Austria
        • Rückenwind-Förderbonus
        • WE&ME Award
        • Zero Emissions Award
      • Länderkooperationen
        • Belgien/Flandern
        • Deutschland
        • Frankreich
        • Italien/Südtirol
        • Japan
        • Luxemburg
        • Polen
        • Schweiz
        • Slowenien
        • Taiwan
        • Tirol–Südtirol–Trentino
        • Tschechien
        • Ungarn
    • Schritt für Schritt
      • Förderung finden
      • Antrag einreichen
      • Internationales Peer-Review
      • Förderentscheidung
      • Projekt durchführen
      • Projekt beenden
      • Weitere Informationen
        • Integrität und Ethik
        • Inklusion
        • Antragstellung aus dem Ausland
        • Personalkosten
        • PROFI
        • Projektendberichte
        • Projektendberichtsumfrage
    • FAQ
      • Projektphase PROFI
        • Abrechnung
        • Arbeits- und Sozialrecht
        • Projektabwicklung
      • Projektphase Ad personam
        • Abrechnung
        • Arbeits- und Sozialrecht
        • Projektabwicklung
      • Auslaufende Programme
        • FWF-START-Preise
  • Zur Übersichtsseite Über uns

    • Leitbild
    • FWF-Film
    • Werte
    • Zahlen und Daten
    • Jahresbericht
    • Aufgaben und Aktivitäten
      • Forschungsförderung
        • Matching-Funds-Förderungen
      • Internationale Kooperationen
      • Studien und Publikationen
      • Chancengleichheit und Diversität
        • Ziele und Prinzipien
        • Maßnahmen
        • Bias-Sensibilisierung in der Begutachtung
        • Begriffe und Definitionen
        • Karriere in der Spitzenforschung
      • Open Science
        • Open-Access-Policy
          • Open-Access-Policy für begutachtete Publikationen
          • Open-Access-Policy für begutachtete Buchpublikationen
          • Open-Access-Policy für Forschungsdaten
        • Forschungsdatenmanagement
        • Citizen Science
        • Open-Science-Infrastrukturen
        • Open-Science-Förderung
      • Evaluierungen und Qualitätssicherung
      • Wissenschaftliche Integrität
      • Wissenschaftskommunikation
      • Philanthropie
      • Nachhaltigkeit
    • Geschichte
    • Gesetzliche Grundlagen
    • Organisation
      • Gremien
        • Präsidium
        • Aufsichtsrat
        • Delegiertenversammlung
        • Kuratorium
        • Jurys
      • Geschäftsstelle
    • Arbeiten im FWF
  • Zur Übersichtsseite Aktuelles

    • News
    • Presse
      • Logos
    • Eventkalender
      • Veranstaltung eintragen
      • FWF-Infoveranstaltungen
    • Jobbörse
      • Job eintragen
    • Newsletter
  • Entdecken, 
    worauf es
    ankommt.

    FWF-Newsletter Presse-Newsletter Kalender-Newsletter Job-Newsletter scilog-Newsletter

    SOCIAL MEDIA

    • LinkedIn, externe URL, öffnet sich in einem neuen Fenster
    • Twitter, externe URL, öffnet sich in einem neuen Fenster
    • Facebook, externe URL, öffnet sich in einem neuen Fenster
    • Instagram, externe URL, öffnet sich in einem neuen Fenster
    • YouTube, externe URL, öffnet sich in einem neuen Fenster

    SCILOG

    • Scilog — Das Wissenschaftsmagazin des Österreichischen Wissenschaftsfonds (FWF)
  • elane-Login, externe URL, öffnet sich in einem neuen Fenster
  • Scilog externe URL, öffnet sich in einem neuen Fenster
  • en Switch to English

  

AURA - Abstraktion für verständliches Schließen in der KI

AURA - Abstraction for Understandability of Reasoning in AI

Zeynep Gözen Saribatur Yaman (ORCID: 0000-0001-8690-5043)
  • Grant-DOI 10.55776/T1315
  • Förderprogramm Hertha Firnberg
  • Status laufend
  • Projektbeginn 01.06.2022
  • Projektende 30.04.2026
  • Bewilligungssumme 246.120 €
  • E-Mail

Wissenschaftsdisziplinen

Informatik (100%)

Keywords

    Knowledge Representation and Reasoning, Answer Set Programming, Artificial Intelligence, Explainable AI, Logic Programming, Planning

Abstract

In den letzten Jahren hat die Forschung im Bereich der Kunstlichen Intelligenz (KI) stark zugenommen. Die Fahigkeiten der dabei entwickelter KI-Agenten verbessern sich immer mehr. Durch die zunehmende Verwendung solcher Agenten ist es wichtig fur den Menschen, ihr Verhalten zu verstehen. Diese Agenten haben jedoch meist einen sehr komplexen Aufbau, wodurch ein solches Verstandnis schwierig ist. Knowledge Representation and Reasoning (KRR) (Wissensreprasentation und Schließen) ist ein Bereich der KI, in dem seit Jahrzehnten flexible und machtige Techniken erforscht werden, um Wissen auszudrucken und Agenten mit der Fahigkeit des logischen Schließens auszustatten. Symbolische und regelbasierte Ausdrucksweisen sind der Schlussel zu mehr Transparenz in der KI. Fur den Menschen ist es jedoch noch immer herausfordernd, mit solchen Ausdrucksweisen zum Kern des Verhaltens vorzudringen, wenn sie komplexer werden oder viele ablenkende Details enthalten. Um sich diesem Problem zu stellen, wird in diesem Projekt angestrebt, Abstraktion einzusetzen. Dies ist eine Methode, die vom Menschen unterbewusst eingesetzt wird, um gegebene Probleme zu vereinfachen, sodass sie le- ichter zu verstehen und zu behandeln sind. Diese Fahigkeit ermoglicht es dem Menschen, relevante Details zu iden- tifizieren und ein ubergeordnetes Verstandnis zu erlangen. In diesem Projekt werden wir solche vom Menschen inspirierte Abstraktionen anwenden, um die Schlusselelemente von regelbasierten Programmen zu erhalten, die nur die relevanten Details widerspiegeln und eine Programmanalyse auf abstrakter Ebene ermoglichen. Wir werden eine theoretische Grundlage fur die Bestimmung von Abstraktionen schaffen, die gut im Sinne der Identifikation von Schlusselelemente fur das Schließen sind. Dies wird zur menschlichen Verstandlichkeit positiv beitragen. Außerdem werden wir uns der Herausforderung stellen, Abstraktionen, die das Wesen des logischen Schließens erfassen, automa- tisch zu berechnen. Damit wollen wir nicht nur die Erklarbarkeit von Entscheidungen, sondern auch die allgemeine Verstandlichkeit von symbolischen und regelbasierten Programmen unterstutzen. Die Untersuchungen in diesem Projekt werden dazu beitragen, eine KRR-Perspektive in die Erklarbarkeit von KI-Systemen einzubringen, indem mehr automatisierte und vom Menschen inspirierte Konzepte zur Problemlosung eingesetzt werden.

Forschungsstätte(n)
  • Technische Universität Wien - 100%
Internationale Projektbeteiligte
  • Ute Schmid, Otto-Friedrich Universität Bamberg - Deutschland
  • Torsten Schaub, Universität Potsdam - Deutschland
  • Sheila Mcilraith, University of Toronto - Kanada

Research Output

  • 2 Zitationen
  • 9 Publikationen
  • 2 Wissenschaftliche Auszeichnungen
Publikationen
  • 2025
    Titel Towards Observing the Effect of Abstraction on Understandability of Explanations in Answer Set Programming
    Typ Conference Proceeding Abstract
    Autor Langer J
    Konferenz KI 2025 - 48th German Conference on Artificial Intelligence
  • 2024
    Titel A Semantical Approach to Abstraction in Answer Set Programming and Assumption-Based Argumentation
    DOI 10.1007/978-3-031-74209-5_18
    Typ Book Chapter
    Autor Apostolakis I
    Verlag Springer Nature
    Seiten 228-234
  • 2024
    Titel On Abstracting over the Irrelevant in Answer Set Programming
    DOI 10.24963/kr.2024/61
    Typ Conference Proceeding Abstract
    Autor Knorr M
    Seiten 654-664
  • 2024
    Titel Abstraction in Assumption-based Argumentation
    DOI 10.24963/kr.2024/5
    Typ Conference Proceeding Abstract
    Autor Apostolakis I
    Seiten 49-59
  • 2024
    Titel Aligning Generalisation Between Humans and Machines
    DOI 10.48550/arxiv.2411.15626
    Typ Preprint
    Autor Hammer B
    Link Publikation
  • 2024
    Titel A Unified View on Forgetting and Strong Equivalence Notions in Answer Set Programming
    DOI 10.1609/aaai.v38i9.28940
    Typ Journal Article
    Autor Saribatur Z
    Journal Proceedings of the AAAI Conference on Artificial Intelligence
  • 2024
    Titel Abstracting Assumptions in Structured Argumentation
    Typ Conference Proceeding Abstract
    Autor Apostolakis I
    Konferenz Proceedings of the 23rd International Conference on Autonomous Agents and Multiagent Systems
    Seiten 2132-2134
    Link Publikation
  • 2023
    Titel Foundations for Projecting Away the Irrelevant in ASP Programs
    DOI 10.24963/kr.2023/60
    Typ Conference Proceeding Abstract
    Autor Saribatur Z
    Seiten 614-624
    Link Publikation
  • 2022
    Titel Abstraction for Non-Ground Answer Set Programs (Extended Abstract)
    DOI 10.24963/ijcai.2022/807
    Typ Conference Proceeding Abstract
    Autor Eiter T
    Seiten 5767-5771
Wissenschaftliche Auszeichnungen
  • 2024
    Titel Nomination for Hedy Lamarr Prize 2024
    Typ Research prize
    Bekanntheitsgrad National (any country)
  • 2024
    Titel Nomination to present at the Early Career Track of IJCAI 2024
    Typ Personally asked as a key note speaker to a conference
    Bekanntheitsgrad Continental/International

Entdecken, 
worauf es
ankommt.

Newsletter

FWF-Newsletter Presse-Newsletter Kalender-Newsletter Job-Newsletter scilog-Newsletter

Kontakt

Österreichischer Wissenschaftsfonds FWF
Georg-Coch-Platz 2
(Eingang Wiesingerstraße 4)
1010 Wien

office(at)fwf.ac.at
+43 1 505 67 40

Allgemeines

  • Jobbörse
  • Arbeiten im FWF
  • Presse
  • Philanthropie
  • scilog
  • Geschäftsstelle
  • Social Media Directory
  • LinkedIn, externe URL, öffnet sich in einem neuen Fenster
  • Twitter, externe URL, öffnet sich in einem neuen Fenster
  • Facebook, externe URL, öffnet sich in einem neuen Fenster
  • Instagram, externe URL, öffnet sich in einem neuen Fenster
  • YouTube, externe URL, öffnet sich in einem neuen Fenster
  • Cookies
  • Hinweisgeber:innensystem
  • Barrierefreiheitserklärung
  • Datenschutz
  • Impressum
  • Social Media Directory
  • © Österreichischer Wissenschaftsfonds FWF
© Österreichischer Wissenschaftsfonds FWF