CausalXRL

Künstliche Intelligenzen (KI) sind heutzutage in der Lage komplexe Aufgaben auf einem Niveau zu lösen, das bis vor Kurzem natürlichen Intelligenzen vorbehalten war. Hierzu zählen das meisterhafte Spielen von Schach und Go, aber auch das autonome Fahren oder die Diagnose medizinischer Erkrankungen. Um diese Aufgaben erfolgreich zu meistern benötigen KI-Systeme jedoch sehr viel Übung. So erfordert es mitunter mehrere Millionen Versuche bis ein KI-System z.B. eigenständig gelernt hat welche Züge im Schach zu erwünschten zukünftigen Spielpositionen führen. Solch ein ausführliches Training ist nur möglich, wenn die Umgebung des KI-Systems auf einem Computer simuliert werden kann, wie z.B. beim Schach. Muss das KI-System in einer realen, physischen Umgebung agieren, wie z.B. beim autonomen Fahren oder bei der Unterstützung von Ärzten in der Diagnose und Behandlung von Krankheiten, so fehlt dem KI-System eine grundlegende menschliche Fähigkeit, um aus wenigen Versuchen die Folgen seiner eigenen Handlungen richtig einzuschätzen die Fähigkeit aus reiner Beobachtung auf kausale Zusammenhänge in der Umwelt zu schließen. Eng damit verknüpft ist die Fähigkeit die eigenen Handlungen erklären und begründen zu können. Das Ziel des CausalXRL Projektes ist es KI-Systeme mit eben diesen Fähigkeiten auszustatten. Damit ebnet das CausalXRL Projekt den Weg KI-Systeme in Szenarien einzusetzen, in denen sie effizient lernen und ihre Entscheidung menschlichen Aufsichtspersonen in intuitiv greifbarer Weise begründen können müssen, wie z.B. in der Unterstützung von Ärzten bei der Diagnose und Behandlung von Erkrankungen.

Künstliche Intelligenzen (KI) sind heutzutage in der Lage komplexe Aufgaben auf einem Niveau zu lösen, das bis vor Kurzem natürlichen Intelligenzen vorbehalten war. Hierzu zählen das meisterhafte Spielen von Schach und Go, aber auch das autonome Fahren oder die Diagnose medizinischer Erkrankungen. Um diese Aufgaben erfolgreich zu meistern benötigen KI-Systeme jedoch sehr viel Übung. So erfordert es mitunter mehrere Millionen Versuche bis ein KI-System z.B. eigenständig gelernt hat welche Züge im Schach zu erwünschten zukünftigen Spielpositionen führen. Solch ein ausführliches Training ist nur möglich, wenn die Umgebung des KI-Systems auf einem Computer simuliert werden kann, wie z.B. beim Schach. Muss das KI-System in einer realen, physischen Umgebung agieren, wie z.B. beim autonomen Fahren oder bei der Unterstützung von Ärzten in der Diagnose und Behandlung von Krankheiten, so fehlt dem KI-System eine grundlegende menschliche Fähigkeit, um aus wenigen Versuchen die Folgen seiner eigenen Handlungen richtig einzuschätzen - die Fähigkeit aus reiner Beobachtung auf kausale Zusammenhänge in der Umwelt zu schließen. Eng damit verknüpft ist die Fähigkeit die eigenen Handlungen erklären und so begründen zu können, dass diese für andere natürliche oder künstliche Agenten nachvollziehbar werden. Das CausalXRL (Causal Explanations in Reinforcement Learning) Projekt hat grundlegende Beiträge dazu geleistet, KIs mit eben diesen Eigenschaften auszustatten. Dazu wurden in dem Projekt neue Algorithmen entwickelt, welche die Komplexität (natürlicher oder künstlicher) neuronaler Berechnungen intelligenter Agenten auf wenige, aussagekräftige Konzepte derart reduziert, dass diese weiterhin für das Verhalten der Agenten eine kausal hinreichende Erklärung bieten. Durch diese Vereinfachung hat das CausalXRL Projekt dazu beigetragen die theoretischen und algorithmischen Grundlagen daür zu legen, dass KIs und Menschen so einander verstehen können, dass diese kooperativ komplexe Herausforderungen bewältigen können.