Wie regelbasierte Systeme zwischen festen Vorgaben und „plausiblen“ Lösungen unterscheiden können

Der von der BAuA veröffentlichte Fachaufsatz „Knowledge Engineering and Reasoning with Answer Set Programs and Conditional Belief Bases“ beschäftigt sich mit einer grundlegenden Frage erklärbarer künstlicher Intelligenz: Wie sollte Wissen dargestellt werden, wenn ein KI-System nicht nur zulässige Lösungen finden, sondern zwischen mehreren möglichen Lösungen auch begründet die geeignetsten auswählen soll? An der Arbeit ist mit Marco Wilhelm ein Wissenschaftler der BAuA beteiligt. Der Beitrag erschien 2026 in den Proceedings des 24th International Workshop on Non-Monotonic Reasoning (NMR 2026). BAUA

Im Mittelpunkt stehen zwei Verfahren der symbolischen beziehungsweise regelbasierten KI: Answer Set Programming (ASP) und sogenannte Conditional Belief Bases, also Wissensbasen mit bedingten Annahmen. Beide können mit Regeln und Ausnahmen umgehen, funktionieren aber grundlegend unterschiedlich. Genau diese Unterschiede sind wichtig, weil dieselbe Information – je nachdem, wo sie im System modelliert wird – zu anderen Ergebnissen und Prioritäten führen kann. CEUR-WS

ASP erzeugt zunächst die technisch möglichen Lösungen

Answer Set Programming ist eine deklarative Form der Logikprogrammierung. Statt einem Computer jeden Lösungsschritt vorzugeben, beschreibt man Regeln, Bedingungen und Einschränkungen. Das System berechnet daraus sogenannte Answer Sets, die jeweils eine mögliche Lösung darstellen.

Für komplexe Planungs- oder Entscheidungsprobleme ist das interessant, weil ASP sehr gut mit Kombinationen, Abhängigkeiten und Ausschlussregeln umgehen kann. Im Modell der Autoren übernimmt ASP deshalb vor allem die Aufgabe, den Lösungsraum technisch zulässiger Möglichkeiten zu erzeugen und unzulässige Varianten auszuschließen. CEUR-WS

Das allein beantwortet allerdings noch nicht die Frage, welche von mehreren zulässigen Lösungen vorzuziehen ist.

Conditional Belief Bases bewerten, welche Lösung plausibler oder geeigneter ist

Hier kommt die zweite Ebene ins Spiel. In einer bedingten Wissensbasis können Aussagen hinterlegt werden wie:

„Wenn A vorliegt, ist B normalerweise beziehungsweise plausiblerweise zu erwarten.“

Solche Regeln sind keine absoluten Naturgesetze. Sie bilden vielmehr typisches Wissen, Erfahrungswissen, Präferenzen und Regeln mit Ausnahmen ab.

Aus diesen Regeln wird eine Rankingfunktion erzeugt. Vereinfacht gesprochen erhalten mögliche Lösungen eine Art Plausibilitäts- beziehungsweise Unplausibilitätswert. Lösungen mit einem günstigeren Rang entsprechen besser den hinterlegten Annahmen darüber, wie eine „gute“ Lösung aussehen sollte. CEUR-WS

Die Autoren schlagen deshalb eine klare Arbeitsteilung vor:

ASP: Welche Lösungen sind möglich und zulässig?

Conditional Beliefs: Welche dieser Lösungen entspricht am besten unseren Erwartungen beziehungsweise Präferenzen?

Die zweite Ebene kann gleichzeitig erklären, warum eine Variante gegenüber einer anderen bevorzugt wurde. Genau darin liegt ein wesentlicher Vorteil gegenüber rein statistischen oder schwer nachvollziehbaren Entscheidungsverfahren. CEUR-WS

Hausrenovierung zeigt das Prinzip

Um das relativ abstrakte Verfahren verständlich zu machen, verwenden die Autoren das Beispiel einer Familie, die ein Haus renoviert. Das Gebäude soll möglichst energieeffizient werden, besitzt aber gleichzeitig eine historische Fassade, die erhalten bleiben soll.

ASP kann zunächst sämtliche technisch möglichen Renovierungsvarianten unter Berücksichtigung fester Bedingungen erzeugen. Die bedingte Wissensbasis enthält dagegen Annahmen darüber, welche Eigenschaften eine gute Lösung besitzen sollte, beispielsweise hohe Energieeffizienz oder die Berücksichtigung der historischen Fassade.

Treffen diese Ziele in Konflikt, kann das System die unterschiedlichen Varianten bewerten und zugleich nachvollziehbar machen, welche Regeln beziehungsweise Präferenzen dazu führen, dass eine Lösung besser eingestuft wird als eine andere. CEUR-WS

Ein „Fakt“ ist nicht überall dasselbe

Eine der wichtigsten Erkenntnisse des Papers ist überraschend: Selbst vermeintlich eindeutige Informationen wie ein Fakt können in beiden Systemteilen sehr unterschiedliche Wirkungen entfalten.

Wird etwas im ASP als Fakt hinterlegt, verändert es unmittelbar den möglichen Lösungsraum. Regeln können dadurch aktiviert oder blockiert werden und vollständig andere Answer Sets entstehen.

Wird dieselbe Information dagegen in der bedingten Wissensbasis hinterlegt, beeinflusst sie die Bewertung und Rangfolge der Lösungen. Sie kann außerdem mit anderen Annahmen interagieren und deren Gewicht verändern. Die Autoren zeigen anhand formaler Beispiele, dass man Informationen deshalb nicht einfach zwischen beiden Bereichen austauschen kann, ohne möglicherweise ganz andere Ergebnisse zu erhalten. CEUR-WS

Das ist eine zentrale Aussage der Studie: Gute KI hängt nicht nur davon ab, welches Wissen vorhanden ist, sondern auch davon, wie und an welcher Stelle dieses Wissen formal repräsentiert wird.

Feste Verbote und weiche Präferenzen müssen getrennt werden

Das betrifft besonders die Unterscheidung zwischen harten Constraints und weichen Präferenzen.

Ein harter Constraint im ASP kann beispielsweise bedeuten:

Diese Lösung ist technisch oder regelbedingt nicht zulässig.

Eine bedingte Regel kann dagegen ausdrücken:

Diese Lösung wäre normalerweise vorzuziehen.

Diese beiden Aussagen mögen sprachlich ähnlich wirken, besitzen logisch aber eine völlig andere Funktion. Ein Constraint entfernt eine Variante aus dem möglichen Lösungsraum. Eine Präferenz lässt die Variante grundsätzlich bestehen, stuft sie aber schlechter ein. Die Autoren zeigen, dass eine falsche Zuordnung dieser Informationen die Priorisierung erheblich verändern kann. CEUR-WS

„Weak Constraints“ schlagen eine Brücke zwischen beiden Welten

Ein weiterer Schwerpunkt des Papers besteht darin, beide Ansätze technisch enger miteinander zu verbinden. Die Forschenden zeigen, dass bestimmte bedingte Regeln als sogenannte Weak Constraints direkt in ASP übersetzt werden können.

Weak Constraints verbieten eine Lösung nicht vollständig. Wenn eine Lösung gegen eine solche Regel verstößt, entstehen vielmehr Kosten beziehungsweise Gewichtungen. Das ASP-System sucht anschließend nach Lösungen mit möglichst geringen Kosten. CEUR-WS

Damit lässt sich die Rankinglogik der bedingten Wissensbasis teilweise innerhalb eines ASP-Systems abbilden. Umgekehrt können die aus den Conditional Beliefs berechneten Gewichtungen helfen, die Gewichte solcher Weak Constraints nicht willkürlich, sondern logisch begründet festzulegen. CEUR-WS

Allerdings weist der Beitrag auf eine technische Grenze hin: Bei komplexeren logischen Formeln kann die erforderliche Übersetzung in eine für ASP geeignete Form im ungünstigsten Fall exponentiell anwachsen. Für große reale Wissensbasen bleibt die praktische Skalierbarkeit damit ein wichtiges Thema. CEUR-WS

Interessant für erklärbare KI und Expertensysteme

Der praktische Wert des Ansatzes liegt vor allem in wissensbasierten Entscheidungs- und Assistenzsystemen, bei denen Regeln, Fachwissen und Ausnahmen nachvollziehbar verarbeitet werden müssen.

Anders als bei einem großen Sprachmodell geht es hier nicht darum, aus sehr großen Datenmengen statistisch eine wahrscheinlich passende Antwort zu erzeugen. Das System verarbeitet explizit formulierte Regeln und Expertenwissen. Dadurch kann grundsätzlich nachvollzogen werden, welche Regeln eine Lösung ermöglicht, ausgeschlossen oder gegenüber einer Alternative bevorzugt haben.

Der Artikel selbst untersucht keine konkrete Anwendung im Arbeitsschutz. Übertragen auf HSSEQ wären solche Verfahren aber beispielsweise für Compliance-, Risiko- oder Planungssysteme interessant: Gesetzlich oder technisch zwingende Anforderungen könnten als harte Bedingungen modelliert werden, während betriebliche Erfahrungswerte, Präferenzen oder Optimierungsziele als bedingte Regeln dienen. Das wäre eine mögliche Anwendung der beschriebenen Methodik, nicht ein im Paper getestetes HSSEQ-System.

Noch Grundlagenforschung, kein fertiges BAuA-Tool

Der Beitrag sollte deshalb nicht als Ankündigung eines neuen BAuA-KI-Produkts verstanden werden. Es handelt sich um methodische Grundlagenforschung zur Wissensrepräsentation und zum nichtmonotonen Schließen. Die Autoren wollen künftig den kombinierten Ansatz anhand zusätzlicher Prinzipien systematischer evaluieren. CEUR-WS

„Nichtmonoton“ bedeutet dabei vereinfacht: Neues Wissen kann dazu führen, dass eine zuvor vernünftige Schlussfolgerung wieder zurückgenommen werden muss. Genau diese Fähigkeit ist für reale Entscheidungen wichtig, weil Regeln häufig Ausnahmen besitzen und neue Informationen frühere Bewertungen verändern können.

Auf den Punkt gebracht: Der Aufsatz zeigt, dass bei regelbasierter und erklärbarer KI eine entscheidende Frage lautet: Was ist eine unverrückbare Vorgabe und was lediglich eine plausible Präferenz? ASP eignet sich besonders dazu, den technisch beziehungsweise logisch zulässigen Lösungsraum festzulegen. Bedingte Wissensbasen können anschließend ausdrücken, welche dieser Lösungen aufgrund von Erfahrungs- oder Expertenwissen vorzuziehen ist – und warum. Die Autoren zeigen zugleich, dass dieselbe Information je nach Modellierung zu völlig unterschiedlichen Resultaten führen kann. Der Ansatz ist damit besonders interessant für zukünftige erklärbare Expertensysteme, bei denen Entscheidungen nicht nur richtig sein sollen, sondern ihre Begründung nachvollziehbar bleiben muss. CEUR-WS