The rapid and widespread adoption of artificial intelligence (AI) presents significant opportunities for organizations and society. However, it also raises fundamental questions about the validity and transparency of AI-based decisions. Uncertainty is a central challenge in this context because it can originate from different sources and affect data, machine learning (ML) models, and their explanations. This dissertation investigates how to model and address uncertainty to support the valid and transparent use of AI in organizational and societal decision-making.
It contributes theoretical foundations and methods for uncertainty-aware ML and explainable artificial intelligence (XAI). Regarding data uncertainty, a taxonomy is developed to systematically classify methods for addressing data quality defects in ML. Building on this taxonomy, the dissertation establishes theoretical foundations for data quality to provide a rigorous basis for understanding data-related phenomena and data uncertainty. Subsequently, two methods demonstrate how to address such uncertainty: one method propagates data uncertainty exactly through neural networks, and the other uses a language model to assess and improve the currency of textual data.
Regarding model and explanation uncertainty, the dissertation examines how uncertainty influences the correctness of explanations for ML predictions. Sources of uncertainty affecting explanations are identified and conceptually distinguished to provide a basis for understanding and assessing explanation correctness. Furthermore, a method is developed for the exact reconstruction of ML model decision boundaries. By directly capturing the decision-making behavior of ML models, this method provides faithful and robust explanations while avoiding the uncertainty that arises from approximating the underlying decision boundaries.

Die schnelle und weitreichende Verbreitung von Künstlicher Intelligenz (KI) eröffnet Organisationen und der Gesellschaft immense Möglichkeiten. Gleichzeitig wirft sie grundlegende Fragen zur Validität und Transparenz KI-basierter Entscheidungen auf. Unsicherheit stellt in diesem Kontext eine zentrale Herausforderung dar, da sie aus unterschiedlichen Quellen entstehen kann und im Kontext von maschinellem Lernen (ML) Daten, Modelle und deren Erklärungen betreffen kann. In dieser Dissertation wird untersucht, wie sich Unsicherheit modellieren und behandeln lässt, um einen validen und transparenten Einsatz von KI in organisatorischen und gesellschaftlichen Entscheidungskontexten zu ermöglichen.
Die Arbeit leistet theoretische und methodische Beiträge zu ML im Kontext von Unsicherheit und zu erklärbarer KI (XAI). Im Bereich der Datenunsicherheit wird eine Taxonomie entwickelt, die Methoden zur Behandlung von Datenqualitätsdefekten in ML systematisch klassifiziert. Aufbauend auf dieser Taxonomie werden theoretische Grundlagen für Datenqualität definiert, die eine fundierte Betrachtung datenbezogener Phänomene und Unsicherheit ermöglichen. Anschließend zeigen zwei Methoden, wie konkret mit dieser Unsicherheit umgegangen werden kann. Eine Methode propagiert Datenunsicherheit exakt durch neuronale Netze, während eine weitere Methode ein Sprachmodell zur Bewertung und Verbesserung der Aktualität textueller Daten nutzt.
Im Hinblick auf Modell- und Erklärungsunsicherheit untersucht die Dissertation außerdem, wie Unsicherheit die Erzeugung und Bewertung von Erklärungen für Vorhersagen von ML Modellen beeinflusst. Dazu werden Quellen von Unsicherheit, welche die Erklärungen beeinflussen, identifiziert und konzeptionell unterschieden, um eine fundierte Grundlage für das Verständnis und die Bewertung der Korrektheit von Erklärungen zu schaffen. Darüber hinaus wird eine Methode zur exakten Rekonstruktion der Entscheidungsgrenzen von ML Modellen entwickelt. Durch die direkte Erfassung des Entscheidungsverhaltens der Modelle ermöglicht diese Methode valide und robuste Erklärungen, ohne dass Unsicherheit auftritt, welche bei der approximativen Rekonstruktion der zugrunde liegenden Entscheidungsgrenzen entsteht.