This dissertation investigates how Artificial Intelligence (AI) affects moral decision-making across four empirical studies, examining the extent, conditions, and mechanisms of AI- induced moral persuasion. Building on previous work, the overarching aim was to determine whether AI-generated advice affects moral decisions to the same extent as human advice, and whether advice generally functions as a source-independent heuristic cue in moral decision-making. Across four empirical studies, we systematically varied dilemma difficulty, ecological validity, social proximity, conflicting advice, and the temporal order of decision and advice to test the robustness and generalizability of artificial moral persuasion.
Study 1 provided the first systematic demonstration that AI-generated advice affects moral decision-making to a comparable extent as human advice. Across nine sacrificial moral dilemmas of varying difficulty, advice was presented with explanatory context rather than simple imperatives. Deontological advice reliably increased deontological choices, whereas utilitarian advice showed little persuasive effect. Importantly, AI- and human advice exerted comparable influence, indicating that advisor source did not meaningfully affect advice use even in complex, morally charged situations.
Study 2 replicated the findings of Study 1 and extended them to everyday moral decision- making while experimentally manipulating social proximity across twenty dilemmas. Both altruistic and egoistic advice significantly affected moral decisions, and AI-generated advice again proved to be as persuasive as human advice. Although social proximity influenced the overall strength of persuasion, it did not introduce systematic differences between advisors. These results suggest that everyday moral decision-making is similarly susceptible to advice, consistent with its use as a heuristic cue rather than as a source-dependent signal.
Study 3 further clarified the underlying psychological processes involved in the heuristic use of advice by presenting participants with simultaneous AI- and human advice that was either convergent or conflicting across sacrificial and everyday moral dilemmas. When advice was convergent, participants predominantly followed the recommended option; when advice conflicted, decisions were guided by advice content and perceived helpfulness rather than by advisor. This pattern indicates that both AI- and human advice are primarily used heuristically.
Study 4 extended the findings of the previous studies to situations involving pre-existing personal positions. Participants first made initial moral decisions and subsequently received AI- or human advice before deciding again. Decision stability declined substantially when advice opposed the initial choice, particularly for utilitarian judgments in sacrificial dilemmas and for everyday decisions more broadly. AI- and human advice again produced comparable effects, and perceived helpfulness reliably predicted whether participants revised their earlier decisions.
Across all four studies, no meaningful differences emerged between the persuasive impact of AI and human advisors. Instead, moral persuasion was consistently driven by normative alignment, subjective usefulness, and contextual features of the dilemma. These findings suggest that artificial advisors can function as potent sources of social influence and that individuals readily adopt AI-generated advice as an effort-reducing heuristic in moral decision- making. The dissertation concludes by discussing implications for moral psychology, human-AI interaction, and the societal challenges posed by increasingly advisory-capable AI systems.

Diese Dissertation untersucht im Rahmen vier empirischer Studien, wie KI-generierte Ratschläge das moralische Entscheidungsverhalten beeinflussen. Der Fokus liegt dabei darauf, in welchem Ausmaß, unter welchen Bedingungen und über welche Mechanismen KI-generierte moralische Ratschläge menschliches Entscheidungsverhalten beeinflussen. Aufbauend auf der bisheri- gen Forschung ist das übergeordnete Ziel, zu replizieren, ob KI-generierte Ratschläge einen signifikanten Einfluss auf moralische Entscheidungen haben und ob dieser mit dem Einfluss menschlicher Ratgeber vergleichbar ist. In den Studien werden die Schwierigkeit der Dilem- mata, die ökologische Validität, die soziale Nähe und die zeitliche Abfolge von Ratschlag und Entscheidung systematisch variiert, um die Robustheit und Verallgemeinerbarkeit der Effekte der bisherigen Forschung zu testen.
Studie 1 repliziert und erweitert die Ergebnisse bisheriger Forschung, indem sie den Einfluss von KI-generierten Ratschlägen in neun moralischen Dilemmata unterschiedlicher Schwierigkeitsgrade untersucht. Die Ergebnisse deuten darauf hin, dass deontologische Ratschläge die Anzahl deontologischer Entscheidungen zuverlässig beeinflussen. Utilitaristische Ratschläge haben dagegen nur eine geringe Überzeugungskraft auf das Entscheidungsverhalten. Zwischen beiden Ratschlagsquellen lässt sich kein signifikanter Unterschied feststellen.
In Studie 2 werden die bisherigen Ergebnisse um die Dimension alltäglicher moralischer Konflikte erweitert und die soziale Distanz in zwanzig Dilemmata experimentell manipuliert. Sowohl altruistische als auch egoistische Ratschläge beeinflussen die Entscheidungen sig- nifikant. Es lassen sich erneut keine Unterschiede zwischen KI-generierten und menschlichen Ratschläge feststellen. Die Ergebnisse zeigen, dass die soziale Nähe die Gesamtstärke der Überzeugungskraft beeinflusst, jedoch lassen sich auch bei der Manipulation der sozialen Nähe keine systematischen Unterschiede zwischen beiden Ratgebern erkennen.
Studie 3 baut auf den Ergebnissen von Studien 1 und 2 auf und untersucht den direkten Vergleich von KI-generierten und menschlichen Ratschlägen auf Moralentscheidungen. Im Rahmen der Studie werden gleichzeitig KI- und menschliche Empfehlungen präsentiert, die entweder übereinstimmend oder widersprüchlich sind. Bei übereinstimmenden Ratschlägen, folgen die Teilnehmer stark der empfohlenen Option. Bei widersprüchlichen Ratschlägen wird die Entscheidungen eher durch den Inhalt der Ratschläge und die wahrgenommene Nützlichkeit als durch die Quelle des Ratschlags bestimmt. Eine wahrgenommene Ähnlichkeit mit dem menschlichen Ratgeber erhöht die Annahme menschlicher Ratschläge signifikant. Eine hohe Akzeptanz und eine wahrgenommene Nützlichkeit der KI-generierten Ratschläge sagt die Nutzung des KI Ratschlags signifiant voraus. Über alle Dilemmata und Bedingungen zeigt sich keine inhärente Präferenz gegenüber einer der beiden Quellen.
Studie 4 untersucht, ob sich der in den bisherigen Studien beobachtete Einfluss auch auf bereits getroffene Entscheidungen generalisieren lässt. Die Teilnehmer trafen zunächst moralis- che Entscheidungen und erhielten anschließend Ratschläge von einer KI oder einem Menschen, bevor sie erneut entscheiden mussten. Die Entscheidungsstabilität nimmt signifikant ab, wenn die Ratschläge im Widerspruch zur ursprünglichen Entscheidung stehen, insbesondere bei utilitaristischen Entscheidungen, in Dilemmata mit starken Konsequenzen und bei alltäglichen Entscheidungen im Allgemeinen. KI und menschliche Berater erzielten erneut vergleichbare Effekte, und die wahrgenommene Nützlichkeit sagte voraus, ob die Teilnehmer ihre früheren Entscheidungen revidierten.
Über alle vier Studien zeigten sich keine signifikanten Unterschiede zwischen der Überzeu- gungskraft von KI-generierten und menschlichen Ratschlägen. Stattdessen wird die moralische Überzeugungskraft durch normative Übereinstimmung, subjektive Nützlichkeit und kon- textuelle Merkmale des Dilemmas beeinflusst. Die Ergebnisse deuten darauf hin, dass KI- basierte Ratgeber als starke soziale Einflussfaktoren fungieren können und, dass Menschen KI-generierte Ratschläge als Heuristik bei moralischen Urteilen annehmen, um die mentale Auseinandersetzung mit den moralischen Entscheidungen zu reduzieren. Die Dissertation schließt mit einer Diskussion der Implikationen für die Moralpsychologie, die Interaktion zwischen Mensch und KI und die gesellschaftlichen Herausforderungen, die sich aus zunehmend beratungsfähigen KI-Systemen ergeben.