Zum Navigationspfad Unterseiten von „Nachrichtendetail“ Zur Navigation Zum Schnellzugriff Zum Fuß der Seite mit weiteren Services
Zum Inhalt
Logo "Digitale Transformation" mit Text
Fakultät Wirtschaftswissenschaften
Studierende sitzt am Arbeitsplatz und schaut auf den Laptop. © Aliona Kardash​/​TU Dortmund

Veröffentlichung einer Studie zu KI-Erklärbarkeit und Vertrauensreparatur in konversationellen KI-Systemen

Das Bild ist eine Infografik, die vier verschiedene Strategien zur Wiederherstellung von Vertrauen durch KI-Systeme darstellt, aufgeteilt in zwei Kategorien: menschliche und systemähnliche Ansätze. Im linken Bereich unter der Überschrift „Human-like trust repair strategies:“ befinden sich zwei Darstellungen eines kleinen, orangefarbenen Roboters, der neben einem Smartphone steht. In der ersten Szene mit dem Titel „Apology“ schaut der Roboter traurig, legt eine Hand reuevoll auf die Brust und im Chatverlauf auf dem Handydisplay steht geschrieben: „I apologize for my mistake. You're right.“. Die zweite Szene daneben heißt „Asking questions“. Hier zuckt der weiterhin traurig blickende Roboter fragend mit den Schultern, hat ein blaues Fragezeichen über dem Kopf und auf dem Display steht die Nachricht: „Could you please point out where I made an error?“. Im rechten Bereich unter der Überschrift „System-like trust repair strategies:“ verändert sich das Auftreten des Roboters, er ist nun mit einem völlig neutralen Gesichtsausdruck abgebildet. Die dritte Szene, beschriftet mit „Local explanation“, zeigt den Roboter, wie er auf das Display zeigt, welches nun dunkle Felder mit statistischen Datenwerten wie „Jeans: +0.78“, „Missing: +0.65“ und „Cap: -0.13“ anzeigt. Die vierte und letzte Szene trägt den Titel „Counterfactual options“. Hier zeigt der neutral blickende Roboter auf das Handy, auf dem nun eine Benutzeroberfläche mit drei auswählbaren Schaltflächen mit den Namen „Option A“, „Option B“ und „Option C“ zu sehen ist. Die vier verschiedenen Szenarien sind optisch jeweils durch vertikale, gestrichelte, grüne Linien voneinander getrennt. © Björn Konopka​/​TU Dortmund, KI-generiert mit Gemini Pro 3.0
Illustration der Vertrauensreparatur-Strategien
Mit welchen Strategien können KI-basierte Konversationsagenten das Vertrauen von Nutzenden nach Fehlern wirksam reparieren?

Der Artikel „Explainability in AI: Comparing Human-Like and System-Like Trust Repair Strategies" wurde in der Fachzeitschrift Information Systems Frontiers veröffentlicht.

Autoren: Björn Konopka und Manuel Wiesche 

Die Studie untersucht, welche Strategien KI-basierte Konversationsagenten einsetzen sollten, um das Vertrauen von Nutzenden nach einem Systemfehler wiederherzustellen. Im Mittelpunkt steht der Vergleich zwischen menschenähnlichen Strategien (Entschuldigung, Rückfragen) gemäß dem Computers are Social Actors (CASA) Paradigma und systemorientierten eXplainable AI (XAI)-basierte  Strategien (lokale Erklärungen, kontrafaktische Optionen). Grundlage der Untersuchung ist ein kontrolliertes Online-Experiment mit 261 Teilnehmenden, in dem konversationelle KI-Agenten nach einem simulierten Systemfehler unterschiedliche Reparaturstrategien anwendeten. Die Ergebnisse zeigen, dass sowohl menschenähnliche als auch XAI-basierte Strategien das subjektive Vertrauen in vergleichbarem Maße wiederherstellen können. Entscheidend ist, dass XAI-basierte Erklärungen zu signifikant höheren tatsächlichen Weiternutzungsraten führen. Dieses Ergebniss stellt gängige Design-Entscheidungen wie „menschenähnliche Strategien als Standard" in Frage und etabliert XAI als wirksamen Mechanismus zur nachträglichen Vertrauensreparatur.

Zum Artikel: https://link.springer.com/article/10.1007/s10796-026-10751-1