Der Einfluss von KI-Transparenz auf die Leistung menschlicher Teammitglieder in Human-Autonomy-Teams

Kurzfassung

Die Integration autonomer Agenten in die Teamarbeit zielt auf Leistungssteigerungen ab, wird jedoch von Herausforderungen wie dem Verlust des Situationsbewusstseins (Situation Awareness, SA) und der Gefahr der Fehl- oder Nichtnutzung begleitet. Diese Arbeit untersucht den Einfluss von Agenten-Transparenz auf die menschliche Leistung in Human-Autonomie-Teams (HAT) durch eine Sekundäranalyse einer Studie des Deutschen Zentrums für Luft- und Raumfahrt (DLR). Dabei bearbeiteten N=70 Proband*innen in einem 2×2-Within-Subject-Design in Teams aus zwei Menschen und einem Agenten Überwachungs- (Monitoring) und Schlussfolgerungs (Diagnose)-Aufgaben in einer abstrakten Kontrollzentrumssimulation. Dabei wurde die Agenten-Transparenz systematisch variiert (niedrig vs. hoch). Es wurde erwartet, dass eine erhöhte Transparenz mit einer schnelleren und genaueren Reaktion/ Bearbeitung einhergehen würde und dass dieser Effekt abhängig von der Schwierigkeit der spezifischen Aufgabe sein würde. Die Ergebnisse der gemischten Modelle zeigen ein heterogenes Bild hinsichtlich der Effekte der Transparenzsteigerung: Während hohe Transparenz in der Monitoring-Aufgabe zu signifikant langsameren Reaktionszeiten ohne Genauigkeitszuwachs führte, bewirkte sie in der Diagnose-Aufgabe, zusätzlich zu verkürzten Bearbeitungszeiten, signifikant höhere Chancen auf eine korrekte Antwort. Ein Interaktionseffekt mit der Aufgabenschwierigkeit fand sich nicht; Transparenz wirkte unabhängig vom Schwierigkeitsgrad der Aufgabe positiv. Die Befunde verdeutlichen, dass Transparenz kein Garant für Leistung in HAT ist, sondern bei reinen Überwachungsaufgaben informationsindiziert überfordern kann, während sie bei Aufgaben des logischen Schlussfolgerns Leistung fördern kann. Daraus leitet sich die Notwendigkeit ab, Transparenz aufgabenspezifisch zu gestalten.