elib
DLR-Header
DLR-Logo -> http://www.dlr.de
DLR Portal Home | Impressum | Datenschutz | Kontakt | English
Schriftgröße: [-] Text [+]

Conversational Interfaces for Explainable AI: A Human-Centred Approach

Jentzsch, Sophie F. und Höhn, Sviatlana und Hochgeschwender, Nico (2019) Conversational Interfaces for Explainable AI: A Human-Centred Approach. In: AAMAS 2019 Workshop on EXplainable TRansparent Autonomous Agents and Multi-Agent Systems (EXTRAAMAS19), Seiten 77-92. Springer. 1st International Workshop on EXplainable TRansparent Autonomous Agents and Multi-Agent Systems (EXTRAAMAS 2019), 2019-05-13 - 2019-05-14, Montreal, Canada. doi: 10.1007/978-3-030-30391-4_5.

[img] PDF - Nur DLR-intern zugänglich
4MB

Kurzfassung

One major goal of Explainable Artificial Intelligence (XAI) in order to enhance trust in technology is to enable the user to enquire information and explanation directly from an intelligent agent. We propose Conversational Interfaces (CIs) to be the perfect setting, since they are intuitive for humans and computationally processible. While there are many approaches addressing technical and agent related issues of this human-agent communication problem, the user perspective appears to be widely neglected. With the goal of better requirement understanding and identification of implicit user expectations, a Wizard of Oz (WoZ) experiment was conducted, where participants tried to elicit basic information from a pretended artificial agent via Conversational Interface (What are your capabilities?). Chats were analysed by means of Conversation Analysis, where the hypothesis that users pursue fundamentally different strategies could be verified. Stated results illustrate the vast variety in human communication and disclose both requirements of users and obstacles in the implementation of protocols for interacting agents. Finally, we inferred essential indications for the implementation of such a CI. The findings show that existing intent-based design of Conversational Interfaces is very limited, even in a well-defined task-based interaction.

elib-URL des Eintrags:https://elib.dlr.de/128143/
Dokumentart:Konferenzbeitrag (Vortrag)
Titel:Conversational Interfaces for Explainable AI: A Human-Centred Approach
Autoren:
AutorenInstitution oder E-Mail-AdresseAutoren-ORCID-iDORCID Put Code
Jentzsch, Sophie F.Sophie.Jentzsch (at) dlr.dehttps://orcid.org/0000-0001-6217-8814NICHT SPEZIFIZIERT
Höhn, Sviatlanasviatlana.hoehn (at) uni.luNICHT SPEZIFIZIERTNICHT SPEZIFIZIERT
Hochgeschwender, NicoNico.Hochgeschwender (at) dlr.dehttps://orcid.org/0000-0003-1306-7880NICHT SPEZIFIZIERT
Datum:2019
Erschienen in:AAMAS 2019 Workshop on EXplainable TRansparent Autonomous Agents and Multi-Agent Systems (EXTRAAMAS19)
Referierte Publikation:Ja
Open Access:Nein
Gold Open Access:Nein
In SCOPUS:Nein
In ISI Web of Science:Nein
DOI:10.1007/978-3-030-30391-4_5
Seitenbereich:Seiten 77-92
Verlag:Springer
Name der Reihe:Lecture Notes in Artificial Intelligence (LNAI)
Status:veröffentlicht
Stichwörter:Explainability ; XAI ; Human-Agent Interaction ; Conversational Interface ; Wizard of Oz
Veranstaltungstitel:1st International Workshop on EXplainable TRansparent Autonomous Agents and Multi-Agent Systems (EXTRAAMAS 2019)
Veranstaltungsort:Montreal, Canada
Veranstaltungsart:Workshop
Veranstaltungsbeginn:13 Mai 2019
Veranstaltungsende:14 Mai 2019
HGF - Forschungsbereich:Luftfahrt, Raumfahrt und Verkehr
HGF - Programm:Raumfahrt
HGF - Programmthema:Technik für Raumfahrtsysteme
DLR - Schwerpunkt:Raumfahrt
DLR - Forschungsgebiet:R SY - Technik für Raumfahrtsysteme
DLR - Teilgebiet (Projekt, Vorhaben):R - Vorhaben SISTEC (alt)
Standort: Köln-Porz
Institute & Einrichtungen:Institut für Simulations- und Softwaretechnik
Institut für Simulations- und Softwaretechnik > Verteilte Systeme und Komponentensoftware
Hinterlegt von: Jentzsch, Sophie Freya
Hinterlegt am:30 Okt 2019 11:13
Letzte Änderung:24 Apr 2024 20:31

Nur für Mitarbeiter des Archivs: Kontrollseite des Eintrags

Blättern
Suchen
Hilfe & Kontakt
Informationen
electronic library verwendet EPrints 3.3.12
Gestaltung Webseite und Datenbank: Copyright © Deutsches Zentrum für Luft- und Raumfahrt (DLR). Alle Rechte vorbehalten.