elib
DLR-Header
DLR-Logo -> http://www.dlr.de
DLR Portal Home | Impressum | Datenschutz | Kontakt | English
Schriftgröße: [-] Text [+]

Don't Forget Your Roots! Using Provenance Data for Transparent and Explainable Development of Machine Learning Models

Jentzsch, Sophie F. und Hochgeschwender, Nico (2019) Don't Forget Your Roots! Using Provenance Data for Transparent and Explainable Development of Machine Learning Models. 1st International Workshop on Explainable Software on ASE2019, 11.-15. Nov 2019, San Diego, CA. doi: 10.1109/ASEW.2019.00025. (nicht veröffentlicht)

[img] PDF - Nur DLR-intern zugänglich
116kB

Kurzfassung

Explaining reasoning and behaviour of artificial intelligent systems to human users becomes increasingly urgent, especially in the field of machine learning. Many recent contributions approach this issue with post-hoc methods, meaning they consider the final system and its outcomes, while the roots of included artefacts are widely neglected. However, we argue in this position paper that there needs to be a stronger focus on the development process. Without insights into specific design decisions and meta information that accrue during the development an accurate explanation of the resulting model is hardly possible. To remedy this situation we propose to increase process transparency by applying provenance methods, which serves also as a basis for increased explainability.

elib-URL des Eintrags:https://elib.dlr.de/132478/
Dokumentart:Konferenzbeitrag (Vortrag)
Titel:Don't Forget Your Roots! Using Provenance Data for Transparent and Explainable Development of Machine Learning Models
Autoren:
AutorenInstitution oder E-Mail-AdresseAutoren-ORCID-iDORCID Put Code
Jentzsch, Sophie F.Sophie.Jentzsch (at) dlr.dehttps://orcid.org/0000-0001-6217-8814NICHT SPEZIFIZIERT
Hochgeschwender, NicoNico.Hochgeschwender (at) dlr.dehttps://orcid.org/0000-0003-1306-7880NICHT SPEZIFIZIERT
Datum:2019
Referierte Publikation:Ja
Open Access:Nein
Gold Open Access:Nein
In SCOPUS:Nein
In ISI Web of Science:Nein
DOI:10.1109/ASEW.2019.00025
Status:nicht veröffentlicht
Stichwörter:Provenance, Explainable ML, XAI, Transparency, Development Process
Veranstaltungstitel:1st International Workshop on Explainable Software on ASE2019
Veranstaltungsort:San Diego, CA
Veranstaltungsart:Workshop
Veranstaltungsdatum:11.-15. Nov 2019
Veranstalter :IEEE
HGF - Forschungsbereich:Luftfahrt, Raumfahrt und Verkehr
HGF - Programm:Raumfahrt
HGF - Programmthema:Technik für Raumfahrtsysteme
DLR - Schwerpunkt:Raumfahrt
DLR - Forschungsgebiet:R SY - Technik für Raumfahrtsysteme
DLR - Teilgebiet (Projekt, Vorhaben):R - Vorhaben SISTEC (alt)
Standort: Köln-Porz
Institute & Einrichtungen:Institut für Simulations- und Softwaretechnik > Verteilte Systeme und Komponentensoftware
Institut für Simulations- und Softwaretechnik
Hinterlegt von: Jentzsch, Sophie Freya
Hinterlegt am:09 Dez 2019 12:13
Letzte Änderung:21 Jul 2023 11:28

Nur für Mitarbeiter des Archivs: Kontrollseite des Eintrags

Blättern
Suchen
Hilfe & Kontakt
Informationen
electronic library verwendet EPrints 3.3.12
Gestaltung Webseite und Datenbank: Copyright © Deutsches Zentrum für Luft- und Raumfahrt (DLR). Alle Rechte vorbehalten.