Boyé, Pascal (2022) Betrachtung der Gradientenbestimmung für den Adam Algorithmus. Bachelor's, Technische Universität Ilmenau.
|
PDF
- Only accessible within DLR
4MB |
Abstract
In dieser Arbeit werden verschiedene Abstiegsverfahren dargestellt. Speziell wird auf das Gradientenverfahren eingegangen und am Beispiel von Empirical Risk Minimization eine Entwicklung bis hin zu adaptiven Verfahren wie dem Adam-Algorithmus beschrieben. Anschließend wird das CLUE-Verfahren erklärt, welches den Adam-Algorithmus zum Lösen einer gewichteten Summe verwendet. Das CLUE-Verfahren verwendet ein Bayesches neuronales Netz und einen Variational Autoencoder, um eine Zielfunktion zu definieren. Diese beiden neuronalen Netze werden beschrieben und es wird erklärt, wie solche trainiert werden können. Für die Zielfunktion wird der Einfluss von verschiedenen Batch-Größen untersucht. Außerdem wird eine modifizierte Abbruchbedingung betrachtet.
| Item URL in elib: | https://elib.dlr.de/189627/ | ||||||||
|---|---|---|---|---|---|---|---|---|---|
| Document Type: | Thesis (Bachelor's) | ||||||||
| Title: | Betrachtung der Gradientenbestimmung für den Adam Algorithmus | ||||||||
| Authors: |
| ||||||||
| Date: | 22 March 2022 | ||||||||
| Refereed publication: | No | ||||||||
| Open Access: | No | ||||||||
| Number of Pages: | 80 | ||||||||
| Status: | Published | ||||||||
| Keywords: | Optimierung, Maschinelles Lernen, Gradientenabstiegsverfahren | ||||||||
| Institution: | Technische Universität Ilmenau | ||||||||
| Department: | Fakultät für Mathematik und Naturwissenschaften | ||||||||
| HGF - Research field: | Aeronautics, Space and Transport | ||||||||
| HGF - Program: | Space | ||||||||
| HGF - Program Themes: | Space System Technology | ||||||||
| DLR - Research area: | Raumfahrt | ||||||||
| DLR - Program: | R SY - Space System Technology | ||||||||
| DLR - Research theme (Project): | R - Basic research in the field of machine learning | ||||||||
| Location: | Jena | ||||||||
| Institutes and Institutions: | Institute of Data Science > Data Analysis and Intelligence | ||||||||
| Deposited By: | Niebling, Julia | ||||||||
| Deposited On: | 03 Nov 2022 08:30 | ||||||||
| Last Modified: | 03 Nov 2022 08:30 |
Repository Staff Only: item control page