Masterarbeit - Maschinelles Lernen: Erklärbarkeit von neuronalen Netzen

Ausschreibung für die Fachrichtungen wie z. B.: Informatik, Mathematik, Softwareengineering, technische Informatik oder vergleichbare.

Künstliche Intelligenz (KI) bzw. Machine Learning (ML) erreicht zunehmend einen Reifegrad, der den operativen Einsatz in Unternehmen ermöglicht. In einigen Bereichen wird dieser Einsatz allerdings durch die "Black Box"-Natur vieler aktueller ML-Modelle behindert: Die Entscheidungslogik und somit potentielle Fehler eines Modells sind nicht einsehbar, somit ist der Einsatz für sicherheitskritische Anwendungsfälle, oder solche, in denen das Vertrauen in eine KI notwendig ist, nicht sinnvoll. Insbesondere die beliebten neuronalen Netze sind hier ein Problem. In einem kürzlich vorgestellten Paper (https://arxiv.org/abs/2210.05189) wurde eine Möglichkeit vorgestellt, diese in äquivalente Entscheidungsbäume umzuwandeln und somit für Menschen verständliche Modelle zu erzeugen. In Vorarbeiten wurde diese Transformation für fully connected neuronale Netze (FCNN) bereits implementiert. Diese Umwandlung kann genutzt werden, um mittels sog. Feature Importance (oder Attribution) die Ausgabe eines neuronalen Netzes zu erklären. Nun soll dieses Verfahren im Rahmen einer Masterarbeit für convolutional neuronale Netze (CNN) erweitert und mit bereits existierenden Erklärbarkeitsverfahren verglichen werden.

Was Sie bei uns tun

• Einarbeitung in bereits durchgeführte Arbeiten
• Erweiterung der Implementierung für convolutional neuronale Netze
• Optimierung der Implementierung
• Untersuchung der Ergebnisse (Rechenzeit, Vergleich mit anderen Feature Importance Methoden)

Was Sie mitbringen

• Gültige Immatrikulation
• Machine Learning Kenntnisse
• Sehr gute Programmierkenntnisse in Python, vorzugsweise bereits mit einschlägigen Frameworks (PyTorch, Tensorflow, Scikit-Learn)
• Idealerweise bereits Erfahrung mit Erklärbarkeit künstlicher Intelligenz
• Starkes theoretisches Verständnis
• Strukturierte, selbstständige und ergebnisorientierte Arbeitsweise
• Hohes Maß an Zuverlässigkeit
• Gute Deutsch- oder Englischkenntnisse

Was Sie erwarten können

• Interessante Aufgabenstellungen in der angewandten Forschung
• Vertiefung deiner Programmierkenntnisse
• Intensive Betreuung während der Bearbeitung
• Einblicke in eines der größten Fraunhofer-Institute
• Freundliche Arbeitsumgebung
• Flexible Einteilung der Arbeitszeit

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft. 

Haben wir Ihr Interesse geweckt? Dann bewerben Sie sich jetzt online mit Ihren aussagekräftigen Bewerbungsunterlagen. Wir freuen uns darauf, Sie kennenzulernen! 
 

Frau Lisa Bauer

Recruiting
Tel. +49 711 970-3681

lisa.bauer@ipa.fraunhofer.de

Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA 

www.ipa.fraunhofer.de 

Kennziffer: 79043