Öffnen der Black Box des maschinellen Lernens mit Layer-wise Relevance Propagation

Technische Universität Berlin

Paul Green/Unsplash

Schlagworte

Layer-wise Relevance Propagation, maschinelles Lernen, Taylor-Zerlegung, spektrale Relevanzanalyse, erklärbare künstliche Intelligenz

Zusammenfassung

Techniken des maschinellen Lernens wie (Tiefe) Neuronale Netze lösen eine Vielzahl an Aufgaben mit großem Erfolg, beispielsweise in der Bilderkennung und Textanalyse, und bieten neuartige Vorhersagemodelle für komplexe physikalische, biologische und chemische Zusammenhänge auf. Dies geht jedoch durch die verschachtelte und komplex-nichtlineare Struktur vieler Modelle des maschinellen Lernens mit dem Nachteil einher, dass diese Modelle sich wie Black Boxes verhalten und keine oder nur wenig Informationen über interne Schlussfolgerungen preisgeben. Dieser Black Box-Charakter beeinträchtigt die Anwendung und Akzeptanz von nichtlinearen Methoden in zahlreichen Anwendungsgebieten, in denen das Verstehen individueller Modellvorhersagen, und somit das Vertrauen in das Vorhersagemodell unumgänglich ist. Diese Dissertation behandelt eine neuartige Methode, genannt Layer-wise Relevance Propagation (LRP), zur Erklärung nichtlinearer Klassifikationsentscheidungen mittels der Zerlegung der Vorhersagefunktion. Wir wenden unsere Methode auf Neuronale Netze, Support Vector Maschinen (mit nichtlinearen Kernen) und Bag of Words Merkmalsextraktionssysteme an, und evaluieren LRP auf theoretischer, qualitativer und quantitativer Ebene im Vergleich zu weiteren aktuellen Methoden zur Interpretation von Modellvorhersagen. Unsere Methode als Analysewerkzeug nutzend decken wir vergleichend zwischen diversen vortrainierten Modellen verschiedene erlernte Vorhersagestrategien und Schwächen in Datensätzen, Prädiktionsmodellen und deren Training auf.

Weiterführender Artikel zum Thema.

Zitiervorschlag

Lapuschkin, Sebastian. Opening the machine learning black box with Layer-wise Relevance Propagation. Technische Universität Berlin, 2019, doi:10.14279/depositonce-7942.

Repository

depositonce.tu-berlin.de

Identifikatoren

urn: urn:nbn:de:101:1-2019020600591967118475

doi: 10.14279/depositonce-7942 coisas

Veröffentliche

deine Dissertation

auf OpenD und steigere

deine Online-Sichtbarkeit

Jetzt registrieren