ETD system

Electronic theses and dissertations repository

 

Tesi etd-09022018-143908


Thesis type
Tesi di laurea magistrale
Author
CARIAGGI, LEONARDO
URN
etd-09022018-143908
Title
Model-agnostic explanations of black box classifiers for image recognition
Struttura
INFORMATICA
Corso di studi
INFORMATICA
Commissione
relatore Monreale, Anna
relatore Guidotti, Riccardo
Parole chiave
  • classificazione
  • saliency maps
  • spiegazioni
  • interpretabilità
  • classification
  • explanations
  • interpretability
  • data mining
  • machine learning
Data inizio appello
05/10/2018;
Consultabilità
parziale
Data di rilascio
05/10/2021
Riassunto analitico
For image recognition tasks, prediction models with ad-hoc structures and high performances have been developed throughout the last years. Their particular architectures often nullify their level of interpretability, making them untrustable to the end user. The aim of this work is then to illustrate different strategies of explanations for image classification and provide the user with visual evidences that summarize the local behaviour of the classifier. Explanations can be used both to increase confidence in the model and understand the reasons of potential misclassifications. The proposed approach consists in highlighting parts of an image that are mainly responsible for a certain prediction.<br><br>Negli ultimi anni, nel campo del riconoscimento di immagini, sono stati sviluppati modelli di predizione con strutture ad-hoc e alte prestazioni. La loro particolare architettura sacrifica spesso il loro livello di interpretabilità, diminuendo la fiducia dell&#39;utilizzatore. L&#39;obiettivo di questo lavoro è illustrare diverse strategie di spiegazione e fornire all&#39;utente spunti visuali che riassumano il comportamento locale del classificatore. Esse possono essere usate sia per aumentare la credibilità del modello che per correggere eventuali errori. L&#39;approccio proposto consiste nell&#39;evidenziare parti dell&#39;immagine responsabili per una certa predizione.
File