ETD

• classification
• credit risk
• decision tree
• encoding
• evolutionary algorithms
• generative model
• induction
• leasing
• Multi-Layer Perceptron
• Variational AutoEncoder

Credit risk prediction in leasing contracts represents a central problem in the financial sector,
where it is crucial to balance high predictive performance with model interpretability. In this
context, decision trees are widely adopted in virtue of their knowledge representation that resembles human reasoning and is easy to understand. However, commonly used decision tree
induction methods, such as the CART algorithm, are based on a greedy top-down strategy.
Although this approach is known to be an efficient heuristic, the resulting trees are only locally
optimal and tend to have overly complex structures. An alternative way to search the parameter
space of trees is to use global optimization methods such as evolutionary algorithms. In this thesis, we propose LIGT (Latent Interpretable Genetic Trees), a hybrid algorithm for the induction
of decision trees, which is a variant of GENTREE, differing from the latter in terms of its tree
encoding strategy. The first stage of the method consists of training a VAE model using various
decision tree classifiers, and next, a genetic algorithm is used to explore the latent space of the
trained VAE, with the aim of finding a decision tree with good predictive performance and a
small size. The same pipeline is replicated using a Multi-Layer Perceptron (MLP) Autoencoder,
allowing a comparative analysis between the two latent representations. We compared LIGT
with greedy technique using seven publicly available datasets and on a real dataset provided
by SADAS. The results show that LIGT is able to induce accurate decision trees with very low
complexity, making them very interpretable. However, the application to the real-world SADAS
dataset highlights that the current framework is not yet sufficiently robust for real credit risk
scenarios, and further improvements are required before its practical deployment.

La previsione del rischio di credito nei contratti di leasing rappresenta un problema centrale nel settore finanziario, dove è fondamentale bilanciare elevate prestazioni predittive con l’interpretabilità del modello. In questo contesto, gli alberi decisionali sono ampiamente adottati grazie alla loro rappresentazione della conoscenza, che richiama il ragionamento umano ed è di facile comprensione. Tuttavia, i metodi comunemente utilizzati per l’induzione degli alberi decisionali, come l’algoritmo CART, si basano su una strategia greedy top-down. Sebbene questo approccio sia noto come un’euristica efficiente, gli alberi risultanti sono solo localmente ottimali e tendono ad avere strutture eccessivamente complesse.
Un modo alternativo per esplorare lo spazio dei parametri degli alberi consiste nell’utilizzo di metodi di ottimizzazione globale, come gli algoritmi evolutivi. In questa tesi proponiamo LIGT (Latent Interpretable Genetic Trees), un algoritmo ibrido per l’induzione di alberi decisionali, variante di GENTREE, dal quale differisce per la strategia di codifica dell’albero. La prima fase del metodo consiste nell’addestramento di un modello VAE utilizzando diversi classificatori ad albero decisionale; successivamente, un algoritmo genetico viene impiegato per esplorare lo spazio latente del VAE addestrato, con l’obiettivo di individuare un albero decisionale caratterizzato da buone prestazioni predittive e dimensioni ridotte.
La stessa pipeline viene replicata utilizzando un Autoencoder Multi-Layer Perceptron (MLP), consentendo un’analisi comparativa tra le due rappresentazioni latenti. Abbiamo confrontato LIGT con una tecnica greedy utilizzando sette dataset pubblicamente disponibili e un dataset reale fornito da SADAS. I risultati mostrano che LIGT è in grado di indurre alberi decisionali accurati e con una complessità molto bassa, rendendoli altamente interpretabili. Tuttavia, l’applicazione al dataset reale di SADAS evidenzia che l’attuale framework non è ancora sufficientemente robusto per scenari reali di rischio di credito e che sono necessari ulteriori miglioramenti prima di un suo impiego pratico.