ETD

• BoCSoR
• Ensemble Approach
• Explainable AI
• FedAvg
• Federated Model
• Gini
• Interpretabilità modelli
• RaSCoFeS
• SHAP
• XAI

This thesis studies the applicability of RaSCoFeS (Randomized binary Search of Counterfactual Features Set), a global, model-agnostic XAI method based on counterfactual explanations, in distributed learning contexts. The objective is to verify whether RaSCoFeS can be used in scenarios where data privacy and locality are fundamental constraints, such as in healthcare. Two approaches are analyzed: an input-diversified ensemble, where data remain local on each subset, and a federated model trained with FedAvg, where no raw data ever leaves the local client.
A preliminary validation confirms that RaSCoFeS is a reliable interpretability method, showing strong correlation with SHAP and CatBoost intrinsic importance (Gini). In the ensemble setting, RaSCoFeS Aggregated achieves excellent results, with Pearson correlations above 0.88 with Gini across four benchmark datasets, demonstrating that aggregating local explanations effectively approximates the global explanation without centralizing data.
In the federated setting, results are encouraging but require attention to data structure. With IID data, RaSCoFeS Aggregated reaches correlations up to 0.987, matching or outperforming the centralized global model. With non-IID data, in-depth experiments reveal that feature correlation shift across clients is much more harmful than class imbalance: in the hardest scenario, RaSCoFeS maintains a correlation of 0.96 compared to 0.69 for SHAP Average. In conclusion, RaSCoFeS proves to be an interpretability method applicable in distributed settings with strong data privacy and locality constraints.

Questa tesi studia l'applicabilità di RaSCoFeS (Randomized binary Search of Counterfactual Features Set), un metodo XAI globale e model-agnostic basato su spiegazioni controfattuali, in contesti di apprendimento distribuito. L'obiettivo è verificare se RaSCoFeS possa essere utilizzato in scenari dove la privacy e la località dei dati sono vincoli fondamentali, come in ambito medico. A tal fine vengono analizzati due approcci: un ensemble input-diversified, dove i dati rimangono locali su ciascun sottoinsieme, e un modello federato addestrato con FedAvg, dove nessun dato grezzo lascia mai il client locale.
Una validazione preliminare conferma che RaSCoFeS è un metodo di interpretabilità affidabile, mostrando forte correlazione con SHAP e con l'importanza intrinseca di CatBoost (Gini). Nel setting ensemble, RaSCoFeS Aggregated raggiunge risultati eccellenti, con correlazioni di Pearson superiori a 0.88 con Gini su quattro dataset benchmark, dimostrando che l'aggregazione di spiegazioni locali approssima efficacemente la spiegazione globale senza centralizzare i dati.
Nel setting federato, i risultati sono incoraggianti ma richiedono attenzione alla struttura dei dati. Con dataset IID, RaSCoFeS Aggregated raggiunge correlazioni fino a 0.987, approssimando o superando il modello globale centralizzato. Con dataset non-IID, studi approfonditi rivelano che l'eterogeneità nella correlazione tra feature tra i client è molto più dannosa dello sbilanciamento delle classi: nei casi più critici RaSCoFeS mantiene una correlazione di 0.96 contro 0.69 di SHAP Average. In conclusione, RaSCoFeS si conferma un metodo di interpretabilità applicabile in contesti distribuiti con forti vincoli di privacy e località dei dati.