ETD

• adversarial learning, federated learning

This thesis investigates backdoor attacks against Federated Learning (FL) systems that rely on Knowledge Distillation (KD), specifically targeting federated distillation algorithms where clients exchange logits rather than raw gradients. Unlike traditional FL settings where model parameters are shared, federated distillation presents a distinct attack surface through the manipulation of soft labels, which makes basic data poisoning and model replacement attacks not viable. We propose a backdoor attack that exploits the logit-exchange protocol by leveraging colluding malicious clients capable of altering their submitted predictions based on optimizing a bi-level adversarial framework that crafts logits to maximize the backdoor efficiency while preserving clean-task accuracy. Our methodology is evaluated against an implementation of FedFairLAB, a fairness-aware FL approach that leverages federated distillation, across four tabular datasets with varying degrees of non-IID data distributions

Questa tesi analizza attacchi backdoor contro i sistemi di Federated Learning (FL) basati su Knowledge Distillation (KD), concentrandosi in particolare sugli algoritmi di federated distillation, nei quali i client scambiano i logits anziché gradienti grezzi. Differentemente dai contesti tradizionali di FL, in cui vengono condivisi i parametri del modello, la federated distillation presenta una diversa superficie d’attacco, dovuta alla possibilità di manipolare le soft label, dove i comuni attacchi di data poisoning e di model replacement sono impraticabili.
Proponiamo un attacco backdoor che sfrutta questo protocollo basato su logits, avvalendosi di client malevoli collusi tra loro con la capacità di alterare le predizioni inviate attraverso l’ottimizzazione di un framework avversariale bi livello con l'obiettivo di generare logits progettati per massimizzare l’efficacia della backdoor preservando l’accuratezza del modello sulla task principale. La nostra metodologia viene valutata su un’implementazione di FedFairLAB, un approccio di Federated Learning orientato alla fairness che utilizza la federated distillation, considerando quattro dataset tabulari caratterizzati da diversi livelli di distribuzione non-IID dei dati.