ETD

• AI law
• autonomous vehicles
• ethics of AI
• european law
• explainability

“Artificial Intelligence is developing fast” and is central to legal, social, and ethical discourse for its potential to reshape modern living. Among the evolving applications of Artificial Intelligence (AI), this thesis focuses on autonomous vehicles and their critical impact over mobility paradigms in the European Union. Self-driving models are widely considered to be groundbreaking technology that is beneficial as much as it is disruptive. They are set to reshape mobility by, among other benefits, improving road safety, advancing sustainable transportation, reducing human error, and supporting traffic efficiency. However, their opaque, yet interactive and autonomous nature raises persistent technical, legal, ethical, and social challenges. Central among these are questions of risks in real-world driving environments, transparency in autonomous decision-making, utility and accessibility in automated transportation, as well as accountability in safety-critical scenarios, and the calibration of trust in human-computer interaction.
Numerous studies show the benefits of autonomous vehicles, while addressing challenges and downsides, to support their development and on-road deployment. Amongst them, explainable artificial intelligence (XAI) research holds critical importance for the empowerment of humans involved in the value-chain of autonomous vehicles. Scholars argue that designing explainability in autonomous driving improves its safety, facilitates human-computer interaction, as well as directly improving transparency, fairness and interpretability. While explainability-oriented approaches are widely promoted as a response to the technical, social and ethical challenges of autonomous driving, their regulatory dimension remains underexplored. In particular, few studies analyze explainability in autonomous driving from a legal perspective. Existing scholarship in the juridical sciences underestimates the legal consequences of achieving, or failing to achieve, explainability in self-driving systems. Moreover, it rarely examines whether, and to what extent, regulation should actively support the transition towards explainable autonomous vehicles.
This thesis addresses these gaps by advancing a regulatory framework for explainable autonomous driving. Its first objective is to articulate a legal perspective capable of realizing the systemic impact of explainability on the development and deployment of autonomous vehicles, including questions related to responsibility. Rather than considering XAI as a technical approach with incidental regulatory implications, this work conceptualizes explainability, as well as explanation-sharing, as a legally relevant design approach that shapes rights, obligations, risk allocation, and accountability structures throughout the autonomous driving value-chain. Second, the thesis argues that autonomous vehicles ought to be explainable through the law. It advances that explainability should be elevated to normative requirement for the design of autonomous vehicles in the Union, supported by targeted legal revisions. This combines with the argument above to show that XAI carries substantial legal consequences in the domain of autonomous driving, as the thesis challenges the prevailing tendency in the literature to treat explainability as external to legal analysis. Finally, this thesis proposes regulatory revisions aimed at facilitating the transition toward explainable autonomous driving. It argues that law should not be reactive to technological developments in the mobility sector and should hold a constitute role in steering innovation towards XAI-oriented solutions. In doing so, tis thesis aims to both support the systemic impact of explainability through law, and to expand it with legal perspectives embracing the relationship between XAI and themes of technology governance, accountability, liability, certification, and so forth. By doing so, this thesis contributes to the existing body of knowledge by identifying and tackling a structural gap at the intersection of law, explainable artificial intelligence, and autonomous vehicles. The thesis advances a law and technology approach that recognizes the critical and wide impact of explainability over autonomous driving, contributes to it by providing new legal perspectives, and offers regulatory ideas to support the transition toward explainable autonomous driving, realizing the systemic influence of XAI in the field. Ultimately, this thesis advocates for a future autonomous mobility paradigm in which self-driving vehicles are accountable, transparent, safe, and trustworthy through the law, while simultaneously avoiding one in which they remain opaque, dangerous and unpredictable due to regulatory gaps at the expense of explainability.

L’“Intelligenza Artificiale si sta sviluppando rapidamente”¹ ed è al centro del dibattito giuridico, sociale ed etico per il suo potenziale di trasformare la vita moderna. Tra le applicazioni in evoluzione dell’Intelligenza Artificiale (IA), la presente tesi si concentra sui veicoli autonomi e sul loro impatto cruciale sui paradigmi della mobilità nell’Unione Europea. I modelli di guida autonoma sono ampiamente considerati una tecnologia rivoluzionaria, tanto benefica quanto dirompente. Essi sono destinati a ridefinire la mobilità attraverso, tra gli altri vantaggi, il miglioramento della sicurezza stradale, la promozione del trasporto sostenibile, la riduzione dell’errore umano e l’aumento dell’efficienza del traffico. Tuttavia, la loro natura opaca, pur essendo interattiva e autonoma, solleva persistenti sfide tecniche, giuridiche, etiche e sociali. Tra queste figurano, in particolare, le questioni relative ai rischi negli ambienti di guida reali, alla trasparenza dei processi decisionali autonomi, all’utilità e all’accessibilità del trasporto automatizzato, nonché alla responsabilità negli scenari critici per la sicurezza e alla corretta calibrazione della fiducia nell’interazione uomo-macchina.

Numerosi studi evidenziano i benefici dei veicoli autonomi, affrontandone al contempo le sfide e gli svantaggi, al fine di sostenerne lo sviluppo e l’impiego su strada. Tra questi, la ricerca sull’Intelligenza Artificiale Spiegabile (Explainable Artificial Intelligence, XAI) riveste un’importanza fondamentale per l’empowerment degli esseri umani coinvolti nella catena del valore dei veicoli autonomi. Gli studiosi sostengono che integrare l’esplicabilità nella guida autonoma ne migliori la sicurezza, favorisca l’interazione uomo-macchina e contribuisca direttamente ad accrescere trasparenza, equità e interpretabilità. Sebbene gli approcci orientati all’esplicabilità siano ampiamente promossi come risposta alle sfide tecniche, sociali ed etiche della guida autonoma, la loro dimensione regolatoria rimane ancora poco esplorata. In particolare, pochi studi analizzano l’esplicabilità nella guida autonoma da una prospettiva giuridica. La letteratura esistente nelle scienze giuridiche tende a sottovalutare le conseguenze legali derivanti dal raggiungimento, o dal mancato raggiungimento, dell’esplicabilità nei sistemi di guida autonoma. Inoltre, raramente esamina se, e in quale misura, la regolazione dovrebbe sostenere attivamente la transizione verso veicoli autonomi spiegabili.

La presente tesi affronta tali lacune proponendo un quadro regolatorio per la guida autonoma spiegabile. Il suo primo obiettivo è elaborare una prospettiva giuridica capace di cogliere l’impatto sistemico dell’esplicabilità sullo sviluppo e sull’impiego dei veicoli autonomi, comprese le questioni relative alla responsabilità. Anziché considerare la XAI come un approccio tecnico con implicazioni regolatorie meramente incidentali, questo lavoro concettualizza l’esplicabilità, così come la condivisione delle spiegazioni, come un approccio progettuale giuridicamente rilevante, in grado di modellare diritti, obblighi, allocazione dei rischi e strutture di accountability lungo l’intera catena del valore della guida autonoma.

In secondo luogo, la tesi sostiene che i veicoli autonomi debbano essere resi spiegabili attraverso il diritto. Essa argomenta che l’esplicabilità dovrebbe essere elevata a requisito normativo per la progettazione dei veicoli autonomi nell’Unione, supportata da revisioni legislative mirate. Questo argomento si combina con quello precedente per dimostrare che la XAI comporta conseguenze giuridiche sostanziali nel settore della guida autonoma, mettendo in discussione la tendenza prevalente nella letteratura a trattare l’esplicabilità come un elemento esterno all’analisi giuridica.

Infine, la tesi propone modifiche normative volte a facilitare la transizione verso una guida autonoma spiegabile. Essa sostiene che il diritto non dovrebbe limitarsi a reagire agli sviluppi tecnologici nel settore della mobilità, ma dovrebbe svolgere un ruolo costitutivo nell’orientare l’innovazione verso soluzioni fondate sulla XAI. In questo modo, la tesi mira sia a sostenere attraverso il diritto l’impatto sistemico dell’esplicabilità, sia ad ampliarlo mediante prospettive giuridiche che abbracciano il rapporto tra XAI e temi quali la governance della tecnologia, l’accountability, la responsabilità civile, la certificazione e altri aspetti correlati.

Così facendo, la tesi contribuisce al corpo di conoscenze esistente identificando e affrontando una lacuna strutturale all’intersezione tra diritto, intelligenza artificiale spiegabile e veicoli autonomi. Essa propone un approccio di diritto e tecnologia che riconosce l’impatto critico e pervasivo dell’esplicabilità sulla guida autonoma, vi contribuisce offrendo nuove prospettive giuridiche e propone soluzioni regolatorie per sostenere la transizione verso una guida autonoma spiegabile, valorizzando l’influenza sistemica della XAI nel settore.

In ultima analisi, questa tesi sostiene un futuro paradigma della mobilità autonoma in cui i veicoli a guida autonoma siano responsabili, trasparenti, sicuri e degni di fiducia grazie al diritto, evitando al contempo uno scenario in cui essi rimangano opachi, pericolosi e imprevedibili a causa di lacune regolatorie che ostacolano l’affermazione dell’esplicabilità.