ETD

• artificial intelligence
• ethics
• relation

This dissertation, developed within the scope of the National PhD in Artificial Intelligence for Society at the University of Pisa, proposes an ethical design framework for trustworthy artificial intelligence systems called "Endless Tuning". The work responds to the need to employ deep AI systems without replacing human decision-making while simultaneously addressing the so-called "responsibility gap". Drawing on a relational ethics perspective, the research investigates human vulnerability in decision-making processes, with particular attention to automation bias, as well as the even epistemological as well as ontological fragility in the context of AI systems, highlighted by phenomena such as adversarial examples, black-box opacity, and the emergent abilities of large language models. On these grounds, the dissertation develops the Endless Tuning method, based on a continuous, double-mirrored decision-making loop between user and machine. The method was implemented through an experimental protocol structured in five dialogical phases and instantiated in three use cases: loan granting, art style recognition, and pneumonia diagnosis. The dissertation concludes by addressing the ethical and legal implications of responsibility in AI systems and by outlining an ecosystem grounded in the traceability of interactions and in the preservation of human centrality.

La presente tesi, sviluppata nell’ambito del Dottorato Nazionale in Artificial Intelligence for Society presso l’Università di Pisa, propone un modello etico di design per sistemi di intelligenza artificiale affidabili denominato "Endless Tuning". Il lavoro nasce dall’esigenza di impiegare anche sistemi di deep learning senza sostituire il ruolo decisionale umano e affrontando al contempo il cosiddetto "responsibility gap". Attraverso una prospettiva di etica relazionale, la ricerca analizza la vulnerabilità umana nei processi decisionali, con particolare attenzione all’automation bias, e la fragilità finanche epistemologica ed ontologica relativa ai sistemi di IA, evidenziata da fenomeni quali adversarial examples, opacità delle black box ed abilità emergenti dei large language models. Su tali basi viene elaborato il metodo Endless Tuning, fondato su un ciclo decisionale continuo ed a doppio specchio tra utente e macchina. Il metodo è stato implementato in un protocollo sperimentale articolato in cinque fasi dialogiche e applicato a tre casi d’uso: concessione di prestiti, riconoscimento di stili artistici e diagnosi di polmonite. La tesi conclude riflettendo sulle implicazioni etiche e giuridiche della responsabilità nei sistemi di IA e proponendo un ecosistema fondato sulla tracciabilità delle interazioni e sul mantenimento della centralità umana.