ETD

• AI governance
• artificial intelligence
• co-design
• equity

The research begins in proposing equity as an alternative to fairness due to its context orientation, fostering of belonging, and the focus on the redistribution of power and resources. Drawing on feminist and decolonial thought, this thesis redefines equity as a theoretical and methodological alternative to fairness within AI governance. To operationalise this definition, the research adopts a participatory and design justice approach, combining methods from feminist human–computer interaction (HCI), AI ethics, and feminist theory. It situates accountability within the broader ecosystem of AI governance and examines how mechanisms such as audits, impact assessments, and due diligence processes can be reframed through an equity lens. It addresses the central research question: How can assessing auditing methodologies from an equity approach contribute to fostering reliable AI and upholding fundamental rights in the context of the EU AI Act?

The primary objective of this research was to develop and operationalise the concept of equity as an analytical framework for AI governance. While fairness has long been the dominant ethical principle associated with equality and non-discrimination in the AI ecosystem, it has failed to capture the structural, contextual, and lived dimensions of negative impacts to marginalised communities that often face structural and intersectional harms. This thesis therefore proposes equity as an alternative. Part I establishes the conceptual foundations by tracing the evolution of AI governance and accountability frameworks, from global soft-law instruments to binding regional regulations such as the EU AI Act. It argues that while mechanisms like the Fundamental Rights Impact Assessment (FRIA) from the EU AI Act represent an important step, they remain limited in scope, often procedural rather than substantive, and disconnected from the lived realities of those most affected by AI systems.

The second objective was to translate equity into practice through participatory and co-design methodologies. The research developed in Part II a set of eight equity indicators, derived from workshops conducted with two distinct groups: AI experts from the EU Horizon project FINDHR and youth participants representing affected communities. FINDHR was selected for its interdisciplinary composition—spanning civil society, academia, and industry—and for its focus on non-discrimination in AI-based recruitment systems, offering a critical environment to test the distinction between fairness and equity. The youth workshops, despite challenges in participation and continuity, provided essential insights into how younger generations perceive and articulate equity within technological contexts.

The third objective was to apply the co-created indicators to existing AI auditing methodologies to evaluate how current practices address or fail to address equity concerns. The assessment presented in Part III focused on four third-party ecosystem audits selected for their ethical or community-based orientations. This application demonstrated how the implementation of equity can be used as a diagnostic tool to analyse accountability mechanisms in real-world contexts.

The research makes three major contributions:


\1. Conceptual Contribution: It develops a new theoretical framework situating equity as a guiding value for AI accountability, linking ethical reflection to feminist and human rights perspectives. This reframing moves beyond technocratic compliance to address how accountability redistributes power and amplifies the voices of those most affected.}
\2. Methodological Contribution: It introduces a participatory co-design method for constructing equity indicators that bring together expert and lay perspectives. This approach bridges the gap between ethical theory and technical evaluation, showing that participatory processes can themselves be instruments of accountability.}
\3. Applied Contribution: By applying these indicators to real-world audits, the thesis demonstrates that equity-oriented assessments can uncover limitations often obscured in conventional audits—such as lack of contestability, narrow data representation, and weak enablement for affected communities. The findings show that equity assessment fosters alignment between technical reliability and social justice goals. }


It bridges technical, political, legal, and ethical domains demonstrating that auditing can serve as a socio-technical practice of accountability rather than a procedural exercise of compliance. The indicators developed here provide a transferable framework for embedding equity into AI governance across domains, particularly within the EU AI Act’s evolving accountability ecosystem.

Ultimately, we argue that equity in AI cannot be captured through metrics alone. It demands rethinking who participates in evaluation, how accountability is conceived, and whose perspectives shape the design and oversight of AI systems. Embedding equity into auditing thus becomes not only a matter of technical improvement, but a transformative practice in the age of algorithmic governance.

La presente tesi indaga in che modo la valutazione delle metodologie di audit dell’IA attraverso un approccio basato sull’equità
possa favorire lo sviluppo di sistemi di IA più affidabili e tutelare i diritti fondamentali nel
contesto della legge dell’UE sull’IA.
La ricerca parte dal proporre l’equità come alternativa al fairness, in virtù del suo
orientamento contestuale, della promozione del senso di appartenenza e dell’attenzione alla ridistribuzione del potere
e delle risorse. Attingendo al pensiero femminista e decoloniale, questa tesi ridefinisce l'equità
come alternativa teorica e metodologica al fairness nell'ambito della governance dell'IA. Per
rendere operativa questa definizione, la ricerca adotta un approccio partecipativo e di giustizia progettuale,
combinando metodi provenienti dall'interazione uomo-computer (HCI) femminista, dall'etica dell'IA
e dalla teoria femminista. Essa colloca la responsabilità all’interno del più ampio ecosistema della governance dell’IA
ed esamina come meccanismi quali audit, valutazioni d’impatto e processi di due
diligence possano essere ridefiniti attraverso una lente di equità. Affronta la questione centrale
della ricerca: in che modo la valutazione delle metodologie di audit da un approccio di equità
può contribuire a promuovere un’IA affidabile e a tutelare i diritti fondamentali nel contesto
dell’IA Act dell’UE?
L'obiettivo principale di questa ricerca era sviluppare e rendere operativo il concetto
di equità come quadro analitico per la governance dell'IA. Sebbene fairness sia stata a lungo
il principio etico dominante associato all'uguaglianza e alla non discriminazione nell'
ecosistema dell'IA, non è riuscita a cogliere le dimensioni strutturali, contestuali e vissute degli
impatti negativi sulle comunità emarginate, che spesso subiscono danni strutturali e
intersezionali. La presente tesi propone quindi l’equità come alternativa. La Parte I stabilisce
le basi concettuali tracciando l'evoluzione dei quadri di governance e responsabilità
dell'IA, dagli strumenti globali di soft law alle normative regionali vincolanti come
l'EU AI Act. Essa sostiene che, sebbene meccanismi come la Valutazione dell'impatto sui diritti fondamentali
(FRIA) della legge sull'IA dell'UE rappresentano un passo importante, essi rimangono di
portata limitata, spesso procedurali piuttosto che sostanziali, e scollegati dalle realtà
vissute da coloro che sono maggiormente colpiti dai sistemi di IA.
Il secondo obiettivo era quello di tradurre l'equità in pratica attraverso metodologie partecipative e
di co-progettazione. La ricerca ha sviluppato nella Parte II una serie di otto indicatori di equità,
derivati da workshop condotti con due gruppi distinti: esperti di IA del
progetto Horizon dell'UE FINDHR e giovani partecipanti in rappresentanza delle comunità interessate. FINDHR è stato selezionato per la sua composizione interdisciplinare — che abbraccia la società civile,
il mondo accademico e l’industria — e per la sua attenzione alla non discriminazione nei sistemi di reclutamento basati sull’IA,
offrendo un ambiente critico per testare la distinzione tra equità e giustizia. I workshop con i giovani, nonostante le sfide relative alla partecipazione e alla continuità, hanno fornito
intuizioni essenziali su come le generazioni più giovani percepiscono e articolano l’equità all’interno
di contesti tecnologici.