ETD

• AI
• AIED
• education
• ethics
• socio-technical system theory

This thesis addresses the question of how to realise the full potential of Artificial Intelligence in Education (AIED), identifying three forms of uncertainty that hinder its responsible adoption: technological (the opacity of models and the problem of explainability), socio-technical (the invisibility of the interests and actors that shape these systems), and educational (the still poorly understood effects on the learning and autonomy of students and teachers). It argues that these uncertainties are not independent, but constitute a recursive causal system in which each reinforces the others.
In response, the thesis proposes the Machine-in-the-Loop (MITL) paradigm, which places human expertise back at the centre of the epistemic and decision-making cycles of AIED through three principles: epistemic precedence, causal transparency, and intervention orientation. The framework is illustrated through two case studies applied to the prediction of low achievement (INVALSI dataset) and the prevention of university dropout.

La tesi affronta il problema di come realizzare il pieno potenziale dell'Intelligenza Artificiale in Educazione (AIED), identificando tre forme di incertezza che ne ostacolano l'adozione responsabile: tecnologica (l'opacità dei modelli e il problema della spiegabilità), socio-tecnica (l'invisibilità degli interessi e degli attori che plasmano questi sistemi) ed educativa (gli effetti ancora poco compresi sull'apprendimento e sull'autonomia di studenti e docenti). Si argomenta che queste incertezze non sono indipendenti, ma costituiscono un sistema causale ricorsivo in cui ciascuna rafforza le altre.
In risposta, la tesi propone il paradigma Machine-in-the-Loop (MITL), che ricolloca l'expertise umana al centro dei cicli epistemici e decisionali dell'AIED, attraverso tre principi: precedenza epistemica, trasparenza causale e orientamento all'intervento. Il framework viene illustrato mediante due casi di studio applicati alla predizione del basso rendimento (dataset INVALSI) e alla prevenzione dell'abbandono universitario.