Ogni grande trasformazione tecnologica ha modificato, nel corso della storia, il modo in cui
l’uomo vive e agisce. La stampa ha reso il sapere più accessibile, la macchina a vapore ha
trasformato il lavoro, Internet ha cambiato radicalmente il modo di comunicare e di acquisire
informazioni.
Oggi ci troviamo davanti a una trasformazione ancora più profonda: l’intelligenza artificiale.
L’AI non è più una tecnologia confinata alla ricerca o a scenari futuri. È già presente nella
medicina, nell’istruzione, nell’agricoltura, nei trasporti, nell’industria e nella pubblica
amministrazione. La sua capacità di elaborare enormi quantità di dati, riconoscere schemi,
formulare previsioni e produrre contenuti permette di svolgere molte attività con una rapidità e una
precisione difficilmente raggiungibili dall’uomo.
Il vero cambiamento, però, non consiste soltanto nel fatto che una macchina possa fare qualcosa
al posto nostro. La novità più significativa è che l’intelligenza artificiale può entrare nel processo
stesso attraverso cui conosciamo, valutiamo e decidiamo.
Ed è qui che la tecnologia smette di essere soltanto uno strumento e diventa una questione di
responsabilità.
Affidarsi all’AI può infatti significare liberare tempo, ridurre gli errori e prendere decisioni sulla base
di una quantità di informazioni molto più ampia. Ma può anche modificare il rapporto dell’uomo
con le proprie capacità. Se una macchina può cercare le informazioni, analizzarle e suggerire una
soluzione, il rischio è che l’uomo finisca per limitarsi ad accettare quel risultato, rinunciando
progressivamente alla necessità di verificarlo e di giudicarlo autonomamente.
Il problema diventa ancora più delicato quando non si tratta di una scelta quotidiana, ma di una
decisione capace di incidere concretamente sulla vita di una persona.
Un algoritmo può contribuire alla selezione di un lavoratore, alla valutazione dell’accesso a un
servizio o a una decisione della pubblica amministrazione. In questi casi non basta sapere che il
sistema è efficiente: bisogna sapere chi lo controlla e chi risponde delle sue conseguenze.
Perché l’algoritmo può sbagliare.
Può produrre risultati discriminatori, può risentire dei limiti dei dati sui quali è stato addestrato o
può fornire una risposta che viene accettata senza un’adeguata verifica proprio perché
considerata il prodotto “oggettivo” di una macchina.
Si crea così un paradosso: più affidiamo alla tecnologia una parte delle nostre decisioni, più
diventa necessario sapere chi rimane responsabile quando qualcosa non funziona.
È questo il problema che il diritto è chiamato ad affrontare. L’Unione europea ha cercato di farlo
attraverso il Regolamento 2024/1689, l’AI Act, che costruisce una disciplina basata sul livello di
rischio dei sistemi di intelligenza artificiale e introduce, per quelli considerati ad alto rischio,
specifiche garanzie in materia di gestione dei rischi, dati, tracciabilità, trasparenza e supervisione
umana.
La supervisione umana assume, in questo quadro, un significato essenziale. L’articolo 14 dell’AI
Act richiede che i sistemi ad alto rischio possano essere efficacemente supervisionati da persone
fisiche. Non si tratta, tuttavia, di affiancare semplicemente un essere umano alla macchina. Chi
supervisiona deve poter comprendere i limiti del sistema, riconoscere quando il risultato non sia
attendibile e, soprattutto, intervenire: anche ignorando o modificando l’output dell’AI o
interrompendone l’utilizzo quando necessario.
La presenza dell’uomo deve quindi essere reale e non soltanto formale. Diversamente, il rischio
sarebbe quello di creare una figura umana chiamata soltanto a ratificare una decisione che, in
realtà, è già stata presa dall’algoritmo.
La questione della responsabilità si lega così inevitabilmente a quella della governance. Se un
sistema viene utilizzato per assumere o orientare una decisione, deve essere possibile ricostruire
chi lo ha scelto, chi lo utilizza, quali controlli vengono effettuati e quale ruolo abbia avuto
concretamente l’intelligenza artificiale. Solo rendendo tracciabile questo percorso è possibile
evitare che, di fronte a un errore, la responsabilità si perda dietro la complessità della tecnologia.La vera sfida, allora, non è stabilire se l’uomo debba affidarsi o meno all’intelligenza artificiale. È
stabilire come possa farlo senza rinunciare alla propria capacità di giudicare e senza creare uno
spazio nel quale nessuno sia più chiamato a rispondere.
L’AI può diventare uno strumento straordinario per ampliare le possibilità umane, ma proprio
quanto più diventa potente deve rimanere chiaro il confine tra delegare una decisione e delegare
la responsabilità.
La prima può essere una scelta tecnologica. La seconda non può esserlo.
Perché dietro ogni decisione che produce conseguenze sulla vita delle persone deve continuare a
esserci qualcuno che possa essere chiamato a spiegare non soltanto che cosa è stato deciso, ma
anche perché, come e sotto quale responsabilità.
A cura di Giorgia Teutonico