Disarmate l’IA con la giustizia

Molti hanno commentato “Magnifica Humanitas”, l’enciclica di Leone XIV sull’intelligenza artificiale. Non intendo proporne un’altra descrizione generale. Vorrei soffermarmi sugli aspetti che considero più dirompenti e significativi, perché mettono in discussione non soltanto alcuni usi dell’IA, ma il modo in cui con essa – e più in generale, con le tecnologie dell’informazione e della comunicazione – stiamo costruendo la società del futuro.

Il potere dei big data
Il primo riguarda il potere. Il documento di Leone XIV invita a guardare chi possiede infrastrutture digitali, dati e capacità di calcolo. Oggi questo potere è concentrato in poche mega-imprese: stabiliscono ciò che vediamo, le opportunità che ci vengono proposte e il modo in cui siamo valutati, e hanno grossa influenza sul potere pubblico normativo.
Leone XIV è radicale su questo punto: dati e infrastrutture dell’IA, cioè il cuore del potere computazionale, non possono essere trattati come semplici proprietà o infrastrutture private. Quando incidono su diritti, servizi e decisioni collettive, devono essere sottoposti a controllo pubblico e partecipato. I dati, prodotti dalle attività di milioni di persone o frutto del “lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici”, devono essere gestiti come beni collettivi o comuni, non consegnati senza condizioni a pochi soggetti.

La sfida al potere pubblico
Il secondo punto riguarda la sfida della potenza computazionale al potere pubblico. Leone XIV ha usato un’espressione che ha avuto molta risonanza: “Disarmare l’IA”. Significa sottrarre la tecnologia alla logica della potenza e renderla “discutibile, contestabile, e quindi abitabile”.
Un sistema è abitabile quando possiamo comprenderne i criteri, contestarne una decisione, chiedere chi ne risponde e correggerne gli effetti. Insomma, quando lo possiamo controllare.
Questo principio riguarda anche la quotidianità: un Comune che affida a un algoritmo l’accesso a un servizio, una scuola che affida a una piattaforma privata la trasmissione e verifica delle conoscenze degli studenti, una banca che calcola l’affidabilità di chi chiede un prestito o un ospedale che stabilisce priorità di visite con sistemi automatici.
Chi subisce una decisione deve conoscerne i criteri, ottenere spiegazioni e rivolgersi a una persona responsabile. Altrimenti il potere pubblico finisce per applicare regole progettate e scritte altrove, e il potere privato non tiene in conto di norme e diritti delle persone.
Leone XIV, a mio avviso, è radicale anche su questo punto: non bastano codici etici e norme ex-post, serve una politica ex-ante, capace di orientare la progettazione dell’IA, rallentare lo sviluppo tecnologico quando necessario e permettere alle comunità di decidere quali sistemi costruire, con quali dati, per quali scopi e con quali limiti, anche in termini materiali. Addestrare e utilizzare grandi modelli, infatti, richiede un’ingente mole di materie prime ed energia per costruire, far funzionare, raffreddare i centri dati e metterli in connessione tra loro.

Guerra secondo l’IA
Il terzo punto dell’enciclica che vorrei sottolineare è la guerra: qui il richiamo a “disarmare” l’IA diventa letterale. I sistemi automatici accelerano l’individuazione dei bersagli, comprimono il tempo della decisione e rendono impersonale la scelta sulla vita e sulla morte. Ma una macchina non può assumersi una responsabilità morale.
Quando il bersaglio diventa un dato con una certa etichetta e la vittima un “danno collaterale”, la responsabilità si dissolve tra chi progetta, addestra, autorizza e utilizza il sistema. L’IA non rende la guerra più giusta: può renderla più veloce, distante e apparentemente praticabile. Sta contribuendo, in altre parole, al processo di normalizzazione della guerra, che è ben evidente e su cui il Pontefice dedica un’intera sezione del documento.

Le persone ingabbiate
Infine, ci siamo tutti noi. Gli algoritmi prima spersonalizzano, trasformando una persona in dati; poi le assegnano un’etichetta, che è anche un destino: affidabile o rischiosa, adatta o inadatta, meritevole o esclusa. Così i modelli ricavati dal passato possono diventare sentenze sul nostro futuro. Chi ha sbagliato, chi ha avuto un percorso irregolare o non rientra nella distribuzione statistica desiderata o nella curva di ottimizzazione dei risparmi e dei profitti, diventa prigioniero della previsione.
Il sistema non vede una storia, non incontra un volto, non è parte di relazioni di fiducia, ma usa una correlazione statistica per determinare la categoria da assegnare a un dato (ovvero, a una persona), il più delle volte per ottimizzare un risultato economico. Eppure, l’essere umano non coincide con il proprio profilo statistico. Le persone cambiano, sorprendono, cadono e ricominciano. È nel limite e nell’errore che ci trasformiamo; ed è nella possibilità di non essere inchiodati al passato che nasce la speranza.
Il messaggio più importante dell’enciclica è un invito a impedire che l’efficienza economica diventi l’unico criterio di progettazione dell’IA e di organizzazione della società, e far sì che esse siano dettate da altri principi. Il Pontefice propone i principi della Dottrina sociale: bene comune, destinazione universale dei beni, sussidiarietà, solidarietà, giustizia sociale. Troppo radicale?

Docente di Ingegneria Informatica e dei Sistemi presso il Politecnico di Torino