Se l’algoritmo sostituisce la legge

In Occidente è in corso una grande sostituzione: l’informatica sta prendendo il posto del diritto. Le norme e le informazioni che regolano la vita collettiva sono sempre più iscritte nel codice delle piattaforme, e in particolare in quello delle grandi aziende informatiche. È questa la tesi che Ugo Mattei, ordinario di diritto civile all’Università di Torino (ed ex vicesindaco di Chieri, 2014-15), espone nella sua ultima opera “La fine del diritto”.
n questo breve trattato, di facile lettura anche per i non addetti ai lavori, Mattei illustra come l’ipertecnologico capitalismo della sorveglianza, bulimico di dati, imponga regole che sostituiscono, o rendono inefficaci, quelle iscritte nel diritto. In altre parole, in sempre più ambiti della nostra vita è il codice informatico, ovvero il software, a stabilire quali azioni possiamo compiere e in che modo, a quali opportunità possiamo accedere e quali opzioni ci vengono precluse.
Questa trasformazione non è astratta, ma produce effetti molto concreti nella vita quotidiana. Un annuncio di lavoro nel campo degli autotrasporti può apparire nel feed LinkedIn di Giulio ma non in quello di Patrizia. Entrambi sono disoccupati, in cerca di lavoro, in possesso di patente D e con esperienza simile; tuttavia, l’algoritmo, progettato per massimizzare i clic che generano profitto per la piattaforma, tende a mostrarlo a molti più uomini che donne, poiché queste sono sottorappresentate nel settore.
Eppure, la legge vieta qualsiasi trattamento discriminatorio di genere anche nella fase di accesso alle opportunità lavorative, inclusa la pubblicità delle offerte.
Una polizza auto può essere offerta sul sito di un’agenzia assicurativa a 400 euro a Paolo, guidatore nato e residente a Milano, e a 900 euro a Fatima, nata in Marocco e residente a Torino, a parità di condizioni contrattuali e caratteristiche del conducente (età, classe di merito).
Eppure, l’Ivass (Istituto per la vigilanza sulle assicurazioni) ha chiarito sin dal 2014 che l’utilizzo diretto del luogo di nascita nei modelli attuariali può costituire una forma di discriminazione.
Negli Stati Uniti e in Europa Amazon e Ryanair hanno potuto fare lauti profitti con algoritmi capaci di gonfiare i prezzi monitorando automaticamente i comportamenti dei concorrenti e dei clienti, aggirando le norme sulla concorrenza. Allo stesso tempo, il Regolamento generale europeo sulla protezione dei dati (GDPR) è spesso svuotato di efficacia da un semplice clic: non accetti i termini e le condizioni d’uso del sito? Allora non puoi accedere al servizio. Li accetti? Allora i dati su chi sei e su come utilizzi la piattaforma vengono raccolti, utilizzati e spesso ceduti a terzi: da questi dati dipenderanno il prezzo che pagherai su un sito di e-commerce, le notizie che vedrai su un social network, l’ordine dei risultati su Google e persino il modo in cui un’IA ti risponderà.
Ma un diritto “a condizione”, come quello imposto dai termini d’uso delle piattaforme, non è in linea con i principi fondamentali del diritto occidentale. Oggi, una volta accettate le condizioni di un’app o di un sito, valgono le regole stabilite dalla piattaforma stessa: una situazione che ricorda, per certi versi, il Medioevo, quando i feudatari decidevano le norme all’interno dei propri territori.
“Code is law”, ovvero il codice informatico è legge, scriveva Laurence Lessig nel suo celebre articolo e libro del 1999. Ma non si tratta della legge di uno Stato democratico, costruita collettivamente attraverso meccanismi di rappresentanza e pensata anche per tutelare i più deboli (almeno nella versione ideale della democrazia): è piuttosto la legge del più forte, la legge del feudatario che impone le proprie regole ai sudditi.

Docente di Ingegneria Informatica e dei Sistemi al Politecnico di Torino