Indice:
1. La digitalizzazione della pubblica amministrazione: obiettivi e perplessità
2. L’uso degli algoritmi nelle decisioni amministrative
3. I carenti riferimenti legislativi in materia di amministrazione digitale
4. Il punto della giurisprudenza
4.1 L’approccio restrittivo del TAR
4.2 Una prima apertura del Consiglio di Stato
4.3 L’elaborazione di principi sull’uso degli algoritmi del Consiglio di Stato
5. La necessità di colmare le lacune normative
- La digitalizzazione della pubblica amministrazione: obiettivi e perplessità
A partire dal 2005 si è assistito ad un crescente sviluppo della digitalizzazione all’interno della pubblica amministrazione che vede l’introduzione dell’uso delle tecnologie come uno strumento privilegiato nella gestione dell’attività amministrativa. L’obiettivo principale è di promuovere la digitalizzazione nelle amministrazioni “per conseguire maggiore efficienza nella loro attività […] nei rapporti interni, tra le diverse amministrazioni e tra queste e i privati”[1]. L’ingresso delle intelligenze artificiali nell’azione pubblica necessita però di essere accompagnato da un’adeguata disciplina normativa a garanzia dei diritti degli amministrati. Come si valutano gli attuali riferimenti normativi? Risultano soddisfacenti nel garantire principi a protezione degli individui nei processi decisionali affidati agli algoritmi? La risposta è chiaramente negativa, poiché la disciplina in questione è molto limitata e non individua regole e principi precisi. Come si risolve quindi l’inadeguatezza del quadro normativo? In questo contesto si rivelerà fondamentale il percorso tracciato dalla giurisprudenza che in svariate occasioni trarrà dalla complessa e sporadica disciplina le regole e i principi per bilanciare le innovazioni tecnologiche con le garanzie sociali.
- L’uso degli algoritmi nelle decisioni amministrative
L’evoluzione tecnologica che ha investito le pubbliche amministrazioni non si è limitata all’uso di tecnologie di tipo informativo o comunicativo, ma recentemente si è spinta oltre utilizzando gli algoritmi all’interno dei procedimenti amministrativi. I vantaggi derivanti dal suo utilizzo non hanno certo lasciato indifferente la pubblica amministrazione, che vede con favore l’agevolazione di attività amministrative a volte complesse e macchinose, nella quali non è certo trascurabile la probabilità di errore umano. L’uso degli algoritmi, permettendo di elaborare con velocità e facilità i dati necessari, in vista dell’emanazione del provvedimento finale, si inserisce in un procedimento di tipo automatizzato. Tali procedimenti si caratterizzano per un numero di destinatari elevato, per la presenza di criteri standardizzati individuati ex ante e per una ridotta discrezionalità. La procedura automatizzata infatti può sostituire l’intero procedimento ove questo non preveda un’attività discrezionale oppure sostituirsi ad una sola fase, in cui svolge una funzione di tipo strumentale, all’interno di un procedimento che richiede comunque l’intervento umano. Più precisamente il punto attorno al quale si muove la questione è prospettare una compatibilità dell’utilizzo degli algoritmi con alcuni principi del diritto amministrativo. Ponendo lo sguardo in un’ottica sostanziale è evidente che se ad esempio l’istruttoria procedimentale viene sostituita da un’elaborazione robotizzata, l’amministrato, titolare di un interesse legittimo, difficilmente può influire sull’azione amministrativa. Tuttavia il cittadino dovrebbe essere messo in condizione di comprendere il funzionamento e la logica che governano l’algoritmo nel caso di lesione dei propri interessi legittimi, ma ciò non sempre si rivela possibile. Difatti alcuni algoritmi risultano così complessi da non poter essere conoscibili in quanto capaci di sviluppare percorsi di auto-apprendimento (deep learning) o rivelarsi imprevedibili nei risultati (machine learning). Chiaramente l’uso dell’algoritmo, pur utilizzato in una fase automatizzata, non affievolisce l’obbligo di trasparenza né di motivazione del provvedimento finale da parte della pubblica amministrazione, la quale dovrebbe consentire di accedere alla comprensione delle ragioni giuridiche e dei presupposti di fatto alla base dell’algoritmo stesso.
- I carenti riferimenti legislativi in materia di amministrazione digitale
La legislazione sull’amministrazione digitale è articolata sia sul piano europeo che nazionale, ciononostante risulta essere alquanto marginale ed insoddisfacente poiché non individua esatte regole e principi.
In ambito europeo le norme principali in materia di algoritmi e di decisioni algoritmiche sono inserite nel Regolamento UE 2016/679 (GDPR). Innanzitutto si stabilisce un diritto per l’interessato ad ottenere informazioni circa la logica utilizzata nel procedimento decisionale automatizzato[2], stabilendo una sorta di controllo circa le conseguenze che possono verificarsi dal trattamento. La norma presenta però un problema per cui sarà certamente possibile stabilire un canale conoscitivo dell’algoritmo solo se siano stati trattati dati personali, in caso contrario, se l’algoritmo fosse protetto dal diritto d’autore, non vi sarà possibilità di accesso. Un’altra regola fondamentale è rinvenibile nell’art.22 dello stesso regolamento che sancisce il diritto dell’interessato “di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato […] che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla persona”. La stessa norma nondimeno prevede delle eccezioni per cui il predetto diritto non si applica se: (i) sia necessaria per la conclusione o l’esecuzione di un contratto tra l’interessato e un titolare del trattamento; (ii) sia autorizzata dal diritto dell’Unione o dello Stato membro cui è soggetto il titolare del trattamento, che precisa altresì misure adeguate a tutela dei diritti, delle libertà e dei legittimi interessi dell’interessato; (ii) si basi sul consenso esplicito dell’interessato.[3] Benché siano presenti delle limitazioni, sono comunque previste per l’interessato delle garanzie minime come il diritto di ottenere l’intervento umano da parte del titolare del trattamento e il diritto di esprimere la propria opinione e di contestare la decisione. Non viene richiamata, invece, la stessa tutela minima anche per l’ipotesi in cui la decisione tramite trattamento automatizzato sia autorizzata da una fonte normativa interna.
A livello nazionale si potrebbe riscontrare nella figura del “responsabile del procedimento”[4], nominato per ogni procedimento amministrativo. La presenza di tale soggetto potrebbe, di fatto, garantire il diritto ad ottenere l’intervento umano sui procedimenti robotizzati, seppur non esplicitamente previsto. A fronte di questo vuoto normativo non è del tutto chiaro se effettivamente il potenziale controllo del responsabile sia realizzabile nel caso di strumenti robotizzati e se sia sufficientemente idoneo a garantite tutti quei diritti previsti dal GDPR.
La fonte italiana per eccellenza sull’amministrazione digitale è sicuramente il CAD, Codice dell’amministrazione digitale, approvato con D.Lgs. n.82/2005, modificato in parte nel 2016 e nel 2017. L’art.2 del CAD indica in maniera chiara che la finalità della disciplina è la promozione alla digitalizzazione della PA, la quale deve indispensabilmente adeguarsi ad un nuovo contesto tecnico volto a garantire la transizione digitale. Il legislatore con il codice fa uno sforzo per individuare una varietà di tecniche al fine di favorire la digitalizzazione attribuendo innanzitutto una serie di diritti per i cittadini e imponendo determinati obblighi in capo alle pubbliche amministrazioni. Gli obblighi in questione tendendo a concentrarsi sul concetto di “riorganizzazione” sia strutturale che gestionale della PA. L’obiettivo del Codice è di ridefinire e riaggiornare i servizi resi secondo un modello che aspira a valorizzare innanzitutto il digitale (digital first[5]). È evidente come ci sia una chiara disattenzione per quanto concerne le decisioni adottate mediante l’utilizzo di procedure completamente automatizzate, che non trova una soluzione neppure nella disciplina del procedimento amministrativo la quale non contempla questa ipotesi.
Come evidenziato, il legislatore si concentra molto sulla digitalizzazione ma non sulle intelligenze artificiali, che di fatto utilizzano algoritmi. Il ragionamento sulle intelligenze artificiali si sviluppa esternamente al sistema amministrativo e consentirà di portare queste tecniche all’interno dell’azione amministrativa. Ad oggi non si può parlare di una vera disciplina quanto piuttosto di una pre-disciplina individuata nel “Libro Bianco” dell’Agenzia per l’Italia digitale, elaborato nel 2008. L’obiettivo del Libro Bianco è di definire un quadro giuridico generale attorno cui si dovrà poi costruire una futura disciplina completa. Si mette ben a fuoco il problema delle intelligenze artificiali in positivo, esaltandone i miglioramenti che potrebbero giovare all’azione amministrativa, e in negativo, ponendo l’accento su possibili risvolti di diseguaglianza tra poteri pubblici e cittadini. Essendo una pre-disciplina il suo contenuto non è vincolante, il rischio è quindi che il contributo fornito sia limitato. Il Libro Bianco non è sufficientemente adatto in quanto si dovrebbe passare da una rappresentazione di quello che dovrebbe essere disciplinato ad una rappresentazione concreta e fattuale, composta da principi e regole.
Complessivamente la valutazione del quadro giuridico è negativa, il grado di efficacia delle norme presenti non è idoneo a governare il processo di digitalizzazione. Il disegno stesso del CAD, che dovrebbe essere la base fondamentale per la digitalizzazione della PA, è limitato poiché tenta di inserire queste innovazioni in una disciplina già preesistente; bisognerebbe ripensare completamente il quadro normativo per un’applicazione efficace.
Nell’assenza di riferimenti legislativi specifici bisognerà quindi guardare altrove per ragionare sulla legittimità delle decisioni algoritmiche nell’ambito delle pubbliche amministrazioni.
- Il punto della giurisprudenza
Nel silenzio del legislatore si muove però la giurisprudenza, attraverso un percorso che inizialmente sembra discostarsi dall’uso di decisioni completamente automatizzate nell’attività amministrativa ma che successivamente si confronta con la necessità di fornire dei principi di base.
La vicenda giurisprudenziale trae origine da una procedura di mobilità avviata dal MIUR che disponeva i trasferimenti dei docenti immessi in ruolo in fascia C senza tener conto delle loro preferenze espresse nelle domande inoltrate. L’assegnazione era avvenuta attraverso l’uso di un algoritmo che di fatto non ha tenuto conto delle preferenze, pur in presenza di posti disponibili nelle province indicate nella domanda.
Inizialmente interverrà il T.A.R. e poi in un secondo momento il Consiglio di Stato con due sentenze separate, che forniranno degli spunti e delle riflessioni molto interessanti.
4.1 L’approccio restrittivo del T.A.R.
I docenti destinatari delle assegnazioni fanno ricorso al T.A.R. che si mostra restio all’utilizzo di tali misure. I ricorrenti denunciavano che la procedura era stata completamente demandata ad un algoritmo di cui non se ne conosceva il funzionamento e ciò contrastava pienamente con il principio delle strumentalità del ricorso all’informatica nelle procedure amministrative in quanto vi era stata una totale sostituzione dell’istruttoria commessa ad un responsabile. Il T.A.R. con sentenza n.10964/2019 ammette che la procedura automatizzata, non prevedendo la motivazione dei provvedimenti adottati, non garantisce la partecipazione del cittadino al procedimento amministrativo. La decisione adottata attraverso l’uso di algoritmi, pertanto, non sarebbe conforme alle fasi del procedimento amministrativo, come previste dalla Legge n. 241/1990, e porterebbe all’adozione di un atto amministrativo contrastante con gli istituti di partecipazione, di trasparenza e di accesso. La completa sostituzione dell’attività umana con quella automatizzata rischia di comprimere tutte quelle garanzie procedimentali di diritto di azione e di difesa poiché l’assenza della motivazione non permette all’interessato di comprendere l’iter logico seguito dall’amministrazione per giungere ad un determinato provvedimento.
Il giudice amministrativo sembra quindi escludere la possibilità di un’attività amministrativa completamente automatizzata, piuttosto ammette l’utilizzo delle soluzioni digitali nel procedimento amministrativo solo come strumentale rispetto ad una attività che deve comunque essere compiuta da un responsabile.
4.2 Una prima apertura del Consiglio di Stato
Il Consiglio di Stato nella sentenza n. 2270/2019 compie un passo avanti ponendo una distinzione tra procedimenti che richiedono un minimo di discrezionalità e procedimenti seriali o standardizzati che implicano l’elaborazione di grandi quantità di dati, in quest’ultimo caso è ammesso l’uso di algoritmi. Il giudice osserva che d’altronde l’obiettivo della digitalizzazione nella PA è proprio questo: includere le tecnologie nei procedimenti in vista di un rendimento delle attività più efficiente ed economico. Il Consiglio, facendo questa premessa, classifica l’utilizzo dell’algoritmo nei procedimenti standardizzati come una scelta di metodo che l’amministrazione effettua in alternativa ai metodi tradizionali. Si precisa, inoltre, che l’algoritmo deve essere considerato a tutti gli effetti come un atto informatico che entra nel procedimento, per cui il provvedimento frutto di questo procedimento deve certamente essere impugnabile. Ulteriore passaggio fondamentale che compie il Consiglio è quello di assoggettare l’uso degli algoritmi alla disciplina generale dei principi di pubblicità, trasparenza, proporzionalità, effettività della tutela giurisdizionale e soprattutto a quello di conoscibilità, che in questo caso altro non è che una declinazione del principio di trasparenza. Il principio di conoscibilità impone alla pubblica amministrazione di rendere nota la propria attività, in questo caso, usando un algoritmo, di rendere conoscibile il meccanismo attraverso il quale si compie la decisione in tutti i suoi elementi: chi lo ha progettato, i dati inseriti ecc.
Il Consiglio di Stato in questa sentenza però lascia aperte alcune questioni soprattutto in ordine a come debba essere adattato in concreto l’utilizzo delle intelligenze artificiali alla disciplina del procedimento.
4.3 L’elaborazione di principi sull’uso degli algoritmi del Consiglio di Stato
La sentenza n.8472 del 2019 del Consiglio di Stato si pone in continuità con quella precedente, guardando in maniera ancora più favore l’utilizzo delle intelligenze artificiali nell’attività amministrativa. Innanzitutto afferma che non ci sono ragioni per limitare l’utilizzo degli algoritmi alla sola attività robotizzata, vengono ammessi anche per quelle discrezionali, poiché entrambe espressione di attività autoritativa svolta nel perseguimento dell’interesse pubblico. La premessa di partenza è positiva: l’algoritmo è una risorsa importante che promette maggiore efficienza e neutralità, ma tuttavia problematica. L’utilizzo di procedure robotizzate non deve condurre all’elusione dei principi che conformano l’ordinamento, pertanto il giudice ritiene che non è possibile applicare in modo indiscriminato tutta la disciplina sul procedimento amministrativo così come posta, poiché concepita in un’epoca nella quale l’amministrazione non era ancora investita dalla digitalizzazione.
Di conseguenza in assenza di un quadro normativo limpido, il Consiglio elabora un “decalogo” contenente i criteri di utilizzo dell’algoritmo affinché sia legittimo e conforme ai suddetti principi.
In primo luogo assume rilevanza il concetto di trasparenza declinata nel senso di conoscibilità e comprensibilità dell’algoritmo come garanzia sostanziale del cittadino. Sulla scia della disciplina in materia di dati personali fornita dal GDPR, si pongono una serie di obblighi per l’amministrazione, come fornire informazioni sulla logica che utilizza l’algoritmo secondo un linguaggio comprensibile e una serie di diritti in capo agli amministrati, tra cui la possibilità di sapere se un determinato processo decisionale è automatizzato o no. Il principio di trasparenza non è inteso solo come diritto alla conoscibilità ma anche come diritto alla comprensione dell’algoritmo per cui l’amministrato deve essere posto nelle condizioni di avere chiaro il senso della decisione che lo interessa e della logica sottesa.
Seppur l’apertura verso le decisioni automatizzate è chiara, il secondo principio elaborato risponde ad un atteggiamento più prudenziale. Il principio di “non esclusività” algoritmica esclude l’ammissione di procedure totalmente spersonalizzate in quanto l’intervento umano, seppur minimo, deve essere garantito. L’orientamento del consiglio prevede che la macchina interagisca un minimo con l’essere umano, anche solo in termini di controllo e validazione. Ciò da un lato permette all’amministrazione di essere più funzionale, dall’altro fornisce una maggiore tutela ai cittadini rispetto alla decisione presa dall’algoritmo.
Infine viene affermato il principio il non discriminazione algoritmica poiché è alto il rischio di incorrere in nuove forme di pregiudizi. Il primo passo è quello di attuare una tutela preventiva attraverso la costruzione di un procedimento algoritmico che si conformi ai principi di imparzialità, ragionevolezza e proporzionalità. Successivamente bisogna osservare i dati inseriti nell’algoritmo che devono essere di “qualità”, pertanto il patrimonio conoscitivo su cui opererà la decisione deve svolgersi su dati affidabili e corretti così da non generare discriminazioni nel suo funzionamento.
- La necessità di colmare le lacune normative
La distanza dei principi posti dalla Legge 241/1990 con le esigenze di garanzie derivanti dalla digitalizzazione è evidente, nonostante il legislatore abbia tentato di elaborare una disciplina questa è chiaramente insoddisfacente. Il giudice amministrativo ha quindi svolto un ruolo centrale nella definizione di regole generali circa il tema delle decisioni algoritmiche, ma per quanto abbia tracciato un percorso importante l’elaborazione di principi precisi è ancora in una fase primordiale. Le norme dovrebbero muoversi verso una direzione che deve permettere di governare in maniera più appropriata l’utilizzo delle intelligenze artificiali nel processo decisionale della PA, non adattando la nuova realtà tecnologica con i principi tradizionali quanto piuttosto sviluppando dei meccanismi ex novo o rendendo quelli già previsti più solidi. Una parziale soluzione potrebbe essere quella di inserire dei regimi di accountability, per cui le amministrazioni nel rendere conto del loro operato riguardo le decisioni automatizzate siano “controllate” da altre istituzioni e permettano di inserire procedure di partecipazione con gli amministrati consentendo di discutere e contestare le logiche algoritmiche.
[1] Art 3-bis comma 1 della Legge n.241/1990 così come introdotto dall’art. 12, comma 1, lettera a) della Legge n. 120 del 2020
[2] Art 15 Regolamento UE 2016/679
[3] Art 22 (2) Regolamento UE 2016/679
[4] Art 5 Legge n.241/90
[5] E. CARLANTONI, Tendenze recenti e nuovi principi della digitalizzazione pubblica, in Giornale di diritto amministrativo, 2015
