Tribunale Amministrativo Regionale della Campania – Napoli, sez. III, 14 novembre 2022, n. 7003
Il ricorso all’algoritmo, in funzione integrativa e servente della decisione umana, ovvero anche in funzione parzialmente decisionale, non può mai comportare un abbassamento del livello delle tutele garantite dalla legge sul procedimento amministrativo, ed in particolare di quelle inerenti alla individuazione del responsabile del procedimento, all’obbligo di motivazione e alla partecipazione al procedimento amministrativo. In caso di decisione fondata su algoritmo si richiede, pertanto, che sia assicurata una declinazione rafforzata del principio di trasparenza, intesa come piena conoscibilità e comprensibilità della regola espressa in un linguaggio differente da quello giuridico, nonché di c.d. non esclusività della decisione algoritmica.
Sommario: 1. Premessa. – 2. La vicenda giudiziaria e la decisione del giudice amministrativo. – 3. Quadro normativo e statuto pretorio del provvedimento algoritmico. – 4. L’algoritmo tra natura giuridica, provvedimento amministrativo e autotutela decisoria. – 5. Considerazioni di sintesi.
- Premessa
La decisione in commento si pone nel solco di una ormai copiosa giurisprudenza amministrativa[1] che, negli ultimi anni, ha contribuito a delineare uno statuto della decisione amministrativa algoritmica, attraverso il richiamo a principi generali[2] che dovrebbero operare inderogabilmente nei
procedimenti svolti attraverso sistemi algoritmici[3] o, in epoca più recente, sistemi di intelligenza artificiale[4].
La riflessione seguente non intende ripercorrere compiutamente l’evoluzione giurisprudenziale sul punto dal momento che la dottrina si è dedicata a tale analisi anche con contributi di carattere monografico[5], ma si propone di individuare alcuni profili di interesse per l’analisi giuridica sul rapporto tra decisione algoritmica e autotutela decisoria.
- La vicenda processuale e la decisione del giudice amministrativo
La vicenda giudiziaria trae origine dal ricorso, promosso dinanzi al giudice amministrativo da un imprenditore agricolo, per l’annullamento delle determinazioni amministrative con le quali l’Agenzia per le erogazioni in agricoltura (d’ora in avanti Agea) aveva provveduto a rideterminare nel quantum i contributi, già riconosciuti ed erogati negli anni precedenti in favore del ricorrente[6].
Tanto per la determinazione (in prima battuta) del contributo, quanto per la nuova quantificazione (effettuata a distanza di due anni), l’Amministrazione si era avvalsa di un algoritmo. In particolare, l’importo era stato determinato sulla base di parametri oggettivi indicati nel bando e relativi, specificamente, all’altitudine e alla pendenza del fondo agricolo.
Il ricorrente osservava che i provvedimenti con i quali l’Agea aveva rideterminato le somme erano stati adottati a seguito dell’applicazione di un “algoritmo diverso” rispetto a quello che aveva condotto alla quantificazione degli indennizzi nel procedimento di primo grado.
Il provvedimento di secondo grado (qualificato dal ricorrente quale “revoca implicita”) veniva, dunque, impugnato deducendo: i) la carenza di motivazione; ii) la inosservanza delle regole contenute nella lex specialis, in quanto la “manovra di ricalcolo” avrebbe comportato una modifica successiva dei criteri di valutazione per il riconoscimento di vantaggi economici; iii) la violazione dell’art. 21-quiquies, l. 241/1990 e dei relativi presupposti per l’esercizio del potere di revoca.
Il Tribunale amministrativo regionale, in accoglimento del ricorso, ha annullato i “provvedimenti di ricalcolo” emanati dall’Agea.
Il Collegio, dapprima, ha ribadito la tesi, da tempo affermata in giurisprudenza, della legittimità dell’impiego di algoritmi nell’ambito del procedimento amministrativo e, in un successivo passaggio argomentativo, ha richiamato, in particolare, i principi di piena conoscibilità e comprensibilità del “modulo algoritmico” utilizzato e dei criteri di elaborazione e di “non esclusività” della decisione algoritmica[7]. Il richiamo alle coordinate essenziali di teoria generale, tuttavia, vale solo quale premessa – certamente non determinante ai fini del decidere – per sviluppare l’argomento su cui la sentenza si fonda: i provvedimenti impugnati risultavano affetti da vizio di motivazione stante il generico riferimento alla “normativa vigente” e alle “indicazioni della Commissione europea” che avrebbero condotto alla rideterminazione degli importi dovuti in applicazione del nuovo algoritmo.
In relazione agli atti amministrativi ad elaborazione elettronica (o, secondo altra terminologia, “atti amministrativi automatizzati”) assume una particolare rilevanza il principio di trasparenza[8] che trova immediata declinazione nell’obbligo di motivazione degli atti[9]. L’obbligatorietà della motivazione nei provvedimenti “tradizionali” costituisce una regola che consente di istituire un raccordo tra procedimento e provvedimento e, dunque, tra forma della funzione[10] e manifestazione del potere funzionalizzato. Essa, com’è noto, costituisce una rilevante declinazione del “diritto ad una buona amministrazione” che nei procedimenti svolti attraverso sistemi automatizzati assolve ad una funzione di garanzia non meno rilevante[11].
Quanto più risulta opaco e difficilmente intellegibile l’iter logico-giuridico seguito dall’Amministrazione attraverso l’impiego di sistemi automatizzati, tanto più le regole tecniche che sovrintendono al funzionamento degli stessi devono essere verificabili e decifrabili, al fine di rendere l’algoritmo (ed il programma che dell’algoritmo rappresenta la traduzione) conoscibile, comprensibile e, in ultima analisi, controllabile, e perciò sindacabile in sede giurisdizionale.
Nel caso di specie, infatti, il giudice amministrativo evidenzia come l’Agea, nell’adottare i provvedimenti di secondo grado applicando un ulteriore e diverso algoritmo, avesse violato per un verso le garanzie partecipative, per altro verso l’obbligo di garantire una adeguata conoscibilità delle ragioni logico-giuridiche poste a fondamento della decisione, genericamente identificate dall’Amministrazione quali ragioni di ottemperanza a nome interne e ad indicazioni della Commissione europea.
Appare, invero, questo il punto considerato dirimente dal Collegio in relazione alla illegittimità degli atti impugnati. Gli altri argomenti giuridici sviluppati nella sentenza, infatti, forniscono una ricostruzione del fenomeno del c.d. atto amministrativo automatizzato ma non costituiscono ragione della decisione[12].
- Quadro normativo e statuto pretorio del provvedimento algoritmico
Al fine di meglio inquadrare le questioni giuridiche poste dalla decisione in rassegna si ritiene indispensabile svolgere una breve analisi del contesto normativo e dei significativi interventi della giurisprudenza nella disciplina dei procedimenti e dei provvedimenti algoritmici.
Occorre anzitutto sottolineare che nel nostro ordinamento – pur in assenza di specifiche norme che riconoscano la possibilità per l’Amministrazione di adoperare sistemi automatizzati nell’adozione dei provvedimenti amministrativi – si segnala da tempo una significativa attenzione verso le regole del c.d. procedimento amministrativo elettronico. Se è vero che all’amministrazione digitale sin dal 2005 si è dedicato addirittura un codice, recante disposizioni che prefigurano l’impatto delle nuove tecnologie in ogni fase del procedimento[13], è con l’introduzione dell’art. 3 bis nella legge generale sul procedimento amministrativo[14] e con l’enunciazione del principio del digital first[15] che l’impiego di strumenti informatici e telematici si proietta stabilmente verso l’esterno[16].
A livello sovranazionale[17] il regolamento (UE) 679/2016 sulla protezione dei dati personali (c.d. GDPR) ha espressamente previsto (art. 22) la possibilità anche per le Amministrazioni di adottare atti automatizzati, ove una legge delle Stato espressamente lo autorizzi ovvero nei casi in cui la decisione automatizzata sia il risultato di un contratto con l’interessato o di un consenso formatosi con lo stesso.
Si può osservare che, a dispetto della costante diffusione degli algoritmi nell’azione amministrativa, le regole poste a presidio di questa “nuova” forma di esercizio del potere (recte a presidio del processo che conduce alla formazione della volontà inverata nel provvedimento espressione del potere) sono delineate solo per via giurisprudenziale. Nelle pronunce della giurisprudenza e nelle riflessioni della dottrina maggioritaria, di contro, resta sullo sfondo la pur rilevante questione giuridica relativa alla stessa ammissibilità, nell’ordinamento vigente, della decisione automatizzata[18].
Il giudice amministrativo, dunque, ha enucleato una sorta di “statuto pretorio” della materia, affermando la valenza precettiva di regole e garanzie minime proprie del procedimento amministrativo[19] che nei moduli decisori algoritmici rischiavano di essere de facto ritenute recessive innanzi all’interesse alla speditezza dell’azione amministrativa “automatizzata”.
Almeno in una prima fase, la giurisprudenza amministrativa si è mostrata restia rispetto all’ipotesi di ammettere il ricorso alla decisione totalmente automatizzata, adottata, cioè, senza il sostanziale apporto del decisore umano[20]. In particolare, i dubbi si fondavano sull’impossibilità che nell’applicazione di tali strumenti, caratterizzati da automatismi e opacità intrinseca[21], si potesse assicurare l’osservanza delle guarentigie procedimentali, sicché, in tale impostazione, l’algoritmo avrebbe tutt’al più una funzione meramente “servente” rispetto all’attività propria del funzionario, unico soggetto chiamato ad adottare una decisione (e ad emanare il provvedimento).
L’elaborazione giurisprudenziale immediatamente successiva[22], sembra mostrare al contrario un certo “apprezzamento” per il ricorso a decisioni automatizzate, ritenute ammissibili (ancorché a livello di obiter dicta) anche in presenza di un potere caratterizzato da margini di discrezionalità amministrativa[23].
Il giudice amministrativo[24], tuttavia, ha opportunamente ritenuto di individuare alcuni presupposti, che si traducono in altrettante “prescrizioni”, in ordine all’utilizzabilità di moduli decisori automatizzati, enucleando le già richiamate leggi della legalità algoritmica[25], tra le quali rientrano i principi di conoscibilità dello strumento informatico utilizzato[26], di comprensibilità del modulo decisorio[27], di non esclusività della decisione automatizzata (con ciò segnalando l’inderogabile “riserva di umanità” nella decisione amministrativa)[28].
- L’algoritmo tra natura giuridica, provvedimento amministrativo e autotutela decisoria
Occorre a questo punto interrogarsi sul rapporto tra software (e algoritmo alla sua base) adoperato dall’Amministrazione e provvedimento “a valle” ed in particolare sugli effetti che eventuali errori, imperfezioni o “vizi” del programma, intesi in senso non strettamente giuridico, possono produrre sul provvedimento finale concretamente incidente sulla posizione giuridica del destinatario[29].
In particolate, si può rilevare come, in dottrina, le tesi tradizionali abbiano variamente ricondotto, con gradazioni differenti, il programma (e l’algoritmo) utilizzato per la gestione informatizzata dei procedimenti amministrativi al vasto genus dell’atto amministrativo[30].
Secondo una prima impostazione[31] l’atto-programma sarebbe da qualificare come atto amministrativo attraverso il quale l’Amministrazione indirizza il proprio agere, predeterminandone modalità e contenuti; esso non avrebbe una mera rilevanza interna in quanto, benché non immediatamente incidente sulla sfera giuridica del destinatario, assumerebbe una non trascurabile rilevanza esterna perché idoneo a condizionare, concretamente, il contenuto del provvedimento finale[32].
Altra parte della dottrina, di contro, ha ricondotto il programma alla categoria degli atti provvedimentali[33] e, pertanto, aventi una efficacia esterna diretta ed immediata. Secondo quest’ultima ricostruzione, se il potere è esercitato con la predisposizione del programma informatico e l’atto finale è da esso determinato nei presupposti e nei contenuti, allora il primo può dirsi assumere già le connotazioni provvedimentali, con la conseguente idoneità ad incidere sulle posizioni giuridiche dei privati.
Infine, non è mancato chi è giunto a qualificare il programma quale atto avente natura regolamentare[34].
Queste ricostruzioni sembrerebbero scontare, tuttavia, l’astrazione dal significato, tecnico prima che giuridico, di programma (e, di conseguenza, da quello di algoritmo), la cui corretta perimetrazione rappresenta il presupposto ineludibile per la ricostruzione del rapporto tra strumenti decisori automatizzati e provvedimento amministrativo. Come si è già osservato[35], l’algoritmo – quale procedimento logico che, attraverso un numero finito di operazioni o istruzioni, risolve una classe di problemi – non presenta un contenuto di valutazione, di giudizio o, tantomeno, di decisione (valenza prescrittiva), bensì di mera descrizione dei passaggi logici e di individuazione delle modalità, destinate alla macchina, funzionali alla risoluzione di una classe di problemi in forma automatizzata. Così, il programma è considerato lo strumento, il linguaggio informatico che permette alla macchina di utilizzare l’algoritmo e, elaborando i dati, risolvere i problemi individuati.
In dottrina si è recentemente osservato che le ricostruzioni in termini di atto amministrativo del programma (e dell’algoritmo) possono dirsi legate all’esigenza di risolvere la questione inerente alla compatibilità tra provvedimento automatizzato e discrezionalità amministrativa[36]. In tali teorie, infatti, pur nelle diversità delle ricostruzioni, si affermava che con la scelta di adoperare un programma (avente alla base un algoritmo) per la decisione amministrativa, si realizzasse già una parziale spendita del potere amministrativo con la conseguente insorgenza di un autovincolo[37], con ciò consumando parte dei profili di apprezzamento riconosciuti all’Amministrazione dalla legge.
Il superamento delle tesi “attizie” ha indotto la dottrina più recente a qualificare il programma, riguardato nella sua dimensione dinamica[38], quale strumento dell’azione amministrativa impiegato dall’Amministrazione tra la fase istruttoria e quella decisoria. Si tratterebbe, in particolare, di uno strumento funzionalizzato all’esercizio del potere e alla concretizzazione delle scelte dell’Amministrazione. Seguendo questa impostazione il risultato dell’operazione compiuta dal programma (e dall’algoritmo che esso applica) rappresenterebbe nient’altro che “le risultanze dell’istruttoria” da porre alla base del provvedimento finale[39].
Ciò, conduce alla identificazione di due momenti della volizione amministrativa: il primo, che si colloca nel momento antecedente all’avvio del procedimento, rappresentato dalla scelta da parte dell’Amministrazione (attraverso un atto amministrativo) di utilizzare il programma nell’attività procedimentale; il secondo, invece, si identifica a valle della fase istruttoria, e cioè nel momento in cui l’Amministrazione – adoperando il programma – fa proprio, nel provvedimento finale, il risultato prodotto dalla macchina[40].
Ora, è proprio in relazione a tali diverse ricostruzioni che sorge la questione del rapporto tra il programma informatico e il provvedimento “automatizzato”[41] e degli (eventuali) effetti, sul secondo, derivanti da vizi o mal funzionamenti del primo. In particolare, il provvedimento derivante dall’utilizzo del programma può, ad esempio, ritenersi illegittimo in caso di: difetto di costruzione dell’algoritmo posto alla base del programma; difetto di progettazione e realizzazione del programma; errata imputazione dei dati utilizzati dal software; mal funzionamento dell’hardware[42].
Pertanto, se si ammettesse la natura attizia del programma il problema che si porrebbe sarebbe quello classico, dei rapporti tra atto amministrativo “a monte” (illegittimo) e provvedimento amministrativo consequenziale. Si tratterebbe, a ben guardare, di una invalidità derivata, e cioè prodotta (sul provvedimento applicativo) dalla illegittimità dell’atto (programma) presupposto[43].
Di contro, riconducendo il software (e l’algoritmo) a mero modulo organizzativo, strumento dell’istruttoria amministrativa le cui risultanze sono poste alla base della decisione finale, il vizio dello stesso determinerebbe un vizio dell’istruttoria e, dunque, l’illegittimità del provvedimento per eccesso di potere[44].
Su altro versante si pone poi la questione relativa alla perdurante valenza, anche nei procedimenti di secondo grado, dei principi che informano la decisione amministrativa.
È noto che gli istituti espressione di autotutela decisoria consentono all’Amministrazione di incidere unilateralmente su un provvedimento già adottato, ove tale scelta risponda all’interesse pubblico. Ed è altrettanto noto che il provvedimento di secondo grado deve pervenire all’esito di un procedimento amministrativo e deve essere adottato garantendo l’osservanza dei limiti posti dalla legge.
Non è questa la sede per ripercorrere l’articolato dibattito sul fondamento del potere di autotutela[45]. È utile, tuttavia, osservare come, secondo parte della dottrina, l’autotutela “non possa più considerarsi espressione dell’immanenza ed inesauribilità del potere di amministrazione attiva ‒ derivanti dalla necessità di garantire la continua rispondenza dell’attività amministrativa al pubblico interesse ‒ ma debba essere ancorato al principio di legalità”[46].
In tale prospettiva, però, la questione che sembra suscitare maggiore interesse ai fini della presente riflessione è quella inerente alla inderogabilità delle guarentigie procedimentali anche nei procedimenti di secondo grado. Le riflessioni della dottrina[47], infatti, hanno indotto a ritenere che l’assetto normativo che disciplina l’esercizio del potere di autotutela (soprattutto di tipo decisorio) sia espressione di un potere eccezionale attribuito all’Amministrazione, che risulta sempre più conformato non solo all’interesse pubblico, ma anche alla tutela delle posizioni giuridiche dei cittadini sorte o ampliate per effetto del primo provvedimento e suscettibili di essere lese dal provvedimento di secondo grado. Tanto, si desume non solo dalla necessaria considerazione, da parte dell’Amministrazione, degli interessi privati suscettibili di venire in rilievo nel procedimento di riesame, ma anche dalla disciplina del c.d. “termine ragionevole” per l’esercizio del potere, individuati in dodici mesi nei soli casi di provvedimenti autorizzatori o attributivi di vantaggi economici.
Se anche il potere di riesame è un potere esercitato all’esito di un procedimento nel quale deve trovare adeguata tutela il principio del contraddittorio nella sua proiezione attuativa inverata dagli istituti che garantiscono la partecipazione, tale peculiare connotazione della funzione nella sua forma procedimentale, non potrà certo venir meno per il sol fatto che il provvedimento di secondo grado abbia ad oggetto un atto ad elaborazione elettronica. Parte della dottrina, infatti, privilegiando le tesi volontaristico-provvedimentali del programma informatico, è giunta a ritenere che l’esercizio dei poteri di autotutela, nei casi in cui abbia ad oggetto provvedimenti automatizzati, assuma “fattezze specifiche e talvolta derogatorie del modello generale”[48], nonché le caratteristiche di una funzione “vincolata” che si rende doverosa ogni qual volta sia necessario correggere il vizio consistente in errori computazionali del programma informatico.
Ricostruendo in tali termini il potere di riesame rispetto a provvedimenti (totalmente o parzialmente) automatizzati, dovrebbe affermarsi che – a fronte di un’autotutela non solo doverosa nell’an ma addirittura vincolata nei suoi esiti – non vi sarebbe spazio per il rispetto delle garanzie procedimentali e per la valutazione degli interessi attinti dal provvedimento di secondo grado[49] con evidente ed implicita de-quotazione, operata in via interpretativa, delle guarentigie offerte dalla legge sul procedimento.
Simili prospettive ricostruttive, però, paiono porsi in effettivo contrasto con i principi elaborati dalla scienza giuridica sulla scorta del dato positivo e con i più recenti pronunciamenti giurisprudenziali che escludono ogni possibile “sacrificio” degli istituti partecipativi “sull’altare dell’automazione”. Sul punto si richiama il costante riferimento alla “riserva di umanità”[50] che deve sovrintendere all’esercizio della funzione amministrativa, a salvaguardia di quel complesso di prerogative che informano il rapporto collaborativo tra Amministrazione e cittadini. Ciò a maggior ragione può sostenersi ove si osservi che è il legislatore a fissare – attraverso quella che è stata qualificata come vera e propria norma di relazione – il parametro temporale per il ritiro di provvedimenti attributivi di vantaggi economici, sicché la stabilità dell’assetto delineato dal provvedimento amministrativo costituisce un limite all’esercizio dei ridetti poteri[51].
- Considerazioni di sintesi
Anche nella sentenza in commento il giudice amministrativo, chiamato a supplire alle carenze del diritto positivo, pur riconoscendo i vantaggi derivanti dall’impiego di strumenti di decisione automatizzata da parte delle Amministrazioni, ha evidenziato i possibili rischi cui condurrebbe l’inosservanza dei principi già enucleati dal Consiglio di Stato in ordine alla necessaria “conoscibilità” del meccanismo informatico impiegato per la decisione, alla “comprensibilità”, attraverso la traduzione della formula tecnica in regola giuridica, del funzionamento dello stesso e alla “verificabilità” della correttezza del procedimento automatizzato. Si tratta di principi che sembrano aver trovato collocazione nel nuovo codice dei contratti pubblici[52], in cui il legislatore delegato – recependo l’articolato redatto proprio dal Consiglio di Stato[53] – ha introdotto le richiamate leggi della legalità algoritmica, per come elaborate dalla giurisprudenza amministrativa[54], incentivando il ricorso da parte delle Amministrazioni all’utilizzo di procedure automatizzate (con specifico riguardo all’intero “ciclo di vita” dell’appalto) in una prospettiva di efficienza e semplificazione dell’attività amministrativa.
E tuttavia, se nella lettura della sentenza si opera uno sforzo volto a identificare gli argomenti su cui il Tar Campania fonda la propria decisione distinguendoli dalle considerazioni, ormai quasi tralatizie, del giudice amministrativo sull’amministrazione per algoritmi, ci si avvede della modesta innovatività della pronuncia. A ben vedere, infatti, il provvedimento di secondo grado è dichiarato illegittimo per difetto di motivazione sussistente sia in relazione alla mancata indicazione delle ragioni giuridiche poste a fondamento della decisione, sia in riferimento alla non conoscibilità (e non spiegabilità) dell’algoritmo e del programma che ne costituisce la traduzione in linguaggio macchina.
Come si è innanzi osservato una compiuta riflessione sulla natura giuridica del programma (e dell’algoritmo sul quale esso si fonda) è indispensabile per ricostruire i tratti peculiari dell’atto amministrativo (in tutto o in parte) automatizzato. Ciò in relazione, per esempio, alla avvertita necessità di delineare percorsi ermeneutici che consentano la piena operatività dei principi individuati dalla giurisprudenza[55] e, prima ancora, delle regole che informano l’azione amministrativa.
Può osservarsi – come mero spunto di riflessione da approfondire in una successiva ricerca – che ove si riconoscesse al programma la natura di atto amministrativo presupposto, le garanzie procedimentali potrebbero trovare adeguata considerazione non solo (e non tanto) nel singolo procedimento che conduce all’adozione del provvedimento automatizzato, quanto piuttosto nella fase di studio che precede la elaborazione dell’algoritmo e del programma e, dunque, la traduzione in linguaggio intellegibile dalla macchina dei principi e delle regole che devono sovrintendere all’adozione dei provvedimenti (amministrativi) automatizzati[56]. In altri termini, il ricorso alla funzione amministrativa automatizzata (a mezzo di algoritmi o sistemi di intelligenza artificiale) non può di per sé considerarsi legittima, essendo necessario dimostrare, sulla base dei criteri adoperati nella procedura, il rispetto delle regole che informano l’attività amministrativa.
Con riguardo, invece, ai rapporti tra decisione algoritmica e procedimento di secondo grado, l’utilizzo di siffatti moduli decisori non dovrebbe poter condurre ad un (nuovo) allargamento delle maglie del potere di autotutela decisoria che spetta sì all’Amministrazione, ma che deve essere esercitato nel rispetto dei limiti e delle garanzie di trasparenza poste a presidio del legittimo affidamento dei privati e, con esso, della certezza dei rapporti giuridici.
Rispetto ai provvedimenti automatizzati di secondo grado si pongono problemi analoghi a quelli dei provvedimenti adottati in prima battuta quanto, ad esempio, alla tutela delle garanzie partecipative degli interessati. Con un non trascurabile differenza: attraverso il provvedimento di annullamento d’ufficio l’Amministrazione torna sui propri passi e, in nome dell’interesse pubblico in concreto e del principio di legalità, priva di effetti un proprio provvedimento con il quale aveva già deciso una determinata situazione, contribuendo a creare non solo affidamento in capo al destinatario dell’atto, ma anche certezza giuridica a beneficio dell’ordinamento. Ne deriva che particolarmente accurata dovrebbe essere la costruzione degli algoritmi posti a fondamento dei provvedimenti di secondo grado e massima, dunque, dovrebbe essere l’attenzione delle Amministrazioni nell’offrire (in termini di effettività) agli interessati (o, eventualmente, ad associazioni o enti esponenziali dei relativi interessi) la possibilità di partecipare al relativo procedimento.
In definitiva, se il ricorso a decisioni amministrative automatizzate non è più qualificabile (di fatto) come una mera opzione per le Amministrazioni candidandosi a divenirne il modulo ordinario per l’esercizio delle funzioni, non può più ritenersi derogabile l’esigenza di chiarire se ed entro quali termini le regole e i principi costruiti intorno ai provvedimenti espressione della decisione umana siano compatibili con una realtà nella quale la decisione è sovente affidata alla macchina[57]. Pur confidando nella saggezza del giudice amministrativo, infatti, non pare che si possa delegare ancora a lungo alla giurisprudenza il compito di governare un fenomeno che non può essere ignorato né affidato a soluzioni episodiche e disorganiche[58].
[1] Cfr., sul punto, Cons. Stato, sez. VI, 8 aprile 2019, n. 2270; Cons. Stato, sez. VI, 13 dicembre 2019, nn. 8472 – 8473 – 8474, relativamente all’algoritmo impiegato dal MIUR per l’assegnazione del personale docente delle scuole secondarie di secondo grado; nonché, Cons. Stato, sez. VI, 4 febbraio 2020, n. 881; Cons. Stato, sez. III, 25 novembre 2021, n. 7891. Più di recente cfr. Cons. Stato, sez. VI, 8 settembre 2022, n. 6236.
[2] In generale sul principio di legalità e sugli altri principi che sovrintendono all’esercizio della funzione amministrativa cfr. V. Caputi Jambrenghi-A. Angiuli, Forma e sostanza del principio di legalità nell’esercizio di pubblici poteri, in Giustamm.it, 2013, 1 ss.; nonché, più di recente, A. Angiuli-V. Caputi Jambrenghi, De-procedimentalizzazione dell’azione amministrativa e conferenza di servizi, in Aa.Vv., L’amministrazione nell’assetto costituzionale dei poteri pubblici. Scritti per Vincenzo Cerulli Irelli, I, Torino, 2021, 275 ss.
[3] In particolare, sull’impiego degli algoritmi nei processi decisionali delle Amministrazioni, resta ineludibile il riferimento al pionieristico studio di A. Masucci, L’atto amministrativo informatico, Napoli, 1993. In generale sull’impatto delle nuove tecnologie sull’azione e sull’organizzazione amministrativa cfr., almeno, D. Marongiu, L’attività amministrativa automatizzata, Rimini, 2005; F. Cardarelli, Amministrazione digitale, trasparenza e principio di legalità, in Il diritto dell’informazione e dell’informatica, 2, 2015, 227 ss.; S. Civitarese Matteucci-L. Torchia, La tecnificazione dell’amministrazione, in S. Civitarese Matteucci-L. Torchia (a cura di), La tecnificazione, Firenze, 2016, 10 ss.; F. Costantino, L’uso della telematica nella pubblica amministrazione, in A. Romano (a cura di), L’azione amministrativa, Torino, 2016, 242 ss.; B. Marchetti, Amministrazione digitale, in Enciclopedia del diritto. I tematici, Funzioni amministrative, Milano, 2022, 75 ss.; L. Torchia, Lo Stato digitale, Bologna, 2023. Con specifico riguardo all’uso di algoritmi e intelligenza artificiale nell’assunzione delle decisioni amministrative cfr. P. Otranto, Decisione amministrativa e digitalizzazione della P.A., in Federalismi.it, 2, 2018, 2 ss.; Id., Riflessioni in tema di decisione amministrativa algoritmica, intelligenza artificiale e legalità, in Federalismi.it, 7, 2021, 187 ss.; S. Civitarese Matteucci, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, in Diritto Pubblico, 1, 2019, 5 ss.; R. Ferrara, Il giudice amministrativo e gli algoritmi. Note estemporanee a margine di un recente dibattito giurisprudenziale, in Diritto Amministrativo, 4, 2019, 773 ss.; E. Picozza, Intelligenza artificiale e diritto, in Giurisprudenza Italiana, 2019, 1761 ss.; G. Orsoni-E. D’Orlando, Nuove prospettive dell’amministrazione digitale: open data e algoritmi, in Istituzioni del federalismo, 3, 2019, 593 ss.; A. Simoncini, Amministrazione digitale algoritmica. Il quadro costituzionale, in R. Cavallo Perin-D.U. Galetta (a cura di), Il diritto dell’amministrazione pubblica digitale, Torino, 2020, 2 ss.; D.U. Galetta, Algoritmi, procedimento amministrativo e garanzie: brevi riflessioni, anche alla luce degli ultimi arresti giurisprudenziali in materia, in Rivista italiana di diritto pubblico comunitario, 3-4, 2020, 2205 ss.; M. Macchia-A. Mascolo, Intelligenza artificiale e sfera pubblica: lo stato dell’arte, in Giornale di diritto amministrativo, 4, 2022, 556 ss.
[4] Appare utile rammentare in questa sede la differenza tra algoritmo (ed il relativo programma che lo applica) e intelligenza artificiale (AI). Invero, l’algoritmo può essere definito come una sequenza di operazioni, non ambigue, che permettono di risolvere un problema in un numero finito di passi, rispettando due fondamentali requisiti: i) ad ogni passaggio della sequenza deve essere predefinito il passaggio successivo; ii) il risultato cui la sequenza tende deve essere concreto, reale ed utile. Tra gli algoritmi più semplici emergono i c.d. algoritmi deterministici e probabilistici: nei primi, costruiti secondo una logica causale, ad un certo dato inserito può corrispondere un solo passaggio successivo nella sequenza, tale per cui uno solo è il risultato finale a cui la macchina può pervenire; nei secondi, invece, la singola istruzione inserita ammette diversi possibili passaggi successivi che si svolgono secondo logiche probabilistiche. Ciò permette anche di tenere distinto il programma, e cioè un linguaggio informatico che permette alla macchina di utilizzare l’algoritmo per la soluzione di una classe di problemi. I sistemi di intelligenza artificiale, invece, utilizzano algoritmi ad “apprendimento automatico” (c.d. agenti intelligenti) che danno luogo ad applicazioni di machine learning o deep learning. In questi sistemi (non semplici), quindi, l’algoritmo fornisce un modello di apprendimento da applicare ai dati cui l’elaboratore informatico ha accesso per pervenire ad una soluzione attraverso l’analisi di esperienze pregresse relative a situazioni simili (vale a dire algoritmi, tecniche, soluzioni in grado di replicare il comportamento umano). Emerge, dunque, che tutti i sistemi di AI presuppongono l’uso di algoritmi, ma non può certo affermarsi che la decisione amministrativa in tutto o in parte automatizzata sia necessariamente derivante dall’impiego di un sistema di intelligenza artificiale. In dottrina cfr. G. Avanzini, Decisioni amministrative e algoritmi informatici. Predeterminazione analisi predittiva e nuove forme di intelligibilità, Napoli, 2019, 5 ss.; nonché, P. Otranto, Riflessioni in tema di decisione amministrativa algoritmica, intelligenza artificiale e legalità, cit., 190-191. In giurisprudenza cfr. Tar Lombardia, sez. II, 31 maggio 2021, n. 843.
[5] Cfr., da ultimo, G. Gallone, Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione tra procedimento e processo, Padova, 2023. L’autore attraverso un’analisi ricostruttiva dei profili di maggiore interesse delle dinamiche che permeano l’impiego di meccanismi automatizzati nello svolgimento dell’attività amministrativa, si sofferma sul concetto di “riserva di umanità”, giungendo ad affermare, con riguardo specifico al momento decisorio, la necessità che il risultato prodotto dagli algoritmi o dai sistemi di intelligenza artificiale sia vagliato dal funzionario titolare dell’organo e recepito nel provvedimento amministrativo a garanzia del principio di legalità, delle guarentigie procedimentali e «del principio personalistico della funzione pubblica quale valore fondante del nostro ordinamento» (ivi, 223).
[6] Si trattava, in particolare, di somme riconosciute a titolo di indennità compensativa per le zone montane di cui al Piano di sviluppo rurale della Campania.
[7] In particolare, il Tar Campania ha osservato che «la decisione adottata con ricorso all’algoritmo vede sempre la necessità che sia l’Amministrazione a compiere un ruolo ex ante di selezione e verifica, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo. In tali casi si deve contemplare la possibilità che sia il giudice a dover svolgere, per la prima volta sul piano umano, valutazioni e accertamenti fatti direttamente in via automatica, con la conseguenza che la decisione robotizzata impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti». Sul punto cfr., altresì, Cons. Stato, sez. VI, 8 aprile 2019, n. 2270; Cons. Stato, sez. VI, 4 febbraio 2020, n. 881; Cons. Stato, sez. VI, 4 giugno 2021, n. 1206.
[8] Cfr., in via generale, A. Police, La predeterminazione delle decisioni amministrative. Gradualità e trasparenza nell’esercizio del potere discrezionale, Napoli, 1997; nonché, E. Carloni, Il paradigma trasparenza. Amministrazioni, informazione, democrazia, Bologna, 2022.
[9] Considerati i numerosi studi della dottrina, ci si limita in questa sede a ricordare i contributi di C.M. Iaccarino, Studi sulla motivazione con speciale riguardo agli atti amministrativi, Roma, 1933; M.S. Giannini, Motivazione dell’atto amministrativo, in Enciclopedia del diritto, vol. XXVII, Milano, 1977, 257 ss.; A. Romano Tassone, Motivazione dei provvedimenti amministrativi e sindacato di legittimità, Milano, 1987; G. Corso, Motivazione dell’atto amministrativo, in Enciclopedia del diritto, Aggiornamento, vol. V, Milano, 2001, 774 ss.; M. De Benedetto, Motivazione dell’atto amministrativo, in Enciclopedia Giuridica, vol. XXIII, Roma, 2003; A. Cassatella, Il dovere di motivazione nell’attività amministrativa, Padova, 2013; A. Cioffi, La motivazione del provvedimento amministrativo, in A. Romano (a cura di), L’azione amministrativa, Torino, 2016, 199 ss.; R. Villata-M. Ramajoli, Il provvedimento amministrativo, Torino, 2017, 269 ss. Per ulteriori riferimenti bibliografici e per un approfondimento dei profili di maggior interesse dell’istituto, cfr. F. Cardarelli, La motivazione del provvedimento, in M.A. Sandulli (a cura di), Codice dell’azione amministrativa, Milano, 2017, 374 ss. L’autore, infatti, spiega come la motivazione assolva ad una funzione di garanzia e di tutela del diretto destinatario del provvedimento, e di altri potenziali destinatari, precisando che si tratta di una garanzia formale che riflette il dispiegarsi di garanzie sostanziali per il corretto esercizio dell’azione amministrativa (ivi, 407 ss.).
[10] Secondo la nota definizione di F. Benvenuti, Funzione amministrativa, procedimento e processo, in Rivista trimestrale di diritto pubblico, 1952, 118 ss., poi in Scritti giuridici, II, Milano, 2006, 1117 ss.
[11] Nella sentenza in commento, ad esempio, si ribadisce: «il fatto che il provvedimento venga emanato sulla scorta di una complessa operazione di calcolo produce l’opposto effetto di rafforzare, per certi versi, l’obbligo motivazionale in capo all’Amministrazione, la quale dovrà rendere la propria decisione finale non solo conoscibile, ma anche comprensibile». Ne deriva che in caso di decisione fondata su algoritmo, si richiede che sia assicurata una declinazione rafforzata del principio di trasparenza, intesa come piena conoscibilità della regola espressa in un linguaggio differente da quello giuridico. In tali termini cfr. anche Cons. Stato, sez. VI, 8 aprile 2019, n. 2270.
[12] In proposito si vedano le osservazioni sviluppate dal Tar sul concetto del necessario coinvolgimento di un “agente umano” nel processo che conduce all’adozione della decisione (c.d. human in the loop). Nell’ambito del procedimento amministrativo automatizzato, il principio in questione implicherebbe – usando le parole del Collegio – che “il funzionario possa in qualsiasi momento intervenire per compiere interlocuzioni con il privato, per verificare a monte l’esattezza dei dati da elaborare, mantenendo il costante controllo del procedimento”. Ciò, in una prospettiva di contenimento del rischio di una “spersonalizzazione” della funzione amministrativa, soprattutto nei casi di ricorso a strumenti automatizzati in funzione “servente” della decisione umana e/o parzialmente decisionale, nonché della deresponsabilizzazione dell’Amministrazione e dei suoi funzionari. In dottrina, sul tema, cfr. M.C. Cavallaro-G. Smorto, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in Federalismi.it, 16, 2019, 1 ss.; M.C. Cavallaro, Imputazione di responsabilità delle decisioni automatizzate, in European Review of Digital Administration and Law, 1-2, 2020, 73 ss.; E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, in Diritto amministrativo, 2020, 283 ss.; B. Marchetti, La garanzia dello Human in the Loop alla prova della decisione amministrativa algoritmica, in Biolaw Journal, 2021, 367 ss.; D.U. Galetta, Human-stupidity-in-the-loop? Riflessioni (di un giurista) sulle potenzialità e i rischi dell’Intelligenza Artificiale, in Federalismi.it, 5, 2023, iv ss.; G. Gallone, Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione tra procedimento e processo, cit., passim.
[13] Come osserva P. Otranto, Riflessioni in tema di decisione amministrativa algoritmica, intelligenza artificiale e legalità, cit., 189, «dall’iniziativa, allo svolgimento dell’istruttoria (art. 41), alla partecipazione (art. 4), alla forma dell’atto (art. 20) e agli adempimenti necessari per la piena efficacia dello stesso (art. 3 bis), lo svolgimento della funzione amministrativa risulta profondamente inciso e conformato dalle nuove tecnologie, attraverso una disciplina legale che pare incentrata sulla dimensione organizzatoria, sul procedimento e sulla forma dell’atto».
[14] L’art. 3 bis, l. 241/1990, introdotto con l’art. 12, c. 1, lett. b), d.l. 76/2020 (c.d. semplificazioni), dispone che «le amministrazioni pubbliche agiscono mediante strumenti informatici e telematici, nei rapporti interni, tra le diverse amministrazioni e tra queste e i cittadini».
[15] Il riferimento è all’art. 1, c. 1, lett. b), l. 124/2015 che individuava quale principio generale per la semplificazione dei procedimenti amministrativi, in un’ottica di celerità, certezza giuridica e trasparenza dell’azione amministrativa, quello del c.d. digital-first, perseguibile mediante la ridefinizione, in chiave digitalizzata, delle procedure amministrative e della stessa organizzazione interna. In dottrina cfr. il contributo monografico di G. Pesce, Digital first. Amministrazione digitale: genesi, sviluppi, prospettive, Napoli, 2018.
[16] Come aveva lucidamente prefigurato M.S. Giannini, Rapporto sui principali problemi dell’amministrazione dello Stato, in Il foro italiano, V, 1979, 289 ss.
[17] È utile evidenziare, inoltre, che altri ordinamenti hanno già previsto espressamente la possibilità per le Amministrazioni di agire attraverso moduli parzialmente o totalmente automatizzati. Si può fare riferimento, a mero titolo di esempio, alla Ley de 22 de juno, n. 11/2007 (Actuaciòn adminstrativa automatizada), poi sostituita dalla Ley de 1 de octubre, n. 39/2015 (Procedimento Adminstrativo Comun del las Administraciones Publicas); nonché, per l’ordinamento tedesco, all’§35A della Verwaltungsverfahrensgesetz (VwVfG), ove espressamente si prevede che «un atto amministrativo può essere emanato interamente con mezzi automatici, a condizione che ciò sia consentito dalla legge e che non vi sia discrezione». Si veda anche il decreto 733/2018 del Ministero della modernizzazione della Repubblica Argentina attraverso il quale viene incentivato il ricorso agli strumenti digitali e di intelligenza artificiale, al fine di ridurre la complessità delle procedure amministrative. Sul tema cfr., in dottrina, D.U. Galetta-J.G. Corvalàn, Intelligenza Artificiale per una Pubblica Amministrazione 4.0? rischi e sfide della rivoluzione tecnologica in atto, in Federalismi.it, 3, 2019, 1 ss.; F.J. Lavaca, Acto administrativo automatico, Buenos Aires, 2022, 158 ss.
[18] Tale profilo, relativo al rapporto tra principio di legalità e decisione automatizzata, è posto, tuttavia, al centro dell’analisi di S. Civitarese Matteucci, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, cit., 34 ss. Cfr. anche P. Otranto, Riflessioni in tema di decisione amministrativa algoritmica, cit., 202, il quale afferma condivisibilmente che «la legge non dovrebbe limitarsi ad attribuire alle Amministrazioni il potere di ricorrere all’uso delle nuove tecnologie per adottare provvedimenti che già rientrano nella loro sfera di competenza (in ossequio al principio di legalità formale), ma dovrebbe anche specificare, in ossequio al principio di legalità sostanziale, i principi e le regole che devono essere osservati nella definizione, progettazione e implementazione del sistema che conduce all’adozione della decisione automatizzata e che potrebbero, in concreto, meglio essere adeguati alle peculiarità dei singoli procedimenti anche attraverso norme di rango secondario». In senso contrario cfr. G. Carullo, Decisione amministrativa e intelligenza artificiale, in Diritto dell’informazione e dell’informatica, 3, 2021, 431 ss., per il quale la possibilità, per l’Amministrazione, di avvalersi di strumenti automatizzati nell’assunzione delle decisioni amministrative è da ritenersi implicita nella norma attributiva del potere; tale possibilità rientrerebbe – secondo l’Autore – nella libertà di scelta, ispirata ai principi di imparzialità e buon andamento, dei mezzi di cui l’Amministrazione decide di dotarsi per l’esecuzione dei propri compiti.
[19] Non è questa la sede per tentare di ricostruire, neanche sommariamente, il dibattito dottrinale che ha costituito il presupposto teorico per l’introduzione delle regole sul procedimento amministrativo. Basterà solo richiamare le fondamentali riflessioni di A.M. Sandulli, Il procedimento amministrativo, Milano, 1940; M.S. Giannini, Lezioni di diritto amministrativo, Milano, 1950, 261 ss.; Id., Diritto amministrativo, I, Milano, 1994, 81 ss.; F. Benvenuti, Funzione amministrativa, procedimento, processo, cit.; M. Nigro, Studi sulla funzione organizzatrice della pubblica amministrazione, Milano, 1966. Per una compiuta analisi degli studi sul procedimento, cfr. A. Sandulli, Il procedimento, in S. Cassese (a cura di), Trattato di diritto amministrativo, Diritto amministrativo generale, II, Milano, 2003, 1035 ss. Con specifico riguardo ai procedimenti automatizzati cfr. G. Duni, L’amministrazione digitale. Il diritto amministrativo nell’evoluzione telematica, Milano, 2008; A.G. Orofino, Forme elettroniche e procedimenti amministrativi, Bari, 2008.; più di recente, D. Marongiu, Algoritmo e procedimento amministrativo, in Giurisprudenza italiana, 6, 2022, 1515 ss.
[20] Cfr. Tar Lazio, sez. III bis, 14 febbraio 2017, n. 3769. Si veda, sul punto, il commento di I. Forgione, Il caso dell’accesso al software Miur per l’assegnazione dei docenti (nota a Tar Lazio, sez. III bis, 14 febbraio 2017, n. 3769), in Giornale di diritto amministrativo, 3 2018, 647 ss. Cfr., altresì, Tar Lazio, sez. III bis, 10-13 settembre 2019, n. 10964.
[21] Cfr. G. Avanzini, Decisioni amministrative e algoritmi informatici. Predeterminazione analisi predittiva e nuove forme di intelligibilità, cit., 153, secondo la quale «di fronte agli algoritmi un certo grado di opacità rimane ineliminabile» (ivi, 153). Cfr. anche R. Cavallo Perin, Ragionando come se la digitalizzazione fosse data, in Diritto amministrativo, 2, 2020, 305 ss.
[22] Cfr., ancora, Cons. Stato, sez. VI, 8 aprile 2019, n. 2270. Sul punto si vedano le riflessioni di G. Fasano, Le decisioni automatizzate nella pubblica amministrazione: tra esigenze di semplificazione e trasparenza algoritmica, in questa Rivista, 3, 2019, 234 ss.; nonché, A.G. Orofino, La semplificazione digitale, in Il diritto dell’economia, 3,2019, 92 ss.
[23] Sulla discrezionalità amministrativa cfr., almeno, M.S. Giannini, Il potere discrezionale della pubblica amministrazione, Milano, 1939; V. Cerulli Irelli, Note in tema di discrezionalità amministrativa e sindacato di legittimità, in Diritto e processo amministrativo, 1984, 463 ss.; L. Benvenuti, La discrezionalità amministrativa, Padova, 1986; A. Angiuli, Studi sulla discrezionalità amministrativa nel quando, Bari, 1988; Id., Lineamenti vecchi e nuovi della discrezionalità, Milano, 1992; G. Barone, voce Discrezionalità (dir. amm.), in Enciclopedia giuridica, vol. XIII, Roma, 1989, 1 ss. Con specifico riferimento al rapporto tra digitalizzazione e discrezionalità cfr., tra i più recenti, A. Cassatella, La discrezionalità amministrativa nell’età digitale, in Aa.Vv., Diritto amministrativo: Scritti per Franco Gaetano Scoca, I, Napoli, 2021, 675 ss.; A. Police, Scelta discrezionale e decisione algoritmica, R. Giordano-A. Panzarola-A. Police-S. Preziosi-M. Protto (a cura di), Il diritto nell’era digitale, Milano, 2022, 493 ss.
[24] In particolare, Cons. Stato, sez. VI, 13 dicembre 2019, nn. 8472 – 8473 – 8474. Su tali sentenze cfr., ancora, le riflessioni di R. Ferrara, Il giudice amministrativo e gli algoritmi. Note estemporanee a margine di un recente dibattito giurisprudenziale, cit., 773 ss.; nonché, S. Vaccari, Note minime in tema di Intelligenza Artificiale e decisioni amministrative, in Giustamm.it, 2019, 1 ss.
[25] Cfr. E. Carloni, I principi della legalità algoritmica, cit., passim.
[26] Cfr. Cons. Stato, sez. VI, 8 aprile 2019, n. 2270, § 8.3., ove si afferma che «il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che ne implica anche la piena conoscibilità della regola espressa in un linguaggio differente da quello giuridico. Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato».
[27] Cfr. Cons. Stato, sez. VI, 8 aprile 2019, n. 2270, § 8.3., ove si legge che «la “caratterizzazione multidisciplinare” dell’algoritmo comporta che la sua comprensione non richieda solo competenze giuridiche, ma anche tecniche, informatiche, statistiche, amministrative, sicché non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e, quindi non solo «conoscibile», ma anche “comprensibile”». Sul punto cfr., in dottrina, A. Mascolo, Gli algoritmi amministrativi: la sfida della comprensibilità, in Giornale di diritto amministrativo, 3, 2020, 366 ss.; G. Lo Sapio, La black box: l’esplicabilità delle scelte algoritmiche quale garanzia di buona amministrazione, in Federalismi.it, 16, 2021, 1 ss.
[28] Cfr. Cons. Stato, sez. VI, 13 dicembre 2019, n. 8472, § 15.2.; nonché, Cons. Stato, sez.VI, 4 febbraio 2020, n. 881 e 4 giugno 2021 n. 1206. In dottrina cfr., ex multis, A. Simoncini, L’algoritmo incostituzionale, intelligenza artificiale e futuro delle libertà, in BioLaw Journal, 2019, 63 ss.; Id., Profili costituzionali della amministrazione algoritmica, in Rivista trimestrale di diritto pubblico, 4, 2019, 1149 ss.; più di recente cfr., ancora, D.U. Galetta, Human-stupidity-in-the-loop? Riflessioni (di un giurista) sulle potenzialità e i rischi dell’Intelligenza Artificiale, cit., iv ss.
[29] Nel caso esaminato dalla sentenza in commento riveste, di contro, un limitato interesse l’esatta qualificazione del provvedimento impugnato. Come si è anticipato, infatti, il ricorrente asseriva che l’Agea, attraverso tale atto, avesse operato una “revoca implicita” del precedente provvedimento. Pare, tuttavia, che i provvedimenti oggetto di gravame possano qualificarsi come atti espressione del potere di annullamento d’ufficio (ex art. 21 nonies, l. 241/1990, ss.mm.ii.). Ed infatti, come si legge nella pronuncia in commento, l’Agea avrebbe “rielaborato” la domanda del ricorrente (recte qualificato nuovamente il contributo dovuto) in ragione dell’illegittimità del provvedimento favorevole emanato in prima battuta, a sua volta derivante da un algoritmo in qualche misura difforme dal paradigma normativo. La questione, invero, sembra risolversi in radice, poiché – pur in assenza di una pronuncia esplicita sul punto da parte del giudice – la qualificazione dell’atto può ritenersi un’operazione intellettiva, di sussunzione della fattispecie concreta in quella astratta, tipica dell’attività interpretativa del giudice (cfr., ex multis, Cons. Stato, sez. V, 5 gennaio 2023, n. 211; nonché, Cons. Stato, sez. VI, 24 settembre 2019, n. 6378; Cons. Stato, sez. II, 30 settembre 2019, n. 6534; Cons. Stato, sez. IV, 5 giugno 2020, n. 3552). Tale operazione richiede di interpretare l’atto amministrativo non solo in base al suo tenore letterale, ma soprattutto “in base al suo specifico contenuto e risalendo al potere concretamente esercitato dall’amministrazione”. In dottrina cfr., già, D. Sorace, Atto amministrativo, in Enciclopedia del diritto, Annali, VII, Milano, 2014, 46 ss.
[30] Le tesi dottrinarie sono compiutamente riprese ed analizzate anche da G. Gallone, Riserva di umanità e funzioni amministrative, cit., 87 ss.
[31] Cfr. D. Marongiu, L’attività amministrativa automatizzata, cit., 18, il quale riprende la tesi dell’atto amministrativo generale a “rilevanza esterna”. Cfr., altresì, A. Masucci, Atto amministrativo informatico, in Enciclopedia del diritto, Aggiornamento, I, 1997, 221 ss.
[32] Tale impostazione si fonda sulla considerazione secondo cui la regola tecnica che governa l’algoritmo, ed il software che ne costituisce la traduzione in linguaggio macchina, è una regola amministrativa generale, costruita dall’uomo ed applicata dalla macchina, con la conseguenza che esso debba qualificarsi come atto amministrativo informatico. Cfr., in giurisprudenza, Cons. Stato, sez. VI, 8 aprile 2019, n. 2270.
[33] Cfr. U. Fantigrossi, Automazione e pubblica amministrazione, Bologna, 1993, 56 ss. Cfr., più di recente, le riflessioni di A.G. Orofino, L’attuazione del principio di trasparenza nello svolgimento dell’Amministrazione elettronica, in Judicium, 19 ottobre 2020, 3 ss.
[34] Questa tesi è sviluppata da A. Boix Palop, Los algoritmos sono reglamentos: la necesidad de extender las garantias propria del las normas reglamentarias a los programas empleados por la administracìon para la adopcìon de decisiones, in Revista de Derecho Pùblico: Teorìa y Metodo, 2020, 223 ss. Secondo l’autore, infatti, l’algoritmo (e il programma) utilizzato dalla pubblica Amministrazione in modo non puramente strumentale produce, materialmente, gli stessi effetti di qualsiasi regolamento, preordinando la decisione finale dell’Autorità pubblica e limitando l’ambito di discrezionalità o la capacità di determinazione sulla base dei postulati contenuti nella programmazione normativa dell’attività amministrativa, e cioè la “regola” contenuta nell’atto normativo.
[35] Cfr. supra par. 1, nota 4.
[36] Cfr., di recente, G. Gallone, Riserva di umanità e funzioni amministrative, cit., 89 ss. L’A. evidenzia, inoltre, come l’inadeguatezza di simili ricostruzioni si «appalesa con ancor maggior chiarezza se si guarda alla automazione avanzata a mezzo di intelligenza artificiale; tecnica che risulta fondata su algoritmi a “struttura aperta” che non prevedono la definizione di una classe finita di operazioni e rispetto ai quali non potrebbe ammettersi l’idoneità ad esprimere giudizi o valutazioni».
[37] La figura dell’autovincolo è stata applicata in dottrina da A. Masucci, L’atto amministrativo automatizzato, cit., 37 ss., per spiegare il progressivo esaurimento dei margini di discrezionalità con riguardo a funzioni amministrative automatizzate. Cfr., altresì, F. Saitta, Le patologie dell’atto amministrativo elettronico e il sindacato del giudice amministrativo, cit., 7 ss. In generale sul concetto di autovincolo cfr., già, le riflessioni di M.P. Vipiana, L’autolimite della pubblica amministrazione, Milano, 1990.
[38] G. Gallone, Riserva di umanità e funzioni amministrative, cit., 93 ss., guarda al rapporto tra algoritmo e atto amministrativo anche dal punto di vista della sua dimensione “statica”, che indurrebbe a contrassegnare il modulo automatizzato quale “oggetto della volizione amministrativa preliminare con cui l’Amministrazione opta per l’automazione”.
[39] In giurisprudenza cfr., ex multis, Cons. Stato, sez. VI, 13 dicembre 2019, n. 8474, che qualifica espressamente il ricorso all’utilizzo del software in termini di scelta del modulo organizzativo da parte dell’Amministrazione, strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo.
[40] L’analisi è compiuta da G. Gallone, Riserva di umanità e funzioni amministrative, cit., 97 ss., cui si rinvia per i riferimenti agli studi che hanno elaborato tale tesi.
[41] È appena il caso rilevare, tuttavia, che la sentenza in commento non prende in alcun modo posizione su tale rilevante questione giuridica che non pare, d’altro canto, esser stata oggetto di puntuali deduzioni del ricorrente. Ed infatti, il Tar Campania, come osservato, perviene all’annullamento del provvedimento impugnato accogliendo il motivo di ricorso relativo alla carenza di motivazione.
[42] Sulla patologia dell’atto amministrativo elettronico cfr. A.G. Orofino, La patologia dell’atto amministrativo elettronico: sindacato giurisdizionale e strumenti di tutela, in Il foro amministrativo– C.d.S., 2002, 2257 ss.; nonché, ancora, F. Saitta, Le patologie dell’atto amministrativo elettronico e il sindacato del giudice amministrativo, cit., 24 ss.
[43] Cfr., già, A. Masucci, Atto amministrativo informatico, cit., 227, secondo il quale «se questo atto si pone come “atto madre” del procedimento decisionale, ne consegue che eventuali illegittimità (dell’atto programma) viziano l’atto finale del procedimento. In forza del “principio di derivazione” si riflettono sull’atto amministrativo finale tutti i vizi relativi ai singoli atti del procedimento». Cfr., altresì, F. Saitta, Le patologie dell’atto amministrativo elettronico e il sindacato del giudice amministrativo, cit., 20 ss.; L. Carbone, L’algoritmo e il suo giudice, in Giustizia-amministrativa.it, 2023.
[44] Sul punto R. Cavallo Perin, Ragionando come se la digitalizzazione fosse data, cit., 310, osserva che «con il vizio di eccesso di potere i limiti che l’algoritmo assume sono la logicità e la comprensibilità della scelta dell’amministrazione, oltre i quali l’algoritmo procederà a compiere, con imparzialità, disciplina e onore, i concreti atti di gestione in attuazione dell’indirizzo politico-amministrativo degli organi di governo».
[45] Considerata l’ampia produzione scientifica cfr., almeno, F. Benvenuti, voce Autotutela (diritto amministrativo), in Enc. dir., vol. IV, Milano, 1959, 537 ss.; G. Coraggio, voce Autotutela I) diritto amministrativo, in Enciclopedia giuridica, vol. V, Roma, 1988, 1 ss. Più di recente cfr. G. Corso, Autotutela (dir. amm.), in S. Cassese (a cura di), Dizionario di diritto pubblico, I, Milano, 2006, 609 ss.; B.G. Mattarella, Autotutela amministrativa e principio di legalità, in Rivista italiana di diritto pubblico comunitario, 6, 2007, 1226 ss.; F. Francario, Autotutela amministrativa e principio di legalità (nota a margine della l. 124/2015), in Federalismi.it, 20, 2015, 1 ss.; Id., Riesercizio del potere amministrativo e stabilità degli effetti giuridici, in Federalismi.it, 8, 2017, 1 ss.; M. Macchia, Sui poteri di autotutela: una riforma in senso giustiziale, in Giornale di diritto amministrativo, 5, 2015, 634 ss.; P.L. Portaluri, Il nuovo diritto procedimentale nella riforma della p.A. L’autotutela (profili interni e comunitari), in Federalismi.it, 20, 2016, 1 ss.; M.A. Sandulli, Autotutela e stabilità del provvedimento nel prisma del diritto europeo, in P.L. Portaluri (a cura di), L’Amministrazione pubblica nella prospettiva del cambiamento: il codice dei contratti e la riforma Madia, Napoli, 2016, 125 ss.
[46] Così, P. Otranto, Dalla funzione amministrativa giustiziale alle ADR di diritto pubblico. L’esperienza dei dispute boards e del collegio consultivo tecnico, Napoli, 2023, 185 ss., cui si rinvia anche per i riferimenti bibliografici essenziali. Cfr., altresì, M. Trimarchi, L’inesauribilità del potere. Profili critici, Napoli, 2018.
[47] Considerati i numerosi studi sul tema cfr., tra i più recenti, G. Guzzardo, Annullamento d’ufficio e comunicazione di avvio del procedimento (nota a Tar Lombardia, sez. III, 16 gennaio 2006, n. 50), in Foro amministrativo-T.A.R., 2007, 839 ss.; S. D’ancona, L’annullamento d’ufficio tra vincoli e discrezionalità, Napoli, 2015; M. Ramajoli, L’annullamento d’ufficio alla ricerca di un punto di equilibrio, in Rivista giuridica di Urbanistica, 2016, 112 ss.; M. Allena, L’annullamento d’ufficio. Dall’autotutela alla tutela, Napoli, 2018; C. Napolitano, L’autotutela amministrativa. Nuovi paradigmi e modelli europei, Napoli, 2018.
[48] Cfr. G. Gallone, Riserva di umanità e decisioni algoritmiche, cit., 175, che riprende le riflessioni sviluppate in A.G. Orofino-G. Gallone, L’intelligenza artificiale al servizio delle funzioni amministrative: profili problematici e spunti di riflessione, in Giurisprudenza italiana, 2020, 1738.
[49] Cfr. R. Chieppa, Provvedimenti di secondo grado (diritto amministrativo), in Enciclopedia del diritto, Annali, vol. II, Milano, 2008, 910 ss.
[50] G. Gallone, Riserva di umanità e decisioni algoritmiche, cit., 41 ss.
[51] Cfr. P. Otranto, Autotutela decisoria e certezza giuridica tra ordinamento nazionale e sovranazionale, in Federalismi.it, 14, 2020, 244 ss. e, ivi, gli ulteriori riferimenti bibliografici. La distinzione tra norme di azione e norme di relazione si deve, com’è noto, a E. Guicciardi, La giustizia amministrativa, Padova, 1942, 30 ss. Cfr., altresì, A. Romano, Giurisdizione amministrativa e limiti della giurisdizione ordinaria, Milano, 1975; F. Volpe, Norme di relazione, norme d’azione e sistema italiano di giustizia amministrativa, Padova, 2004.
[52] Cfr. art. 30, d.lgs. 36/2023, che espressamente prevede: «1. Per migliorare l’efficienza le stazioni appaltanti e gli enti concedenti provvedono, ove possibile, ad automatizzare le proprie attività ricorrendo a soluzioni tecnologiche, ivi incluse l’intelligenza artificiale e le tecnologie di registri distribuiti, nel rispetto delle specifiche disposizioni in materia. 2. Nell’acquisto o sviluppo delle soluzioni di cui al comma 1 le stazioni appaltanti e gli enti concedenti: a) assicurano la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprenderne le logiche di funzionamento; b) introducono negli atti di indizione delle gare clausole volte ad assicurare le prestazioni di assistenza e manutenzione necessarie alla correzione degli errori e degli effetti indesiderati derivanti dall’automazione. 3. Le decisioni assunte mediante automazione rispettano i principi di: a) conoscibilità e comprensibilità, per cui ogni operatore economico ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino e, in tal caso, a ricevere informazioni significative sulla logica utilizzata; b) non esclusività della decisione algoritmica, per cui comunque esiste nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata; c) non discriminazione algoritmica, per cui il titolare mette in atto misure tecniche e organizzative adeguate al fine di impedire effetti discriminatori nei confronti degli operatori economici. 4. Le stazioni appaltanti e gli enti concedenti adottano ogni misura tecnica e organizzativa atta a garantire che siano rettificati i fattori che comportano inesattezze dei dati e sia minimizzato il rischio di errori, nonché a impedire effetti discriminatori nei confronti di persone fisiche sulla base della nazionalità, dell’origine etnica, delle opinioni politiche, della religione, delle convinzioni personali, dell’appartenenza sindacale, dei caratteri somatici, dello status genetico, dello stato di salute, del genere o dell’orientamento sessuale. 5. Le pubbliche amministrazioni pubblicano sul sito istituzionale, nella sezione “Amministrazione trasparente”, l’elenco delle soluzioni tecnologiche di cui al comma 1 utilizzate ai fini dello svolgimento della propria attività».
[53] È il caso di ricordare che il Governo – esercitando la facoltà prevista dall’art. 14, n. 2, r.d. 26 giugno 1924, n. 1054, espressamente richiamato anche dall’art. 1, c. 4, l. 78/2022 − ha affidato al Consiglio di Stato il compito di redigere una proposta di articolato normativo del nuovo codice. Lo schema definitivo del codice è stato licenziato dal Consiglio di Stato il 7 dicembre 2022 ed è stato sostanzialmente recepito, quasi senza modifiche, attraverso il d.lgs. 36/2023.
[54] Cfr. supra par. 3, nota 26 e 27.
[55] Cfr. G. Avanzini, Decisioni amministrative e algoritmi informatici. cit., 120 ss. Cfr., altresì, C. Strainati, Algoritmi e decisioni amministrative, in Foro amministrativo, 2020, 1591 ss.; B. Marchetti, Amministrazione digitale, cit., 75 ss.
[56] Tanto, se si considera, altresì, che nelle ricostruzioni più recenti della giurisprudenza il rispetto dei principi dell’azione amministrativa assurge non di meno a parametro di legittimità dell’attività automatizzata. Cfr., da ultimo, Trib. Trani, sez. lavoro, 31 gennaio 2023, n. 2210.
[57] Cfr. G. Gallone, Riserva di umanità e funzioni amministrative, cit., 16, ove afferma che «non esiste più una sfera di esclusivo appannaggio dell’umano, essendo anche quella intellettuale divenuta ormai contendibile dalla macchina».
[58] Nella proposta di Regolamento UE inerente alla armonizzazione delle regole sulla intelligenza artificiale, ad esempio, si adombra la possibilità che «ciascuno Stato membro istituisce o designa autorità nazionali di vigilanza al fine di garantire l’applicazione e l’attuazione del regolamento. Le autorità nazionali competenti sono organizzate e gestite in modo che sia salvaguardata l’obiettività e l’imparzialità dei loro compiti e attività. Ciascuno Stato membro designa un’autorità nazionale di controllo tra le autorità nazionali competenti. L’autorità nazionale di controllo agisce in qualità di autorità di notifica e di autorità di vigilanza, al fine di garantire l’applicazione uniforme delle regole inerenti all’utilizzo di sistemi di intelligenza artificiale» (cfr. art. 59, capo II). Su questi profili cfr., in dottrina, F. Costantino, Algoritmi, intelligenza artificiale e giudice amministrativo, in Giurisprudenza italiana, 2022, 1527 ss.; F. Donati, Diritti fondamentali e algoritmi nella proposta di Regolamento sull’intelligenza artificiale, in A. Pajno-F. Donati-A. Perrucci (a cura di), Intelligenza artificiale e diritto: una rivoluzione?, I, Bologna, 2022, 111 ss.