ISSN 2039 - 6937  Registrata presso il Tribunale di Catania
Anno XVI - n. 03 - Marzo 2024

  Temi e Dibattiti



Il provvedimento amministrativo adottato mediante algoritmo: il ruolo dell’intelligenza artificiale nel processo decisionale della P.A.

Di Anna Laura Rum
   Consulta il PDF   PDF-1   

Il provvedimento amministrativo adottato mediante algoritmo:

il ruolo dell’intelligenza artificiale nel processo decisionale della P.A.

 

Di ANNA LAURA RUM

 

Abstract [It]: Il presente contributo si propone di tratteggiare le varie tappe del percorso di affermazione, nel nostro ordinamento, della decisione amministrativa affidata all’automazione.

Approfonditi gli elementi essenziali del provvedimento basato sull’algoritmo e il ruolo dell’intelligenza artificiale nella decisione amministrativa (infra par. 2), verrà dato conto della tradizionale impostazione pretoria restrittiva, che ammetteva il ricorso all’informatica solo in funzione deduttiva e servente all’attività del funzionario (infra par. 3.1) e della progressiva apertura giurisprudenziale al riconoscimento dell’intelligenza artificiale in funzione predittiva, dapprima per la sola attività vincolata (infra par. 3.2), successivamente, anche per i procedimenti inerenti scelte discrezionali della p.a. (infra par 3.3). Infine, saranno analizzate due fra le ultime pronunce del Consiglio di Stato in materia, che riprendono e ribadiscono i principi già espressi nelle sentenze del 2019 (infra par. 3.4).

 

Abstract [En]: This article explores the growing role that artificial intelligence and related technologies, such as the algorithmic methods, are playing in the Italian public sector. What then should be the role of the human when these tools are planned and then deployed, particularly when the accuracy of an algorithmic prediction is claimed to be at least comparable to the accuracy of a human one, according to the principles of constitutional and administrative law (see par. 2).

Finally, TAR Lazio (one of the Regional Administrative Courts) and  Consiglio di Stato (Council of State - the supreme administrative Court) pronouncements, referring to the role of an algorithm to replace, or even only to assist, the human decision-maker will be analysed in depth (see pars. 3.1, 3.2, 3.3, 3.4).

 

Sommario: 1. Introduzione. 2. Il superamento della decisione umana: la decisione affidata all’intelligenza artificiale. 3. Le pronunce giurisprudenziali sulla materia ad oggi. 3.1 L’impostazione restrittiva: il ruolo dell’informatica deve ammettersi solo in funzione deduttiva, strumentale, servente e non surrogatoria dell’attività dell’uomo (TAR Lazio, Sez. III bis, sent. 10964/2019). 3.2 I primi segnali di apertura: ammessa l’intelligenza artificiale nel procedimento amministrativo, ma solo per l’attività vincolata (Cons. Stato, Sez. VI, sent. 2270/2019). 3.3 La decisa apertura del Consiglio di Stato: sì all’algoritmo anche nell’attività discrezionale (Cons. Stato, Sez. VI, sentt. 8472, 8473, 8474/2019). 3.4. Le ultime pronunce: il Consiglio di Stato conferma le statuizioni del 2019 (Cons. Stato, sez.VI, sentt. 881/2020 e 1206/2021) 4. Considerazioni conclusive. 5. Bibliografia.

 

  1. Introduzione.

Nell’ambito delle forme di esternazione della volontà della pubblica amministrazione, il tema del provvedimento amministrativo adottato all’esito di un processo decisionale basato su algoritmo è di recente emersione e certamente collegato ad esigenze di speditezza e semplificazione dell’azione amministrativa.

Infatti, l’amministrazione, nell’esercizio della propria attività, anche nell’ambito del procedimento, è tenuta a ricorrere all’informatica e alla tecnologia.

Tuttavia, se tradizionalmente si è sempre trattato di un’informatica “servente-deduttiva”, ovvero strumentale alla decisione umana, del funzionario amministrativo, oggi, invece, sta facendosi sempre più spazio il ricorso ad un’informatica “predittiva”, cioè capace di prendere decisioni al posto dell’uomo.

Alla luce di questo dato fattuale e in assenza di una normativa che disciplini specificamente la materia, allora, è opportuno domandarci entro che limiti sia consentito all’amministrazione ricorrere ad una decisione affidata all’automazione, alla c.d. intelligenza artificiale e quali conseguenze in punto di responsabilità si profilino per il caso di illegittimità di un provvedimento così adottato. Ancora, è necessario individuare il soggetto che ne sia responsabile e quali forme di tutela siano previste per il privato destinatario di un provvedimento così adottato.

 

  1. Il superamento della decisione umana: la decisione affidata all’intelligenza artificiale.

Ancorché allo stato attuale debba ritenersi escluso che l’attività informatica possa sostituire completamente quella umana, specie ove si tratti di attività amministrativa discrezionale, tuttavia, si ritiene che la decisione possa essere affidata alla sola tecnologia per quegli atti c.d. a bassa discrezionalità, come gli atti richiedenti accertamenti tecnici, rispetto ai quali, cioè, sia prevedibile un limitato ventaglio di soluzioni a partire da specifici e predefiniti presupposti.

Anche con riferimento agli atti a discrezionalità tecnica si è ipotizzata la possibilità di ricorrere alla decisione affidata all’automazione, considerando che questa particolare discrezionalità si fonda su un giudizio tecnico e non su una comparazione di interessi.

Un provvedimento amministrativo basato su algoritmo, quindi prodotto da una forma di intelligenza artificiale, può presentare vizi di variabile genesi: può essere viziato a causa di un malfunzionamento del sistema informatico che lo ha generato, o anche da un errore nella fase di inserimento dei dati nel sistema, così avendo il vizio causa nell’errore umano.

A fronte di questi vizi, i rimedi esperibili sono quelli generali previsti dalla L. 241/1990 sull’invalidità, dai rimedi conservativi a quelli caducatori.

Inoltre, si ritiene pienamente operante il regime dei vizi non invalidanti di cui all’art. 21 octies c.2 L.241.

L’individuazione del responsabile dell’illegittimità del provvedimento adottato mediante algoritmo appare affare più complesso rispetto al caso di un normale provvedimento amministrativo, ma vale comunque il principio ricavabile dall’art. 28 Cost., di imputabilità dell’atto all’amministrazione di provenienza, anche quando non sia individuabile il funzionario che lo abbia materialmente adottato.

 

  1. Le pronunce giurisprudenziali sulla materia ad oggi.

3.1 L’impostazione restrittiva: il ruolo dell’informatica deve ammettersi solo in funzione deduttiva, strumentale, servente e non surrogatoria dell’attività dell’uomo (TAR Lazio, Sez. III bis, sent. 10964/2019[1]).

La questione sulla quale il TAR Lazio si è pronunciato con sentenza n. 10964/2019, riguardava la mancanza di una vera e propria attività amministrativa, essendosi demandato ad un impersonale algoritmo lo svolgimento dell’intera procedura di assegnazione di docenti alle sedi disponibili nell’organico dell’autonomia della scuola.

Il Collegio ha ritenuto che le procedure informatiche, finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione, non possano mai soppiantare, sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica è in grado di svolgere e che pertanto, al fine di assicurare l’osservanza degli istituti di partecipazione, di interlocuzione procedimentale, di acquisizione degli apporti collaborativi del privato e degli interessi coinvolti nel procedimento, deve seguitare ad essere il dominus del procedimento stesso, all’uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo.

 

3.2 I primi segnali di apertura: ammessa l’intelligenza artificiale nel procedimento amministrativo, ma solo per l’attività vincolata (Cons. Stato, Sez. VI, sent. 2270/2019[2]).

Il Consiglio di Stato, con la pronuncia n. 2270/2019, ha tracciato per la prima volta i confini tra potere pubblico ed uso dell’algoritmo, con i relativi limiti in ordine all’utilizzo della decisione automatizzata, circoscritta al solo contesto dell’attività vincolata.

Si afferma che un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti e che il Codice dell’amministrazione digitale rappresenta un approdo decisivo in tale direzione.

Ancora, che i diversi interventi di riforma dell’amministrazione susseguitisi nel corso degli ultimi decenni, fino alla legge n. 124 del 2015, sono indirizzati a tal fine; nella medesima direzione sono diretti gli impulsi che provengono dall’ordinamento comunitario.

Il Consiglio di Stato osserva come anche la dottrina si sia interrogata sulle opportunità fornite dalle nuove tecnologie, elaborando la nozione di “e-government”, ovvero l’introduzione di modelli decisionali e di forme gestionali innovative, che si avvalgano della tecnologie informatiche ed elettroniche, indicando il processo di informatizzazione della pubblica amministrazione.

Con la decisione in commento, il CdS ha sottolineato gli “indiscutibili” vantaggi derivanti dalla automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un “algoritmo” – ovvero di una sequenza ordinata di operazioni di calcolo–che in via informatica sia in grado di valutare e graduare una moltitudine di domande e l’utilità di tale modalità operativa di gestione dell’interesse pubblico è particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale.

Osserva il Collegio come ciò sia conforme ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale: a dire del CdS, l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale deve essere incoraggiato, comportando numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.

Dunque, l’assenza di intervento umano in un’attività di mera classificazione automatica di istanze numerose, secondo regole predeterminate (che sono, queste sì, elaborate dall’uomo), e l’affidamento di tale attività a un efficiente elaboratore elettronico appaiono come doverose declinazioni dell’art. 97 Cost. coerenti con l’attuale evoluzione tecnologica.

Il CdS sottolinea, però, che il ricorso a procedure “robotizzate” non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa. Difatti, la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva.

Il Collegio procede, allora, a dettare alcuni principi in punto di regola algoritmica, la quale:

- possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica e, come tale, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.;

- non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;

- vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);

- deve contemplare la possibilità che sia il giudice a “dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti”.

In definitiva, dunque, avanza il Collegio, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”, ciò comportando un duplice ordine di conseguenze.

In primo luogo, il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.

Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.

In altri termini, la “caratterizzazione multidisciplinare” dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice.

In secondo luogo, la regola algoritmica deve essere non solo conoscibile in sé, ma anche soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo, per la necessità di poter sindacare come il potere sia stato concretamente esercitato, ponendosi in ultima analisi come declinazione diretta del diritto di difesa del cittadino, al quale non può essere precluso di conoscere le modalità (anche se automatizzate) con le quali è stata in concreto assunta una decisione destinata a ripercuotersi sulla sua sfera giuridica.

Solo in questo modo, secondo il Collegio, è possibile svolgere, anche in sede giurisdizionale, una valutazione piena della legittimità della decisione.

 

3.3 La decisa apertura del Consiglio di Stato: sì all’algoritmo anche nell’attività discrezionale (Cons. Stato Sez. VI, sentt. 8472, 8473, 8474/2019[3]).

La sesta Sezione del Consiglio di Stato con le tre sentenze gemelle 8472, 8473 e 8474 del 2019 torna, lo stesso anno, a mettere mano sulla sua precedente pronuncia, la n. 2270, confermandola e integrandola. In particolare, la innova in punto di tipo di attività amministrativa ammessa all’uso dell’algoritmo nel processo decisionale, ora esteso anche all’attività discrezionale della p.a.

La sentenza in esame assume rilievo per le considerazioni logico-giuridiche, riconducibili al diritto sovranazionale ed, in particolare, al Regolamento europeo 679/2016, alla Carta sulla Robotica e alla Convenzione europea sui diritti umani.

Il CdS prende le mosse dalla considerazione che, in linea generale, la pubblica amministrazione debba poter sfruttare le rilevanti potenzialità della c.d. rivoluzione digitale: il ricorso ad algoritmi informatici per l’assunzione di decisioni che riguardano la sfera pubblica e privata si fonda su indiscussi guadagni in termini di efficienza e neutralità.

Infatti, osserva il CdS, in molti campi gli algoritmi promettono di diventare lo strumento attraverso il quale correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani, messi in luce soprattutto negli ultimi anni da un’imponente letteratura di economia comportamentale e psicologia cognitiva. In tale contesto, le decisioni prese dall’algoritmo assumono così un’aura di neutralità, frutto di asettici calcoli razionali basati su dati.

Secondo il Collegio, non vi sono ragioni di principio, ovvero concrete, per limitare l’utilizzo all’attività amministrativa vincolata piuttosto che discrezionale, entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse e atteso che ogni attività autoritativa comporta una fase quantomeno di accertamento e di verifica della scelta ai fini attribuiti dalla legge.

Si evidenzia che se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla c.d. attività vincolata, nulla vieta che i medesimi fini predetti, perseguiti con il ricorso all’algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità.

Piuttosto, se nel caso dell’attività vincolata ben più rilevante, sia in termini quantitativi che qualitativi, potrà essere il ricorso a strumenti di automazione della raccolta e valutazione dei dati, anche l’esercizio di attività discrezionale, in specie tecnica, può in astratto beneficiare delle efficienze e, più in generale, dei vantaggi offerti dagli strumenti stessi.

Premessa la generale ammissibilità di tali strumenti, il CdS indica quali elementi di minima garanzia devono essere rispettati per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica: a) la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati; b) l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo.

In particolare, sul versante della piena conoscibilità, rilievo preminente ha il principio della trasparenza, da intendersi sia per la stessa p.a. titolare del potere per il cui esercizio viene previsto il ricorso allo strumento dell’algoritmo, sia per i soggetti incisi e coinvolti dal potere stesso.

In relazione ai soggetti coinvolti, il Collegio osserva che, ad oggi, nelle attività di trattamento dei dati personali possono essere individuate due differenti tipologie di processi decisionali automatizzati: quelli che contemplano un coinvolgimento umano e quelli che, al contrario, affidano al solo algoritmo l'intero procedimento.

Si osserva come il Regolamento europeo 2016/679 riconosca una garanzia di particolare rilievo allorché il processo sia interamente automatizzato essendo richiesto, almeno in simili ipotesi, che il titolare debba fornire “informazioni significative sulla logica utilizzata, nonché l'importanza e le conseguenze previste di tale trattamento per l’interessato” . In questo senso, in dottrina è stato fatto notare come il legislatore europeo abbia inteso rafforzare il principio di trasparenza che trova centrale importanza all'interno del Regolamento; inoltre, l’interesse conoscitivo della persona è ulteriormente tutelato dal diritto di accesso riconosciuto dal Regolamento, che contempla, a sua volta, la possibilità di ricevere informazioni relative all'esistenza di eventuali processi decisionali automatizzati.

Il CdS sottolinea la rilevanza della trasparenza per i soggetti coinvolti dall’attività amministrativa informatizzata in termini istruttori e decisori e prosegue affermando che anche sul versante della verifica degli esiti e della relativa imputabilità, deve essere garantita la verifica a valle, in termini di logicità e di correttezza degli esiti. Ciò, a garanzia dell’imputabilità della scelta al titolare del potere autoritativo, individuato in base al principio di legalità, nonché della verifica circa la conseguente individuazione del soggetto responsabile, sia nell’interesse della stessa p.a. che dei soggetti coinvolti ed incisi dall’azione amministrativa affidata all’algoritmo.

Lo stesso Regolamento europeo, afferma il CdS, affianca alle garanzie conoscitive assicurate attraverso l'informativa e il diritto di accesso, un espresso limite allo svolgimento di processi decisionali interamente automatizzati.

In tema di imputabilità, il Collegio richiama, quale elemento rilevante di inquadramento del tema, la Carta della Robotica, approvata nel febbraio del 2017 dal Parlamento Europeo: al fine di applicare le norme generali e tradizionali in tema di imputabilità e responsabilità, occorre garantire la riferibilità della decisione finale all’autorità ed all’organo competente in base alla legge attributiva del potere.

Allora, il CdS schematizza tre principi che emergono dal diritto sovranazionale, da considerare nell’esame e nell’utilizzo degli strumenti informatici.

In primo luogo, il principio di conoscibilità, per cui ognuno ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino ed in questo caso a ricevere informazioni significative sulla logica utilizzata. Esso va corredato col principio di comprensibilità, ovverosia la possibilità, per riprendere l’espressione del Regolamento, di ricevere “informazioni significative sulla logica utilizzata”.

In secondo luogo, il principio di non esclusività della decisione algoritmica: deve comunque esistere nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatica.

In terzo luogo, il CdS rileva che, dal considerando n. 71 del Regolamento 679/2016, il diritto europeo trae un ulteriore principio fondamentale, di non discriminazione algoritmica, secondo cui è opportuno che il titolare del trattamento utilizzi procedure matematiche o statistiche appropriate per la profilazione, mettendo in atto misure tecniche e organizzative adeguate al fine di garantire, in particolare, che siano rettificati i fattori che comportano inesattezze dei dati e sia minimizzato il rischio di errori e al fine di garantire la sicurezza dei dati personali, secondo una modalità che tenga conto dei potenziali rischi esistenti per gli interessi e i diritti dell'interessato e che impedisca tra l'altro effetti discriminatori nei confronti di persone fisiche sulla base della razza o dell'origine etnica, delle opinioni politiche, della religione o delle convinzioni personali, dell'appartenenza sindacale, dello status genetico, dello stato di salute o dell'orientamento sessuale, ovvero che comportano misure aventi tali effetti.

Pur dinanzi ad un algoritmo conoscibile e comprensibile, non costituente l’unica motivazione della decisione, tuona il Consiglio di Stato, occorre, inoltre, che lo stesso non assuma carattere discriminatorio.

 

3.4. Le ultime pronunce: il Consiglio di Stato conferma le statuizioni del 2019 (Cons. Stato, sez.VI, sentt. 881/2020[4] e 1206/2021[5])

A seguito degli importanti approdi del 2019, il Consiglio di Stato è tornato più volte a pronunciarsi in materia di rapporto fra procedimento amministrativo e algoritmi ed intelligenza artificiale, ribadendo e, talvolta, richiamando i principi espressi nelle sentenze 2270 e 8472,, 8473, 8474 del 2019.

Con la sentenza n. 881 del 2020, il Collegio pone a fondamento della decisione gli assunti della pronuncia 2270/2019, richiama il Regolamento UE 679/2016 e la Carta della Robotica del 2017 già citati dalla stessa Sezione nelle tre sentenze gemelle del 2019 ed aggiunge alcune considerazioni integrative.

In particolare, il CdS sottolinea come, l’utilizzo di procedure informatizzate non possa essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa.

In tale contesto, infatti, il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta della legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere.

Ancora, si sottolinea che non vi sono ragioni di principio, ovvero concrete, per limitarne l’utilizzo all’attività amministrativa vincolata piuttosto che discrezionale, entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse: ogni attività autoritativa comporta una fase quantomeno di accertamento e di verifica della scelta ai fini attribuiti dalla legge e se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla c.d. attività vincolata, nulla vieta che i medesimi fini predetti, perseguiti con il ricorso all’algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità.

Prosegue il Collegio evidenziando come vengano in rilievo, anche alla luce della disciplina di origine sovranazionale, due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica: a) la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati; b) l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all’algoritmo. In particolare, assume il CdS, sul versante della piena conoscibilità, rilievo preminente ha il principio della trasparenza, da intendersi sia per la stessa p.a. titolare del potere per il cui esercizio viene previsto il ricorso allo strumento dell’algoritmo, sia per i soggetti incisi e coinvolti dal potere stesso.

Secondo il Consiglio di Stato, la conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò, al fine di poter verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.

Allora, con la sentenza n. 881, si ribadisce che, la “caratterizzazione multidisciplinare” dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile. Con le già individuate conseguenze in termini di conoscenza e di sindacabilità di cui alla sentenza 2270/2019.

Pertanto, il Collegio arriva a concludere che non può assumere rilievo l’invocata riservatezza delle imprese produttrici dei meccanismi informatici utilizzati, che, ponendo al servizio del potere autoritativo tali strumenti, ne devono accettare le relative conseguenze in termini di necessaria trasparenza.

Con la pronuncia 1206 del 2021, la sesta Sezione del Consiglio di Stato conclude conformemente a quanto più volte rimarcato dalla stessa, con sentenze n. 2270 del 2019, n. 8472 del 2019, n. 8473 del 2019, n. 8474 del 2019 e n. 881 del 2020, rinviandovi per relationem.

 

  1. Considerazioni conclusive.

In assenza di una normativa che regolamenti interamente le procedure decisionali automatizzate della p.a., può insorgere il rischio di abusi o condotte arbitrarie del soggetto pubblico, ai danni del cittadino destinatario dei provvedimenti originati dall’intelligenza artificiale.

Si è osservato che, talvolta, la logica sottesa all’algoritmo, le sue regole di funzionamento sfuggano agli stessi programmatori del sistema e che l’algoritmo risulti poco intellegibile, sia per chi lo utilizza che per chi lo ha progettato.

In queste ipotesi, l’inaccessibilità, la difficoltà di conoscere l’algoritmo nella fase istruttoria del procedimento si porrebbe in contrasto con le norme poste a presidio delle garanzie di partecipazione al procedimento e di accesso agli atti.

È stato, poi,  ipotizzato che l’adozione di procedure decisionali automatizzate possa portare a deresponsabilizzare i funzionari amministrativi ovvero attribuire responsabilità a “soggetti non umani”, delegittimando di conseguenza le procedure. Tuttavia, sarebbe l’esistenza di un controllo a monte a responsabilizzare l’ente pubblico e consentire di imputare ad esso le decisioni frutto di algoritmo.

Oggi, comunque, grazie ai principi chiaramente delineati dal Consiglio di Stato, con le decisioni del 2019, sull’uso dell’algoritmo nel processo decisionale della p.a., molti dei rischi di decisioni pregiudizievoli per il cittadino possono essere arginati. E, come si è osservato in dottrina, il problema attuale è probabilmente riferito al quomodo della decisione amministrativa automatizzata: lo sforzo dell’interprete deve essere allora concentrato sul modo di riconoscere gli errori e per raggiungere questo obiettivo occorre sapere come e da chi sono stati selezionati i dati che rappresentano la base di conoscenza dell’algoritmo, cioè, l’input.

In particolare, senza meccanismi idonei a rilevare e a correggere gli errori si rischia di pregiudicare sia l’interesse pubblico sia quello privato: si raggiungerebbe, cioè, un obiettivo del tutto opposto rispetto a quelli di efficienza e speditezza, economicità, trasparenza e prevedibilità  che intende promuovere l’uso dell’intelligenza artificiale da parte della p.a.

Per queste ragioni, appare fondamentale conoscere la logica del funzionamento dell’istruttoria algoritmica al fine di rilevare errori ed, eventualmente,  di contestare la decisione finale.

 

  1. Bibliografia.
  • Pasquale, The Black box society, The Secret Algorithms That Control Money and Information, Harv. Un. Press, 2015.
  • U. Galetta- J.G. Corvalan, Intelligenza artificiale, per una p.a. 4.0? Potenzialità, rischi esfide della rivoluzione tecnologica in atto, in Federalismi.it 3/2019 (www.federalismi.it)
  • Patroni  Griffi, La  decisione  robotica  e  il giudice  amministrativo,  in www.giustizia-amministrativa.it
  • Giovanni Pesce, Il Consiglio di Stato ed il vizio della opacità dell’algoritmo tra diritto interno e diritto sovranazionale, in giustizia-amministrativa.it

 

 

[1] In www.giustizia-amministrativa.it

[2] In www.giustizia-amministrativa.it

[3] in www.giustizia-amministrativa.it

[4] In www.giustizia-amministrativa.it

[5] In www.giustizia-amministrativa.it