Appunti in tema di digitalizzazione della giustizia amministrativa

Di Giovanni Fabio Licata

Abstract

La digitalizzazione della giustizia è uno dei temi giuridici più ricorrenti nel tempo presente. Nello stratificarsi della riflessione dottrinale sul punto, dalla stessa non è stata esente la giustizia amministrativa, anche per gli sviluppi che al riguardo le indicazioni presenti nel Piano nazionale di ripresa e di resilienza potrebbero determinare. L’articolo analizza alcune delle implicazioni possibili per il processo amministrativo, soffermandosi in particolare sulla rilevanza extraprocessuale dello strumento dell’intelligenza artificiale.

The digitization of justice is a current legal issue in the present time, and administrative justice has not been exempt from it. This is also due to the developments that for this respect the indications furnished by the National Recovery and Resilience Facility could determine. The article analyzes some of the possible implications for the administrative jurisdiction, particularly focusing on the out-of-trial relevance of the artificial intelligence tool.

1. La digitalizzazione della giustizia amministrativa

Con il termine digitalizzazione si è soliti indicare un’attività di conversione (di linguaggio e) di atti(vità) per lo più materiali, siano essi testuali, e quindi (più) propriamente linguistici, audiovisivi o più semplicemente espressione di immagini. Precisamente, la trasformazione interviene rappresentandoli mediante un linguaggio binario, funzionale alla programmazione della stessa attività trasformata con elaboratori elettronici, e quindi allo sviluppo concreto di questa, che utilizza dati, a loro volta, resi fruibili in coerenza al linguaggio informatico utilizzato. Laddove rapportata alle vicende del diritto[1], la digitalizzazione interessa per lo più la problematica dell’automa(tizza)zione, e quindi la idea, in effetti diffusamente sviluppata ma variamente articolata dagli studiosi che se ne sono occupati, per cui una determinata attività giuridica conosce la possibilità di essere concretamente realizzata con un grado più o meno ampio di autonomia da parte di un elaboratore elettronico, o più in generale di una macchina, e ciò segnatamente attraverso l’utilizzazione di un determinato software. Per questi casi, ancora a un livello generale di astrazione, e forse anche di approssimazione, si parla quindi di diritto algoritmico, proprio perché la scelta

giuridica formata(si) dipende, o risulta condizionata, dall’estrinsecazione di un calcolo (matematico) che l’algoritmo esprime[2].

Naturalmente, una simile questione rileva anche nell’ambito del diritto privato, dove tali modalità di formazione dell’atto giuridico possono interessare una o più parti del rapporto. Oppure, sempre nell’ambito di questa sfera di interessi, possono venire in evidenza questioni concernenti la responsabilità civile, in particolare quando si tratta di valutare le conseguenze dannose per i terzi in capo a chi ha fatto uso delle “macchine intelligenti”. Probabilmente maggiore è stata l’attenzione che le questioni in discussione hanno ricevuto nel contesto del diritto pubblico, e ciò forse perché la tendenziale unilateralità degli atti in tale contesto formati semplifica le modalità di produzione giuridica, costituendo per ciò oggetto di analisi difformi e articolate, ma anche di qualificazioni diverse, parlandosi tra l’altro di amministrazione 4.0, di decisioni algoritmiche, di decisioni e/o provvedimenti (semi)automatizzati, analizzandosene le criticità e le opportunità[3]. In questo quadro, ormai così ampiamente investigato da risultare oggettivamente arduo il dare compiuto conto della pluralità delle opinioni espresse, è anche intervenuta la giurisprudenza amministrativa, che dopo alcune iniziali incertezze si è pronunciata positivamente nei riguardi delle decisioni amministrative che degli algoritmi fanno uso, estendendo potenzialmente la loro applicazione anche all’attività amministrativa connotata da profili di discrezionalità, ma soprattutto identificando alcuni principi necessari ai fini della legittimità della stessa[4]. In particolare, tra questi rilevano quelli di trasparenza del procedimento decisionale, nella declinazione della comprensibilità[5], di non esclusività della decisione algoritmica, nel senso precipuo per cui deve comunque permanere un apporto concreto del funzionario responsabile[6], e di non discriminazione, per il quale la decisione automatizzata non può produrre conseguenze arbitrarie o inique[7]. 

Anche se certamente si tratta di un tema meno investigato, la digitalizzazione può potenzialmente interessare anche la giustizia, soprattutto, ancorché non esclusivamente, nella sua proiezione più specifica dell’esercizio di attività giurisdizionale[8]. Qui però delle precisazioni devono essere doverosamente fatte, perché quando si parla di giustizia digitale l’accezione ampia che se ne ha può in effetti interessare profili diversi, idonei a incidere con intensità variabile non solo sull’esito di decisioni singole, ma anche sulla stessa consistenza strutturale della giustizia in un dato sistema giuridico, trasformandone in misura più o meno significativa la connotazione caratterizzante[9]. D’altra parte, laddove se ne inserisca la rilevanza all’interno delle trasformazioni in atto della giustizia amministrativa, alla constatazione di quelle esistenti va inoltre aggiunto che il rafforzamento della digitalizzazione della giustizia (amministrativa) che anche il PNRR richiede ne determina potenzialmente di ulteriori, che debbono per ciò essere necessariamente verificate in un’ottica di sistema[10].

Così, può ribadirsi, la proiezione digitale della giustizia amministrativa non ha interessato né interessa esclusivamente il momento di formazione delle decisioni giurisdizionali, ma concerne anche elementi di supporto che riguardano il più ampio e complesso esercizio dell’attività giudiziaria. Si pensi, ad esempio, alla trasformazione del processo amministrativo da cartaceo in telematico, con una maggiore speditezza e sicurezza nella veicolazione degli atti, con cambiamenti nella organizzazione del lavoro da parte dei giudici e soprattutto degli studi legali, ma anche con problematiche nuove da risolvere, idonee a condizionare gli esiti del singolo processo ancorché per lo più relative a questa nuova e diversa forma di estrinsecazione degli atti processuali[11]. Oppure alle potenzialità, di impatto più o meno rilevante a seconda delle modalità o della intensità con cui sono utilizzati, della fruizione digitale della giustizia amministrativa, dell’accesso “virtuale” al giudice,

dello svolgimento on-line del processo, o della veicolazione “pubblica” degli esiti giudiziari[12].

Quelli descritti possono per lo più essere considerati come elementi tecnologici strumentali a supportare o rafforzare la struttura del processo esistente, senza in effetti necessariamente mutarne la consistenza, e quindi senza incidere sulla struttura(zione) della giustizia amministrativa. Il che, però, può talvolta concretamente determinarsi, anche in ragione della “misura” o della “funzione” dell’utilizzo di attività che per sé potrebbero rimanere di mero supporto.

Infine, vanno considerati quei mutamenti tecnologici nell’ambito della giustizia (amministrativa) che, laddove effettivamente posti in essere, possono ritenersi idonei a determinarne cambiamenti radicali, e questo sia rispetto alla stessa operatività della giurisdizione che, in una prospettiva più ampia, con riguardo alla consistenza del rapporto che si instaura tra il giudice e gli amministrati che si trovano a dovere richiedere tutela nei confronti del pubblico potere[13]. Qui si arriva, dunque, al cuore dell’evoluzione digitale rispetto al determinarsi della giustizia nelle forme della giurisdizione, il che per lo più si concretizza, eventualmente anche nelle modalità del mero supporto al giudice per legge precostituito ancora titolare della decisionale finale[14], nel rendere “automatizzati” i processi attraverso i quali la decisione giudiziaria si estrinseca[15].

2. Intelligenza artificiale e giustizia amministrativa

L’automa(tizza)zione dei processi decisionali dei giudici viene spesso, ancorché non sempre propriamente, correlata all’uso dell’intelligenza artificiale in ambito giudiziario[16].

Tale potenziale utilizzazione viene richiamata nei documenti giuridici di istituzioni sovranazionali[17], riscontra conferme dirette e indirette nell’ambito di talune norme straniere[18], ed è

anche considerata nella proposta di regolamento sull’intelligenza artificiale[19].

Innanzi a un concetto la cui “esatta” definizione, e forse anche la stessa perimetrazione, rimane controversa, meglio è forse iniziare dicendo cosa l’intelligenza artificiale non sia, o quantomeno non è ancora, in quest’ambito[20]. Così, quando si parla di intelligenza artificiale nel contesto giudiziario non si deve immaginare un robot o un software che formulano valutazioni e scelte autonome mediante lo sviluppo di un ragionamento giuridico conforme, in quanto assimilabile o identico, a quello umano. In realtà, la proposizione di un certo modo di ragionare intorno alle problematiche giuridiche, capace eventualmente di apporti originali allo sviluppo di soluzioni “nuove”, e per ciò “creative”, non è ancora proprio alle macchine che della intelligenza artificiale fanno applicazione. Quantomeno allo stato, infatti, non sono disponibili modelli informatici e matematici idonei a “replicare” il ragionamento (giuridico) umano, sicché in assenza di ciò il fulcro del discorso diviene quello di valutare (di) quali modelli di intelligenza artificiale, e con quali prospettive e limiti, i giudici amministrativi potranno eventualmente dotarsi, nel presente o perlomeno in un futuro prossimo[21].

Emarginata l’opzione di un ragionamento giuridico idoneo a proporsi in senso evolutivo, l’erompere dell’intelligenza artificiale in ambito giudiziario è valso a rappresentare la possibilità di un’applicazione invariabile, e per ciò necessariamente uniforme, del diritto, quindi con un rafforzamento della certezza giuridica e dell’effettivo inverarsi del principio di eguaglianza nell’esercizio della giurisdizione[22]. Tuttavia, mentre l’oggettivazione dell’esperienza giuridica che così si determinerebbe è in effetti solo parziale e financo tendenziale, occorre disvelare la supposta neutralità che l’uso dell’intelligenza artificiale porta con se, e questo soprattutto al fine di considerare la manifestazione di (volontà di una) scelta, financo valoriale[23], che sia la creazione che l’uso degli algoritmi determina, facendo dunque emergere un ulteriore profilo di «amministrazione» della giustizia (amministrativa) che necessita di essere investigato[24].

Così, la correlazione tra intelligenza artificiale e decisioni giudiziarie viene espressa con formule come quella della giustizia predittiva, idonee a indicare preventivamente la decisione che sarà assunta da un giudice chiamato a decidere un caso. Se ne può fare uso in ambito privato, come strumento teso ad agevolare il lavoro di chi, soprattutto come avvocato, deve confrontarsi con un problema giuridico, ma può anche interessare l’attività dei giudici, che appunto possono beneficiarne in termini di efficienza, efficacia ed imparzialità, per quest’ultimo aspetto - in tesi - sganciando la decisione del caso dalla emotività, dai difetti cognitivi e dalla soggettività del giudicante[25].

In linea di principio, la decisione giudiziaria resa mediante l’uso dell’intelligenza artificiale può formarsi attraverso due distinte tipologie di algoritmi, che possono talvolta risultare tra loro (variamente) combinati.

Un primo modello di algoritmo è quello di tipo deterministico[26], che ha (anche) accompagnato l’evoluzione dei sistemi c.d. esperti[27]. In questo caso, permane una logica di tipo deduttivo nell’applicazione del diritto, e la soluzione finale si (pre)determina impostando una (ed una sola) conseguenza per ogni singolo passaggio decisionale, ora per la definizione dell’interpretazione della norma presupposta all’applicazione, ora per la rilevanza dell’interpretazione rispetto a determinati fatti (la cui specifica incidenza, anche in termini quantitativi, viene a sua volta predeterminata), di modo che il percorso decisionale viene ad essere sempre preventivamente determinato con modalità proprie alla logica matematica, e quindi con esiti - sempre in tesi - meccanicamente uguali ogni volta che l’applicazione viene ripetuta[28].

La prima evidenza che rileva è quella relativa alla presenza di scelte, dalla strutturazione del momento interpretativo alla specifica rilevanza di determinati fatti (e quindi non di altri) che, anche a volere convenire sulla possibilità di una reiterazione matematica dell’applicazione, riconducono comunque il suo originario sviluppo alla volontà umana, dunque marginalizzando la ricostruzione dell’oggettività giuridica esclusivamente a un momento a questo successivo. Infatti, la stessa interpretazione giuridica, soprattutto al cospetto di norme indeterminate, elastiche o di clausole generali, impone l’adozione di scelte anche con riferimento a valori, che quasi per definizione spingono nel senso di una caratterizzazione soggettiva del giuridico[29]. D’altra parte, la gestione di sistemi di questo tipo non è mai semplice. Non è facile, infatti, prefigurare la combinazione di una data interpretazione di una norma con tutti i fatti che possono ricomprendersi nell’ambito di rilevanza della stessa (e del resto il rilievo attribuito ad alcuni fatti piuttosto che ad altri manifesta l’espressione di scelte che talvolta appartengono alla tecnica giuridica, ma che non poche volte sono scelte di valore), fatti la cui eventuale combinazione nella realtà che necessità di essere giuridicamente valutata non è quasi mai possibile potere esaustivamente considerare in via preventiva. Ciò determina degli oggettivi limiti ai fini della operatività pratica di sistemi di questo tipo, che d’altra parte scontano anche la necessità di un continuo aggiornamento rispetto alla evoluzione normativa, dunque con non indifferenti difficoltà pratiche e, comunque, con non irrilevanti costi di manutenzione e di gestione[30]. 

Un secondo modello è, invece, di tipo induttivo, e si basa su algoritmi che correlano i dati forniti o acquisti al fine di estrarne la “regola” di giudizio e quindi produrre, e nel caso dell’esercizio di pubbliche funzioni è ancora (più) corretto dire “proporre”, una decisione[31]. L’intelligenza artificiale che si basa su algoritmi di questo tipo viene comunemente definita (di) machine learning, e può in effetti a sua volta variamente articolarsi in diverse tipologie, che variano, tra l’altro, con riguardo al ruolo dell’uomo nell’“addestrare” la macchina fornendo i primi dati, o nella più o meno profonda capacità dell’algoritmo di acquisirne di altri e di diversi. Tuttavia, c’è appunto una caratteristica comune per tutti gli algoritmi di questo tipo, ed è quella di determinarsi “autonomamente” a partire da regole estratte da (un insieme di) dati, ed è qui che risiede la differenza profonda di questi algoritmi rispetto a quelli deterministici prima analizzati. In questi la “regola” è indicata dall’uomo, e l’apporto autonomo dell’intelligenza artificiale risiede nella elaborazione di una mole di dati così imponente da non riuscire possibile alla intelligenza umana, di modo anzi che proprio l’evoluzione del moltiplicatore di questi conduce ad esiti non preventivabili né prevedibili dall’intelletto umano. Nel machine learning, invece, l’uomo disegna il funzionamento dell’algoritmo ma non la regola di giudizio concreta, creata invece dall’operatività della macchina e che spesso nella sua evoluzione

pratica risulta sconosciuta o incomprensibile anche agli stessi programmatori dell’algoritmo[32].

Il fenomeno in ultimo descritto, comunemente noto come black box, costituisce una delle principali criticità riferite all’intelligenza artificiale, che si concretizza nella opacità dei suoi meccanismi di funzionamento, opacità che è anzi tanto più accentuata quanto più vi è accuratezza ed efficienza nelle valutazioni della macchina[33]. Nel contesto dell’esercizio delle pubbliche funzioni, dove il dovere di motivazione costituisce una regola che per l’esercizio della funzione giurisdizionale assume anche una matrice costituzionale, l’impossibilità di spiegare pienamente le modalità dell’esercizio del potere si rappresenta come un limite rilevante, solo parzialmente “emendabile” dall’intervento umano, che può certo acquisire e motivare circa gli esiti dei risultati pervenuti dalla macchina, ma che non rimane in grado di percepire e spiegare compiutamente il ragionamento agli stessi presupposto. Né peraltro, e sostanzialmente per le stesse ragioni, sono ad oggi utili gli sviluppi del natural language processing, idonei a “tradurre” nel linguaggio umano sempre (ma solo) gli esiti del processo decisionale, ma non le effettive modalità del suo svolgimento[34]. 

Più in generale, entrambe le modalità di funzionamento dell’intelligenza artificiale prima descritte, mantengono il limite, evidenziato in premessa, di operare nell’ambito di un contesto giuridico che è (già un dato) derivante dal pregresso esercizio dell’attività giurisdizionale, senza quindi promuoverne l’evoluzione e, anzi, mantenendola (per definizione) “ferma”[35]. Questa prospettiva, è forse appena il caso di evidenziarlo, non muta nemmeno se, come è doveroso quando ad essere interessate sono funzioni essenziali dello Stato come quella amministrativa o giurisdizionale, si assuma che nulla le macchine (che della intelligenza artificiale fanno uso) possono concretamente decidere, dovendo infatti, e necessariamente, l’intervento umano eventualmente trasporre sul piano della produzione degli effetti giuridici i risultati che queste rendono disponibili[36].

Infatti, laddove i giudici (ma un discorso analogo può essere fatto con riferimento a qualsiasi funzionario pubblico) ne recepissero supinamente gli esiti, ed è agevole pensare che così accadrà per la comodità del decidere che ne consegue o al fine di alleggerirsi dal peso delle responsabilità, se ne avrà come conseguenza una cristallizzazione della giurisprudenza che sarebbe per ciò insensibile al cambiamento richiesto dai mutamenti sociali ed economici[37]. Al contrario, a una reiterata avversione per i risultati prodotti dalle macchine conseguirebbe una generale delegittimazione dell’intelligenza artificiale, della quale verrebbe meno ogni considerazione di utilità, dal che l’ulteriore conseguenza di interrompere ogni investimento di risorse umane ed economiche al riguardo[38].

Tuttavia, sia pure doverosamente mantenendo il canone dell’autonomia di giudizio in capo agli organi giurisdizionali, le utilità dell’intelligenza artificiale nell’ambito della giustizia possono già adesso essere ritenute effettive, ed oltretutto non poco rilevanti. Le prospettive, e per molti aspetti l’attualità, di una giustizia tecnologicamente assistita, in cui la macchina offra un sostegno al giudicante senza (ambire a) sostituirlo, possono infatti essere determinanti ai fini di una giustizia più giusta ed efficiente[39]. Così, l’uso dell’intelligenza artificiale potrebbe, tra le altre cose, dimostrarsi di estrema utilità laddove al fine di selezionare i fatti e i precedenti (maggiormente) rilevanti per la decisione da rendere nel caso concreto[40], e proprio per il contesto della giustizia amministrativa la creazione di un valido algoritmo al riguardo avrebbe il vantaggio di beneficiare della totale disponibilità delle sentenze dei due gradi di giudizi già per intero raccolte nel portale della giustizia amministrativa[41].

In questo più generale contesto, l’uso dell’intelligenza artificiale nel processo amministrativo dovrebbe peraltro porre questioni più specifiche, che le specificità strutturali del diritto amministrativo indubbiamente determinano. Infatti, essendo questo diritto per lo più caratterizzato da elementi normativi «aperti» all’interno dei quali si sviluppa la discrezionalità dell’amministrazione anche attraverso principi, appare certamente più complicata, ancorché non

impossibile, la predeterminazione del(contenuto de)le decisioni giurisdizionali mediante algoritmi[42]. Risulta quindi presente un profilo di criticità ulteriore, che si somma a quelli che, in termini di principio, la dottrina aveva già avuto occasione di evidenziare[43].

3. Intelligenza artificiale e amministrazione della giustizia amministrativa

L’uso dell’intelligenza artificiale nella giustizia amministrativa come strumento per la risoluzione di controversie di diritto amministrativo impone di transitarne l’impatto all’interno della disciplina del processo amministrativo e dei suoi valori.

Così, laddove non espressamente risolte a livello legislativo, ci si dovrà tra l’altro interrogare sulle effettive utilità dello strumento al cospetto di una disciplina di riferimento assai spesso caratterizzata dall’indeterminatezza come è il diritto amministrativo, sul “valore” che deve assumere il prodotto giudiziario dell’intelligenza artificiale nel processo, sul nucleo intangibile di garanzie che devono essere mantenute integre alle parti ai fini della tutela dei propri diritti nel processo. Non è peraltro esclusa la possibile proposizione di modelli giudiziari per certi aspetti inediti, come potrebbero essere quelli dove il contraddittorio si instaura sugli esiti della decisione robotica, al limite solo per il caso in cui non sia satisfattiva per le parti[44].

Sullo sfondo, restano il ruolo e le attribuzioni del giudice amministrativo che, almeno allo stato dei principi e della normativa esistente, non può mai vedersi esautorato nello svolgimento della sua funzione, ma deve invece mantenere margini di autonomia concreta nella decisione, il che peraltro sembra coessenziale alla stessa esistenza di uno Stato di diritto, dove è appunto nell’ambito della giurisdizione che si tutelano definitivamente i diritti.

Ma pur con questa precisazione, tanto scontata da non meritare tuttavia di essere banalizzata, resta la constatazione per cui il potenziale uso dell’intelligenza artificiale nel processo amministrativo non è questione che riguarda solo ed esclusivamente la singola vicenda processuale, o il regime del processo più in generale. L’intelligenza artificiale (recte un determinato tipo di intelligenza artificiale) che si vuole applicata al processo amministrativo non è strumento né neutro né infungibile, ma è invece prefigurato, realizzato e (in larga) parte “gestito” al di fuori della giurisdizione e dell’esperienza processuale, di modo che le problematiche che al riguardo si pongono sono anche, e anzi soprattutto, problematiche concernenti l’amministrazione della giustizia

amministrativa.

Così, l’eventuale uso dell’intelligenza artificiale nel processo amministrativo si dimostra idoneo a introdurre elementi di collegamento inediti tra amministrazione della giustizia e giurisdizione. Essi possono rilevare autonomamente, e cioè prima e al di fuori dall’esercizio concreto della giurisdizione, come anche dislocarsi al suo interno, in quest’ultimo caso con una proiezione che dal particolare muove verso il generale.

Pare opportuno muovere dall’ultimo aspetto segnalato al fine di problematizzarlo, pur allo stato solo potendo prospettare problemi e alternative, ma non evidentemente «soluzioni», che peraltro concretamente dipenderanno (sia) dalla legislazione eventualmente introdotta (ch)e dagli atti amministrativi presupposti concretamente adottati. Si pensi agli esiti di una controversia giudiziaria basata, parzialmente o per l’intero, sui risultati derivanti dall’uso dell’intelligenza artificiale. Chi se ne duole e volesse avversarla dovrebbe adoperarsi con il comune sistema delle impugnazioni, e quindi limitarsi a contestare la decisione giudiziaria sfavorevole, oppure dovrebbe aggredire (tutti) gli atti presupposti che la strutturazione e la gestione del software dell’intelligenza artificiale concernono, parimenti impugnandoli (con un ricorso autonomo)? Alla perplessità della soluzione, peraltro, si accompagnano molte altre problematiche “accessorie”, tra cui, ad esempio, quella preliminare inerente alla necessità di accedere a materiali spesso tutelati da diritti di proprietà intellettuale ai fini della tutela, o quella degli effetti «generali» di un eventuale annullamento.

Ma la questione veramente centrale è quella che riguarda lo strumento dell’intelligenza artificiale come oggetto, e cioè quale elemento esterno che al processo preesiste. Qui, in realtà, o si ha il caso di una giustizia amministrativa come apparato con a disposizione risorse umane e strumenti per realizzarlo, ovvero occorre procedere al suo acquisto, con tutte le problematiche, procedurali e sostanziali, che pongono gli acquisti pubblici di intelligenza artificiale[45].

Come si è puntualmente evidenziato nella letteratura straniera, le procedure di acquisto di prodotti inerenti l’intelligenza artificiale determinano il contenuto qualitativo dell’oggetto dell’acquisto e la sua operatività, e quindi assumono refluenze sostanzialmente «regolatorie» nell’uso che se ne fa in ambito pubblico[46]. Così, se il software eventualmente utilizzato ai fini della decisione giudiziaria robotica fosse oggetto di acquisto, ne deriverebbe avrebbe una proiezione (in qualche misura) «regolatoria» della contrattualistica pubblica sulla giustizia amministrativa. Anzi, alla luce del

collegamento (funzionale) qui ricostruito tra giustizia e giurisdizione amministrativa se ne avrebbero refluenze concrete proprio rispetto all’esercizio della giurisdizione amministrativa[47].

Data la descritta caratteristica (latu sensu) «regolatoria», in effetti oggi tanto più rilevante nella perdurante assenza di strumenti regolatori ad hoc per l’intelligenza artificiale, le procedure di acquisto di strumenti di intelligenza artificiale applicati al processo, e le corrispondenti modalità di gestione del contratto, dovranno affrontare e risolvere questioni rilevantissime, tra cui la trasparenza circa le modalità attraverso le quali l’algoritmo opera e il bilanciamento con la tutela dei diritti di proprietà intellettuale, la messa in sicurezza e la tutela dei dati, l’uso efficiente dell’algoritmo in ragione della qualità dei dati somministrati[48].

Le prospettive della regolazione europea dell’intelligenza artificiale non elidono le problematiche indicate, ma possibilmente le amplificano. Se la proposta di regolamento in merito fosse approvata così come è allo stato, infatti, gli strumenti di intelligenza artificiale utilizzati in ambito giudiziario, essendo classificati come ad alto rischio, risulterebbero sottoposti a procedure di regolazione e di controllo da parte delle autorità nazionali competenti[49]. Ne deriverebbero per ciò profili inediti di intersezione tra regolazione, «amministrazione» della giustizia e giurisdizione sui quali ci sarà probabilmente molto da riflettere nei tempi a venire.  

[1] Per l’analisi di queste problematiche, e per ulteriori riferimenti, G. Pascuzzi, Il diritto dell’era digitale, Bologna, 2020 (5° ed). Con riguardo specifico alle vicende del diritto amministrativo, invece, R. Cavallo Perin - D.U. Galetta (a cura di), Il diritto dell’amministrazione pubblica digitale, Torino, 2020, qui anche per riferimenti ulteriori. In ultimo L. Torchia, Lo Stato digitale. Una introduzione, Bologna, 2023.   

[2] H. Eidenmüller - G. Wagner, Law by Algorithm, Tübingen, 2021.

[3] Senza pretesa alcuna di completezza, oltre al lavoro monografico di G. Avanzini, Decisioni amministrative e algoritmi informatici. Predeterminazione, analisi predittiva e nuove forme di intellegibilità, Napoli, 2019, basti qui avere presente N. Paolantonio, Il potere discrezionale della pubblica automazione. Sconcerto e stilemi. (Sul controllo giudiziario delle “decisioni algoritmiche”), in Dir. amm., 2021, 813 ss.; G. Carullo, Decisione amministrativa e intelligenza artificiale, in Dir. inf., 2021, 431 ss.; R. Cavallo Perin, Ragionando come se la digitalizzazione fosse data, in Dir. amm., 2020, 305 ss.; D.U. Galetta, Algoritmi, procedimento amministrativo e garanzie: brevi riflessioni, anche alla luce degli ultimi arresti giurisprudenziali in materia, in Riv. it. dir. pubbl. com., 2020, 501 ss., S. Civitarese Matteucci, Umano troppo umano. Decisioni algoritmiche automatizzate e principio di legalità, in Dir. pubbl., 2019, 5 ss.; D.U. Galetta - J.G. Corvalan, Intelligenza artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Federalismi, 2019, 1-22. Per la letteratura straniera, ci si limita qui a indicare D.F. Engstrom - D. Ho, Algorithmic Accountability in the Administrative State, in Yale Journal on Regulation, 2020, 800 ss.; C. Coglianese - D. Leher, Transparency and Algorithmic Governance, in Administrative Law Review, 2019, 1 ss.

[4] Consiglio di Stato, sez. VI, 8 aprile 2019, n. 2270; Consiglio di Stato, sez. VI, 4 febbraio 2020, n. 881. Per un’analisi dei principi che da questa giurisprudenza derivano, E. Carloni, I principi della legalità algoritmica di fronte al giudice amministrativo, in Dir. amm., 2020, 273 ss.

[5] Per la declinazione del principio ed i suoi presupposti concettuali, A.G. Orofino - G. Gallone, L’intelligenza artificiale al servizio delle funzioni amministrative: profili problematici e spunti di riflessione, in Giur. it., 2020, 1738 ss., in particolare 1744 ss.

[6] Cfr. ancora A.G. Orofino - G. Gallone, L’intelligenza artificiale al servizio delle funzioni amministrative: profili problematici e spunti di riflessione, cit., 1745 ss.

[7] E. Carloni, I principi della legalità algoritmica di fronte al giudice amministrativo, cit., 593 ss.

[8] T. Sourdin, Judges, Technology and Artificial Intelligence. The Artificial Judge, Northampton, 2021; A. Garapon - J. Lassègue, La giustizia digitale. Determinismo tecnologico e libertà, Bologna, 2021.

[9] Per le diverse prospettive, cfr. T. Sourdin, Judges, Technology and Artificial Intelligence. The Artificial Judge, cit., 32 ss., 94 ss.

[10] In tema di giustizia amministrativa digitale, in ultimo M. Ramajoli (a cura di), Una giustizia amministrativa digitale?, Bologna, 2023.

[11] Sull’analisi della giustizia amministrativa digitale proprio a partire dal processo amministrativo telematico L. Torchia, La giustizia amministrativa digitale, in M. Ramajoli (a cura di), Una giustizia amministrativa digitale?, cit., 39 ss.; V.F. Gaffurri, Il processo amministrativo telematico, in R. Cavallo Perin - D.U. Galetta (a cura di), Il diritto dell’amministrazione pubblica digitale, cit., 343 ss.   

[12] J. Morison - A. Harkens, Re-engineering Justice? Robot Judges, Computerized Courts and (Semi)Automated Legal Decision-Making, in Legal Studies, 2019, 618 ss.; T. Sourdin, Judges, Technology and Artificial Intelligence. The Artificial Judge, cit., 203 ss.  

[13] L. Torchia, La giustizia amministrativa digitale, cit., 50 ss.; B. Marchetti, Giustizia amministrativa e transizione digitale. Spunti per riflettere su un futuro non troppo lontano, in M. Ramajoli (a cura di), Una giustizia amministrativa digitale?, 59 ss.; P. Piras, Il processo amministrativo e l’innovazione tecnologica. Diritto al giusto processo versus intelligenza artificiale?, in Dir. proc. amm., 2021, 423 ss.

[14] Su questa specifica prospettiva B. Marchetti, Giustizia amministrativa e transizione digitale. Spunti per riflettere su un futuro non troppo lontano, cit., 69 ss.; J. Morison - A. Harkens, Re-engineering Justice? Robot Judges, Computerized Courts and (Semi)Automated Legal Decision-Making, cit., passim.

[15] Per la complessiva problematicità di questo passaggio, cfr. A. Garapon - J. Lassègue, La giustizia digitale. Determinismo tecnologico e libertà, cit., 205 ss. 

[16] Per questa impostazione cfr. A. Santosuosso - G. Sartor, La giustizia predittiva: una visione realistica, in Giur. it., 2022, 1760 ss.

[17] CEPEJ (Commissione Europea per l’efficienza del Consiglio d’Europa), European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their Environment, 2018.

[18] Si vedano gli esempi richiamati in A. Santosuosso - G. Sartor, La giustizia predittiva: una visione realistica, cit., 1776 ss.  

[19] Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica alcuni atti legislativi dell’Unione (COM/2021/206). L’art. 6, par. 2, del regolamento proposto classifica i sistemi di intelligenza artificiale ad alto rischio, e il corrispondente all. III (sistemi ad alto rischio), al par. 8, pone espresso riferimento all’uso dell’intelligenza artificiale nell’amministrazione della giustizia e dei processi democratici, includendovi in particolare “i sistemi di IA destinati ad assistere un’autorità giudiziaria nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti”.

[20] W. Barfield - U. Pagallo, Law and Artificial Intelligence, Cheltenham, 2020, 1 ss.  

[21] G. Zaccaria, Mutazioni del diritto: innovazione tecnologica e applicazioni predittive, in Ars interpretandi, 2021, 29 ss.; W. Barfield - U. Pagallo, Law and Artificial Intelligence, cit. 5 ss.

[22] A. Santosuosso - G. Sartor, La giustizia predittiva: una visione realistica, cit., 1763.

[23] G. Zaccaria, Mutazioni del diritto: innovazione tecnologica e applicazioni predittive, cit., 32 ss.

[24] Il primo elemento che si intende evidenziare, quindi, è quello per cui non ci si può limitare alla scelta dell’intelligenza artificiale nel processo amministrativo, occorrendo invece scegliere quale tipo di intelligenza artificiale utilizzare, e dunque ancora con quale software (e con quale operatore, etc.) implementarla. Successivamente, occorrerà provvedere alla gestione (continua) del flusso dei dati per il programma (così per come) acquistato, ed è chiaro che si tratta di questioni presupposte che sono, e per parte restano, esterne al processo, per ciò occorrendo «amministrarle». Su di che si veda ancora infra nel testo, con particolare riferimento al paragrafo a questo successivo.

[25] E. Battelli, La giustizia predittiva, decisione robotica e ruolo del giudice, in Giust. civ., 2020, 281 ss., anche per riferimenti ulteriori rispetto agli argomenti di cui al testo.

[26] Una spiegazione chiara del funzionamento di questo tipo di modello di intelligenza artificiale la si ritrova in H. Surden, Artificial Intelligence and Law: an Overview, in Georgia State University Law Review, 1305 ss., specificamente 1316 ss. 

[27] Che però certo non (interamente) confluiscono negli sviluppi dell’intelligenza artificiale, cfr. ancora A. Santosuosso - G. Sartor, La giustizia predittiva: una visione realistica, cit., 1763 ss.

[28] Un’applicazione di questo modello mi sembra rinvenibile in L. Viola, Overruling e giustizia predittiva, Milano, 2020, 109 ss., 155 ss.

[29] Cfr. nuovamente G. Zaccaria, Mutazioni del diritto: innovazione tecnologica e applicazioni predittive, cit., anche per il momento di confronto tra le ambiguità del linguaggio giuridico e la non ambiguità del linguaggio informatico, ivi, 41 ss. 

[30] A. Santosuosso - G. Sartor, La giustizia predittiva: una visione realistica, cit., 1767.

[31] H. Surden, Artificial Intelligence and Law: An Overview, cit., 1311 ss.

[32] H. Surden, Machine Learning and Law, in Washington Law Review, 2014, 87 ss., ivi per riferimenti ulteriori.

[33] Cfr. da ultimo B. Brożek, M. Furman, M. Jakubiec, The Black Box Problem Revisited. Real and Imaginary Challenges for Automated Legal Decision Making, in Artificial Intelligence and Law, 2023, 1-14.  

[34] Come esattamente osservato da B. Marchetti, Giustizia amministrativa e transizione digitale. Spunti per riflettere su un futuro non troppo lontano, cit., 75, dove si evidenzia sia il profilo della inesplicabilità del «ragionamento» della macchina, sia la questione, più specifica, sul se la motivazione possa a questo punto consistere nella più generale spiegazione del funzionamento dell’algoritmo piuttosto che nella (spiegazione della) sua applicazione al caso concreto. In termini alternativi, si osserva ancora, la motivazione potrebbe sempre rimanere nella piena disponibilità del giudice, il quale però dovrebbe autonomamente motivare rispetto al risultato dell’algoritmo, che a questo punto dovrebbe essere però inteso come fatto-evento piuttosto che in sé come attività.

[35] Nel senso che non si promuove un ragionamento evolutivo ma invece, o si applica una regola predeterminata che l’algoritmo sviluppa (ed è il caso degli algoritmi c.d. deterministici), ovvero si estrae una regola (inferenziale) da casi già decisi che successivamente si applica (ed è il caso degli algoritmi basati sul machine learning), ed in entrambi i casi si ha per ciò l’impossibilità di acquisire soluzioni giuridiche nuove, diverse, migliori. Cfr. ancora G. Zaccaria, Mutazioni del diritto: innovazione tecnologica e applicazioni predittive, cit., 42 ss. Si veda anche R. Crootof, “Cyborg Justice” and the Risk of Technological-Legal Lock-in, in Columbia Law Review Forum, 2019, 233 ss. 

[36] G. Gallone, Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione decisionale tra procedimento e processo, Milano, 2023, 212 ss.

[37] Quindi con l’ormai noto rischio del c.d. «effetto gregge», cfr. A. Garapon - J. Lassègue, La giustizia digitale. Determinismo tecnologico e libertà, cit., 171 ss., 205 ss.

[38] T. Sourdin, Judges, Technology and Artificial Intelligence. The Artificial Judge, cit., 132 ss.

[39] A. Punzi, Difettività e giustizia aumentata. L’esperienza giuridica e la sfida dell’umanesimo digitale, in Ars Interpretandi, 2021, 113 ss., 118 ss.  

[40] A. Punzi, Difettività e giustizia aumentata. L’esperienza giuridica e la sfida dell’umanesimo digitale, cit. 124 ss., dove si pone riferimento a una “giustizia tecnologicamente assistita”. In questi termini, nella letteratura straniera, T. Sourdin, Judges, Technology and Artificial Intelligence. The Artificial Judge, cit., 128 ss., ma anche 232 ss. per l’utilizzazione dell’intelligenza artificiale nella ricerca e nell’uso dei precedenti.

[41] P. Piras, Il processo amministrativo e l’innovazione tecnologica. Diritto al giusto processo versus intelligenza artificiale?, cit., 487. Da qui, precisamente, le prospettive computazionali che sull’intelligenza artificiale si basano; su di che, per tutti, si veda K.D. Ashley, Artificial Intelligence and Legal Analytics, Cambridge, 2019. 

[42] In questi termini F. Patroni Griffi, La decisione robotica e il giudice amministrativo, in A. Carleo (a cura di), Decisione robotica, Bologna, 2019, 165 ss., 170 ss., 172. Nella stessa direzione, ancorché in termini più generali, L. Torchia, La giustizia amministrativa digitale, cit., 50 ss.

[43] Cfr. M. Luciani, La decisione giudiziaria robotica, in A. Carleo (a cura di), Decisione robotica, cit., 63 ss. 

[44] Come si legge da M. Maugeri, I robot e la possibile «prognosi» delle decisioni giudiziali, in A. Carleo (a cura di), Decisione robotica, cit., 159 ss. 

[45] Potendo al momento avere solo riferimenti nella letteratura straniera, cfr. D.S. Rubenstein, Acquiring Ethical AI, in Florida Law Review, 2021, 747 ss.    

[46] In questo senso C. Coglianese - E. Lampmann, Contracting for Algoritmic Accountability, in Administrative Law Review, 2021, 175 ss., ma in particolare 181 ss. Cfr. anche D.K. Mulligan - K.A. Bamberger, Procurement as Policy: Administrative Process for Machine Learning, in Berkeley Technology Law Journal, 2019, 773 ss.   

[47] In termini generali, E. Vincenti, Il «problema» del giudice-robot, in A. Carleo (a cura di), Decisione robotica, cit., 111 ss., ritiene che la costruzione degli algoritmi da utilizzare nelle sedi giudiziarie sarebbe “una questione eminentemente politica, una «questione di potere»”, ivi, 119.   

[48] B. Marchetti, Giustizia amministrativa e transizione digitale. Spunti per riflettere su un futuro non troppo lontano, cit., 77 ss.

[49] Cfr. ancora l’art. 6, e il corrispondente all. III, della Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica alcuni atti legislativi dell’Unione (COM/2021/206).