Governare le migrazioni nell'era algoritmica:

frontiere intelligenti, biometria e tutela dei diritti fondamentali

Di Rosa Lorusso*

Abstract

La progressiva digitalizzazione delle politiche migratorie europee ha modificato la stessa configurazione giuridica della frontiera, sempre meno riconducibile a un mero limite territoriale e sempre più strutturata come un’infrastruttura amministrativa fondata sull’interoperabilità delle banche dati, sul trattamento di informazioni biometriche e sull’impiego di sistemi algoritmici di analisi, identificazione e valutazione del rischio. Muovendo da tale trasformazione, il contributo indaga le condizioni alle quali l’ampliamento delle capacità conoscitive e decisionali dell’amministrazione possa rimanere compatibile con la tutela dei diritti fondamentali e con i principi dello Stato di diritto. Dopo aver ricostruito le principali garanzie dell’amministrazione algoritmica, l’analisi si concentra sull’architettura digitale europea delle migrazioni, con particolare riferimento a ETIAS, Eurodac, interoperabilità, riconoscimento facciale e al caso italiano S.A.R.I. L’indagine evidenzia come opacità, errori, discriminazioni algoritmiche, estensione del controllo biometrico e dispersione della responsabilità non costituiscano mere criticità tecniche, ma questioni direttamente incidenti sulla legalità dell’esercizio del potere pubblico. Alla luce del Regolamento (UE) 2024/1689 e del più ampio sistema europeo di protezione dei dati e dei diritti fondamentali, il contributo sostiene la necessità di un modello di frontiera digitale antropocentrico, fondato su legalità, proporzionalità, trasparenza, minimizzazione, supervisione umana effettiva, motivazione e accessibilità dei rimedi. La tecnologia può rafforzare la capacità amministrativa, ma non può determinare un arretramento delle garanzie né attenuare la piena imputabilità delle decisioni all’autorità pubblica.

Parole chiave: intelligenza artificiale; migrazioni; frontiere digitali; biometria; riconoscimento facciale; Eurodac; diritti fondamentali; amministrazione algoritmica.

The progressive digitalisation of European migration policies has reshaped the legal configuration of the border itself, which can no longer be understood merely as a territorial boundary but increasingly operates as an administrative infrastructure based on interoperable databases, biometric data processing and algorithmic systems for analysis, identification and risk assessment. Against this background, the article examines the conditions under which the expansion of public authorities’ informational and decision-making capacities can remain compatible with fundamental rights and the rule of law. After outlining the main safeguards applicable to algorithmic administration, the analysis focuses on the digital architecture of European migration governance, with particular reference to ETIAS, Eurodac, interoperability, facial recognition and the Italian S.A.R.I. system. The article argues that opacity, errors, algorithmic discrimination, the expansion of biometric surveillance and the fragmentation of responsibility are not merely technical shortcomings, but issues directly affecting the legality of public power. In light of Regulation (EU) 2024/1689 and the broader European framework for data protection and fundamental rights, the contribution advocates a human-centred model of the digital border based on legality, proportionality, transparency, data minimisation, effective human oversight, reason-giving and accessible remedies.. Technological innovation may enhance administrative capacity, ________________________________________________

*Collaboratore Amministrativo ASL ROMA 1 - Abilitata all'esercizio della professione forense

but it cannot justify a weakening of legal safeguards or diminish the full accountability of public authorities for the decisions taken.

Keywords: artificial intelligence; migration; digital borders; biometrics; facial recognition; Eurodac; fundamental rights; algorithmic administration.

Sommario: 1. Dalla frontiera territoriale alla frontiera algoritmica - 2. Amministrazione algoritmica e garanzie dello Stato di diritto - 3. La governance digitale delle migrazioni nell'Unione europea - 4. Il corpo come dato: biometria e identificazione del migrante - 5. Riconoscimento facciale e potere amministrativo - 6. Il caso S.A.R.I.: sicurezza, sorveglianza e principio di legalità - 7. Le garanzie europee nell'impiego dei sistemi biometrici - 8. Conclusioni: verso una frontiera digitale antropocentrica

1. Dalla frontiera territoriale alla frontiera algoritmica

Nel settore delle migrazioni e del controllo delle frontiere, la digitalizzazione dell'azione amministrativa ha assunto una intensità particolarmente significativa, fino a modificare la stessa fisionomia della frontiera europea. Quest'ultima non coincide più soltanto con la linea territoriale che separa lo spazio dell'Unione dall'esterno, ma tende progressivamente a configurarsi come un ambiente amministrativo diffuso, nel quale identità, mobilità e rischio vengono conosciuti e governati attraverso dati, banche informative interoperabili e procedure automatizzate.[1]

Questa trasformazione non rappresenta un fenomeno isolato, ma si colloca all’interno del più ampio processo evolutivo che ha condotto dall’amministrazione digitale all’amministrazione algoritmica. In questo nuovo assetto, il dato non svolge più soltanto una funzione documentale all’interno del procedimento amministrativo, ma assume un ruolo propriamente conoscitivo, divenendo uno degli strumenti attraverso cui l’amministrazione interpreta la realtà e orienta la propria azione. Le informazioni raccolte possono infatti essere utilizzate per classificare situazioni, individuare correlazioni, formulare previsioni e supportare l’assunzione delle decisioni. Ne consegue che anche le modalità di esercizio del potere amministrativo tendono progressivamente a trasformarsi: accanto alla valutazione dell’operatore umano assumono crescente rilievo infrastrutture e sistemi tecnologici capaci di selezionare i dati ritenuti rilevanti, ordinarli secondo determinati criteri e contribuire, in tal modo, alla definizione delle priorità e degli elementi sui quali si fonda la decisione pubblica.[2]

Nelle politiche migratorie questa evoluzione è resa particolarmente visibile dall’interoperabilità dei sistemi informativi europei. Le informazioni raccolte in momenti differenti - prima dell'ingresso, durante l'attraversamento della frontiera, nella fase di identificazione o nell'ambito di successive procedure amministrative - possono infatti concorrere alla costruzione di un'identità digitale del soggetto. Si realizza, in tal modo, una progressiva datificazione della mobilità, nella quale il movimento della persona viene tradotto in una sequenza di eventi informativi suscettibili di essere confrontati, conservati e riutilizzati.[3] All’interno di questa trasformazione si sviluppa la nozione di smart border, o frontiera intelligente. Con tale espressione si fa riferimento a un modello di controllo delle frontiere che non si esaurisce più nel momento fisico dell’attraversamento del confine, ma si fonda sull’impiego integrato di banche dati, sistemi biometrici, procedure automatizzate e strumenti di analisi del rischio. La frontiera assume, così, una dimensione più ampia e dinamica: il controllo può iniziare già prima dell’arrivo della persona nel territorio dell’Unione, attraverso la raccolta e l’elaborazione preventiva di informazioni, proseguire al momento dell’ingresso mediante verifiche documentali e biometriche e continuare anche successivamente, attraverso l’interoperabilità dei sistemi informativi e il riutilizzo dei dati acquisiti.

L’obiettivo dichiarato di questo modello è rendere i controlli più rapidi, efficienti e selettivi, consentendo alle autorità di individuare preventivamente le situazioni che richiedono ulteriori verifiche. La frontiera cessa, pertanto, di coincidere esclusivamente con una linea territoriale e tende a configurarsi come un processo amministrativo continuo, nel quale la persona viene progressivamente identificata, classificata e valutata attraverso le informazioni che la riguardano.[4]

Proprio l'estensione temporale e funzionale di tali strumenti rende evidente come il loro impiego non sia giuridicamente neutrale. Quanto più l'infrastruttura digitale incide sulla possibilità di entrare, restare, essere identificati o accedere a una procedura, tanto più assumono rilievo la qualità dei dati utilizzati, la trasparenza dei criteri applicati, la possibilità di contestare l'esito e la chiara individuazione del soggetto responsabile. Le tecnologie biometriche e il riconoscimento facciale accentuano ulteriormente questa esigenza, poiché trasformano caratteristiche corporee tendenzialmente permanenti in identificatori suscettibili di essere utilizzati dall'amministrazione.[5]

La questione centrale, dunque, non è stabilire se la tecnologia debba essere esclusa dalla gestione delle migrazioni, quanto piuttosto definire le condizioni entro le quali essa possa essere utilizzata senza alterare l'equilibrio tra potere amministrativo e tutela della persona. In un settore nel quale il destinatario dell'azione pubblica può trovarsi in una condizione di particolare vulnerabilità, l'efficienza non può assumere il valore di parametro autosufficiente. La digitalizzazione deve, al contrario, rimanere saldamente ancorata ai principi di legalità, proporzionalità e non discriminazione, nonché alle garanzie poste a tutela dei dati personali e del diritto a una decisione comprensibile, motivata e suscettibile di controllo. Da questa esigenza discende la necessità di individuare con precisione le garanzie che devono accompagnare l’esercizio del potere pubblico nell’ambito dell’amministrazione algoritmica.[6]

2. Amministrazione algoritmica e garanzie dello Stato di diritto

Il passaggio dalla frontiera territoriale alla frontiera algoritmica non comporta il superamento delle categorie tradizionali del diritto pubblico; al contrario, ne rende ancora più urgente la precisazione. Legalità, imparzialità, buon andamento, motivazione e responsabilità continuano a costituire i parametri attraverso i quali deve essere valutato l'esercizio del potere, anche quando una parte dell'istruttoria, della selezione delle informazioni o della valutazione preliminare sia affidata a un sistema automatizzato.

In tale prospettiva, la giurisprudenza amministrativa italiana ha progressivamente definito, a partire dal rapporto tra procedimento e algoritmo, un insieme di garanzie destinate a conservare piena rilevanza anche nell’attuale fase di evoluzione tecnologica. La conoscibilità del meccanismo utilizzato, la comprensibilità dei criteri applicati, la non esclusività della decisione automatizzata e la piena imputabilità dell’atto all’autorità titolare del potere costituiscono, infatti, condizioni imprescindibili affinché l’impiego di strumenti algoritmici resti pienamente ricondotto ai principi che governano l’azione amministrativa. In questa direzione si collocano le sentenze del Consiglio di Stato n. 2270 del 2019, n. 8472 del 2019 e n. 881 del 2020, le quali hanno chiarito che l’algoritmo non rappresenta uno spazio sottratto al diritto, bensì uno strumento tecnico attraverso cui l’amministrazione continua a esercitare una funzione pubblica giuridicamente disciplinata e, come tale, conoscibile, controllabile e sindacabile.[7]

Tra tali garanzie, la trasparenza incontra una delle difficoltà più rilevanti nell'opacità algoritmica. Nei sistemi fondati su machine learning e deep learning, infatti, il percorso che conduce dall'input all'output può risultare difficilmente ricostruibile anche quando il codice sia formalmente accessibile. Per questa ragione, la trasparenza non può essere ridotta alla mera disponibilità del software o della documentazione tecnica, ma deve tradursi nella possibilità di comprendere quali dati siano stati utilizzati, quali fattori abbiano inciso sull'esito e quale ruolo concreto l'output abbia svolto all'interno del procedimento.[8]

L'opacità, peraltro, non rappresenta l'unico rischio. Ad essa si collega strettamente il problema dei bias, poiché i sistemi di intelligenza artificiale apprendono o operano su dati prodotti da contesti sociali e istituzionali concreti. Dataset incompleti, sbilanciati o segnati da disuguaglianze pregresse possono così tradursi in classificazioni che riproducono tali distorsioni, conferendo loro un'apparenza di oggettività tecnica. Nel campo migratorio, dove nazionalità, provenienza geografica, lingua e precedenti percorsi amministrativi possono assumere rilievo nei sistemi di rischio, la distinzione tra selezione legittima e discriminazione indiretta richiede quindi una particolare cautela.[9] Alle possibili distorsioni del processo decisionale si aggiunge, inoltre, il problema dell'accountability. L'impiego di tecnologie complesse tende infatti a distribuire la catena decisionale tra amministrazione, fornitore, progettista, gestore della banca dati e operatore chiamato a utilizzare il risultato. Tale pluralità di soggetti, tuttavia, non può trasformarsi in una dispersione della responsabilità: l'amministrazione che sceglie di avvalersi del sistema resta tenuta a dimostrare la conformità del trattamento e dell'azione amministrativa ai principi applicabili, a documentarne le modalità di utilizzo e a predisporre controlli adeguati.[10]

Proprio per evitare che la complessità tecnologica determini una progressiva deresponsabilizzazione, assume un ruolo centrale la supervisione umana. Il controllo dell'operatore non può essere meramente formale né limitarsi alla convalida dell'output, ma deve tradursi nella concreta capacità di interpretare il risultato, verificarne la pertinenza, rilevare eventuali anomalie, discostarsene quando necessario e assumere la responsabilità della decisione finale. In mancanza di tali condizioni, la presenza umana rischierebbe di ridursi a una finzione procedurale, favorendo il cosiddetto automation bias, ossia la tendenza ad attribuire al risultato della macchina un'affidabilità superiore a quella che esso effettivamente possiede.[11] La necessità di un controllo effettivo diviene ancora più stringente quando l'algoritmo interviene nelle attività di valutazione del rischio. In questi casi l'automazione non elimina la discrezionalità, ma tende piuttosto a spostarla a monte, nella selezione delle variabili, nella costruzione delle soglie, nell'addestramento del modello e nella definizione dei criteri di allerta. Le scelte incorporate nella tecnologia devono, pertanto, restare conoscibili e riconducibili all'autorità pubblica, soprattutto quando sono idonee a incidere sull'esercizio di diritti o sull'accesso a procedure amministrative.[12] All’interno di questo quadro di garanzie si colloca il Regolamento (UE) 2024/1689, che consolida l’approccio europeo mediante un modello di regolazione fondato sul rischio. L’allegato III ricomprende tra i sistemi ad alto rischio, nel settore della migrazione, dell’asilo e della gestione delle frontiere, quelli destinati alla valutazione dei rischi relativi alle persone, al supporto nell’esame delle domande di asilo, di visto o di permesso di soggiorno – comprese le valutazioni connesse all’affidabilità delle prove – nonché all’individuazione o all’identificazione delle persone nel contesto migratorio, nei limiti in cui tali impieghi siano consentiti dal diritto dell’Unione o dal diritto nazionale. La disciplina europea recepisce così, sul piano normativo, molte delle esigenze di trasparenza, responsabilità e supervisione umana già richiamate, traducendole in specifici obblighi destinati a governare l’impiego dei sistemi di intelligenza artificiale nei settori maggiormente esposti al rischio di incidenza sui diritti fondamentali. [13]

3. La governance digitale delle migrazioni nell'Unione europea

Le garanzie appena richiamate acquistano una dimensione concreta osservando l'architettura della frontiera intelligente europea, costruita attraverso l'integrazione di strumenti differenti, ciascuno caratterizzato da finalità e basi normative proprie. Il tratto comune è rappresentato dalla progressiva anticipazione e distribuzione del controllo: la verifica amministrativa può iniziare prima dell'arrivo, proseguire al momento dell'ingresso e alimentare, successivamente, banche dati e procedure utilizzate per la gestione della permanenza o per finalità di sicurezza. La frontiera assume così la forma di un'infrastruttura multilivello, più che di un singolo momento di attraversamento.[14]

All’interno di questa architettura, il sistema europeo di informazione e autorizzazione ai viaggi costituisce uno degli esempi più significativi di controllo amministrativo anticipato. Istituito dal Regolamento (UE) 2018/1240 e destinato ai cittadini di Paesi terzi esenti dall’obbligo di visto, esso si fonda su un procedimento strutturato di verifica delle informazioni volto a individuare eventuali rischi connessi alla sicurezza, all’immigrazione irregolare o alla salute pubblica. Pur non configurandosi come una procedura di protezione internazionale, tale meccanismo mostra con particolare evidenza come l’accesso allo spazio europeo possa essere progressivamente condizionato da controlli automatizzati, indicatori predeterminati e processi di preselezione fondati sull’elaborazione dei dati.[15] Il suo rilievo giuridico non deriva, dunque, soltanto dal grado di automazione che caratterizza il procedimento, ma soprattutto dall’incidenza che la preselezione algoritmica può esercitare sull’attività dell’autorità competente. [16] La segnalazione di un rischio o di una possibile corrispondenza è infatti suscettibile di orientare le successive verifiche amministrative e di incidere concretamente sulla posizione dell’interessato. Ne consegue che il ricorso a tali strumenti deve essere accompagnato da garanzie idonee ad assicurare la comprensibilità dell’esito, la possibilità di verificarne i presupposti e l’effettiva contestabilità della decisione, in coerenza con il diritto a una buona amministrazione e con il diritto a un ricorso effettivo.[17]

Se tali esigenze valgono per le decisioni relative all'accesso allo spazio europeo, esse acquistano un'intensità ancora maggiore quando gli strumenti digitali incidono sull'accesso alla protezione internazionale. L'utilizzo di sistemi automatizzati non può infatti trasformarsi in un ostacolo alla presentazione della domanda né compromettere il principio di non-refoulement. Le garanzie previste dagli artt. 18 e 19 della Carta e dalla Convenzione di Ginevra impongono, al contrario, che la tecnologia rimanga funzionale all'azione amministrativa e non si trasformi in un filtro capace di rendere di fatto inaccessibile la tutela.[18]

Accanto a ETIAS, un ruolo centrale nell'infrastruttura digitale europea è svolto da Eurodac. Il Regolamento (UE) 2024/1358 ha profondamente riformato il sistema, ampliandone le funzioni rispetto al tradizionale collegamento con il meccanismo di determinazione dello Stato competente per l'esame della domanda. Eurodac è oggi configurato come un'infrastruttura per il confronto dei dati biometrici, utilizzata anche per l'identificazione di cittadini di Paesi terzi e apolidi in soggiorno irregolare e, a determinate condizioni, per richieste di confronto formulate dalle autorità di contrasto e da Europol.[19] La riforma segna, dunque, un ulteriore avanzamento della dimensione biometrica del controllo migratorio. L'ampliamento delle categorie di dati trattati e la crescente integrazione delle immagini del volto rendono evidente il passaggio da un sistema prevalentemente basato sulle impronte digitali a un'infrastruttura biometrica più articolata. Se la possibilità di collegare informazioni provenienti da sistemi differenti accresce la capacità conoscitiva dell'amministrazione, essa aumenta al tempo stesso il rischio di riutilizzi incompatibili con la finalità originaria, di errori di corrispondenza e di effetti di sorveglianza cumulativa.

Questa evoluzione tecnologica si inserisce, peraltro, nel più ampio quadro delineato dal nuovo Patto europeo sulla migrazione e l'asilo, nel quale la dimensione di frontiera assume un rilievo crescente. Il Regolamento (UE) 2024/1348 stabilisce la procedura comune per la protezione internazionale nell'Unione e conferma che la tecnologia, pur assumendo un ruolo sempre più incisivo nelle fasi di identificazione, registrazione e interoperabilità, non può sostituire le garanzie procedurali previste dal legislatore. Al contrario, proprio la crescente centralità degli strumenti digitali rende ancora più necessario assicurarne l'integrazione all'interno di un procedimento giuridicamente governato.[20]

L'identificazione di un soggetto, l'attribuzione di un indicatore di rischio, la segnalazione di una corrispondenza biometrica o la selezione di una pratica per un controllo ulteriore non costituiscono operazioni puramente tecniche, poiché producono conseguenze procedimentali e possono modificare concretamente la posizione dell'interessato. Ne deriva che le garanzie tipiche del procedimento devono accompagnare il dato lungo l'intero ciclo di vita, dalla raccolta al successivo utilizzo.

4. Il corpo come dato: biometria e identificazione del migrante

Nel sistema appena descritto, il dato biometrico occupa una posizione particolare, poiché consente di identificare o verificare l'identità di una persona attraverso caratteristiche fisiche, fisiologiche o comportamentali sottoposte a uno specifico trattamento tecnico. La sua peculiarità giuridica risiede nel legame diretto con la dimensione corporea dell'individuo: a differenza di molte credenziali tradizionali, infatti, il dato biometrico non può essere agevolmente sostituito in caso di compromissione e accompagna stabilmente la persona cui si riferisce.[21] L'uso della biometria nella gestione delle migrazioni si comprende alla luce delle esigenze di identificazione, prevenzione delle identità multiple, collegamento delle informazioni e sicurezza. Proprio l'utilità di tali strumenti, tuttavia, rende necessario definire con particolare rigore i limiti del loro impiego. La strutturale asimmetria tra amministrazione e persona può infatti impedire all'interessato di conoscere pienamente l'architettura tecnica, le finalità ulteriori o i possibili riutilizzi del dato; a ciò possono aggiungersi difficoltà linguistiche, condizioni personali o situazioni di vulnerabilità che rendono ancora più complesso l'esercizio dei diritti.

La proporzionalità, tuttavia, non esaurisce le questioni poste dall’impiego della biometria. La trasformazione del corpo in informazione digitale incide, infatti, sulla natura stessa dell’identificazione, poiché caratteristiche strettamente connesse alla dimensione fisica della persona vengono tradotte in dati suscettibili di elaborazione, conservazione e confronto automatizzato. Nel procedimento tradizionale l’operatore confronta documenti, dichiarazioni e immagini; nei sistemi biometrici, invece, la corrispondenza è il risultato di un processo automatizzato che può restituire una probabilità o un punteggio di similarità. L’esito tecnico non può, pertanto, essere automaticamente assunto come una verità giuridica, ma deve essere inserito nel contesto concreto, sottoposto a verifica e ricondotto a una chiara attribuzione della responsabilità decisionale.[22]

La medesima dinamica emerge con particolare evidenza in Eurodac, che rappresenta uno degli esempi più significativi di raccolta e confronto dei dati biometrici su scala europea. La riforma del 2024, ampliando le categorie di informazioni trattate e rafforzando la centralità delle immagini del volto, accresce sensibilmente le potenzialità operative dell’infrastruttura. A tale ampliamento corrisponde, tuttavia, il rischio del cosiddetto function creep, vale a dire della progressiva estensione dell’utilizzo dei dati a finalità ulteriori rispetto a quelle che ne avevano originariamente giustificato la raccolta. La crescita delle capacità tecniche dell’amministrazione deve, di conseguenza, essere accompagnata da un altrettanto rigoroso controllo sulla permanenza della base giuridica, sulla compatibilità delle finalità perseguite e sulla proporzionalità di ogni successivo utilizzo.[23]

L’ampliamento dei poteri conoscitivi dell’amministrazione rende, inoltre, particolarmente rilevante la dimensione informativa della tutela. La persona interessata deve essere posta nelle condizioni di comprendere, secondo modalità adeguate alla propria situazione personale e linguistica, quali dati siano raccolti, per quali finalità vengano utilizzati, per quanto tempo siano conservati e attraverso quali strumenti possano essere esercitati i diritti di accesso, rettifica e contestazione. Tale esigenza assume un rilievo ancora maggiore nel contesto migratorio, caratterizzato da una strutturale asimmetria tra autorità pubblica e individuo e, frequentemente, dalla presenza di condizioni di vulnerabilità. L’informazione non può quindi ridursi a un adempimento formale, ma costituisce uno dei presupposti necessari affinché le garanzie riconosciute dall’ordinamento possano essere esercitate in maniera effettiva.[24]

La biometria, pertanto, non può essere considerata semplicemente come una tecnica più accurata di identificazione. Attraverso la trasformazione delle caratteristiche corporee in informazioni digitali, essa amplia in misura significativa la capacità dell’amministrazione di conoscere, identificare e seguire nel tempo l’individuo, rendendo possibile una connessione persistente tra la persona e gli archivi nei quali i suoi dati sono conservati. Proprio per questa ragione, il ricorso a tali strumenti deve rimanere assoggettato ai principi di necessità, limitazione della finalità, minimizzazione, sicurezza e controllo degli accessi. Occorre, al contempo, mantenere nettamente distinta la funzione propriamente identificativa da qualsiasi pretesa di ricavare, attraverso l’analisi automatizzata dei tratti corporei o somatici, caratteristiche psicologiche, comportamentali o valutazioni sull’attendibilità della persona prive di un adeguato fondamento scientifico. Simili applicazioni rischierebbero, infatti, di trasformare la correlazione algoritmica in uno strumento di classificazione dell’individuo, riproponendo forme di determinismo difficilmente conciliabili con la centralità della persona e con i principi dello Stato costituzionale di diritto.[25] Proprio in relazione a tali criticità, il riconoscimento facciale rappresenta una delle applicazioni biometriche che richiedono le cautele più rigorose.

5. Riconoscimento facciale e potere amministrativo

Tra le tecnologie biometriche, il riconoscimento facciale costituisce probabilmente la manifestazione più evidente dell'incontro tra intelligenza artificiale, disponibilità di grandi quantità di dati e crescente capacità computazionale. Il sistema ricava dall'immagine del volto una rappresentazione biometrica e la confronta con uno o più modelli di riferimento, secondo modalità che possono essere finalizzate alla verifica dell'identità oppure all'identificazione di una persona all'interno di un insieme più ampio.[26] La crescente efficacia di tali sistemi è strettamente connessa all'evoluzione delle tecniche di machine learning e deep learning, che ne hanno accresciuto in modo significativo le prestazioni. Il miglioramento tecnologico, tuttavia, non ha eliminato i problemi di affidabilità; al contrario, la maggiore complessità dei processi inferenziali rende spesso più difficile comprenderne il funzionamento. Inoltre, la disponibilità di big data consente di addestrare modelli più sofisticati, ma lascia aperte le questioni relative alla qualità dei dataset, alla rappresentatività dei gruppi considerati e alla possibilità che differenze statistiche si traducano in tassi di errore disomogenei.[27]

Il miglioramento prestazionale non attenua, dunque, la particolare invasività del riconoscimento facciale, che sotto il profilo costituzionale deriva soprattutto dalla possibilità di identificare una persona attraverso un tratto corporeo normalmente esposto nello spazio pubblico. Un'immagine acquisita per finalità di videosorveglianza può così trasformarsi in un dato idoneo alla ricerca automatizzata dell'identità, ampliando in misura radicale la capacità dello Stato di seguire e ricostruire spostamenti e presenze. La distinzione tra semplice osservazione e identificazione automatizzata assume, per questa ragione, un preciso valore giuridico.[28]

È alla luce di questi rischi che il quadro europeo distingue tra differenti forme di trattamento biometrico e attribuisce particolare rilievo all'identificazione biometrica remota. L'AI Act disciplina tali sistemi attraverso un insieme di divieti, condizioni e obblighi modulati in funzione del contesto e della finalità perseguita. La stessa articolazione normativa conferma che il riconoscimento facciale non può essere valutato in astratto: la legittimità del suo impiego dipende dal luogo, dal momento, dal numero di persone coinvolte, dalla finalità perseguita e dall'intensità dell'interferenza prodotta sui diritti fondamentali.

A completare questo quadro intervengono gli standard elaborati dal Consiglio d'Europa. La Convenzione n. 108 e il Protocollo di modernizzazione 108+ costituiscono il riferimento convenzionale per la protezione delle persone rispetto al trattamento automatizzato dei dati, mentre le Guidelines on Facial Recognition del 2021 richiamano in modo specifico la necessità di una base giuridica chiara, di controlli indipendenti e di un utilizzo proporzionato delle tecnologie di riconoscimento facciale. Pur provenendo da un ordinamento distinto da quello dell'Unione europea, tali indicazioni convergono quindi sulla centralità delle garanzie.[29]

Nel contesto migratorio, questa convergenza di principi impone un'applicazione particolarmente rigorosa. L'identificazione biometrica può essere funzionale all'accertamento dell'identità, ma non può trasformarsi in uno strumento di categorizzazione della pericolosità o di valutazione della credibilità sulla base di caratteristiche somatiche. Il rischio sarebbe, infatti, quello di confondere una correlazione statistica con una qualità personale e di attribuire alla tecnologia una capacità conoscitiva che essa non possiede.

Da questa premessa deriva la necessità di distinguere con chiarezza tra sistemi che supportano una verifica circoscritta e sistemi che realizzano un controllo esteso e continuativo. Nel primo caso, il trattamento rimane collegato a una specifica esigenza identificativa; nel secondo, la possibilità di analizzare flussi video o grandi archivi determina un impatto qualitativamente diverso sulla libertà individuale e sulla sfera privata. La portata concreta di tale distinzione emerge con particolare evidenza nel caso italiano del Sistema Automatico di Riconoscimento delle Immagini.[30]

6. Il caso S.A.R.I.: sicurezza, sorveglianza e principio di legalità

La distinzione tra forme circoscritte di identificazione biometrica e sistemi capaci di realizzare un controllo esteso e continuativo trova una significativa concretizzazione nell’esperienza italiana del Sistema Automatico di Riconoscimento delle Immagini (S.A.R.I.). Sviluppato nell’ambito delle attività di pubblica sicurezza quale strumento di supporto all’identificazione mediante il confronto automatizzato di immagini, il sistema costituisce un caso di particolare interesse sotto il profilo giuridico, poiché consente di osservare come applicazioni riconducibili alla medesima tecnologia possano assumere caratteristiche profondamente differenti in ragione delle concrete modalità di trattamento e, conseguentemente, determinare un diverso grado di incidenza sui diritti fondamentali.[31] La valutazione giuridica del riconoscimento facciale non può, pertanto, essere condotta in astratto, ma deve necessariamente tenere conto della specifica configurazione attraverso la quale la tecnologia viene inserita nell’esercizio delle funzioni pubbliche.

Una prima modalità di impiego è rappresentata da S.A.R.I. Enterprise, concepito secondo una logica di confronto successivo all’acquisizione dell’immagine. Il sistema consente di comparare il volto di un soggetto ricercato con le immagini presenti negli archivi disponibili, restituendo all’operatore una serie di possibili corrispondenze. L’esito dell’elaborazione non determina, tuttavia, automaticamente l’identificazione della persona, poiché la valutazione conclusiva rimane affidata all’agente di polizia, chiamato a verificare l’attendibilità del risultato prodotto dal sistema. La natura ausiliaria della tecnologia e la permanenza di un effettivo intervento umano hanno assunto particolare rilievo nella valutazione compiuta dal Garante per la protezione dei dati personali con il provvedimento del 26 luglio 2018, n. 440, nel quale non sono state ravvisate criticità tali da precludere l’utilizzo del sistema nella configurazione sottoposta all’Autorità.[32] L’esperienza mostra, sotto questo profilo, come la supervisione umana non costituisca un elemento meramente formale, ma rappresenti uno dei presupposti attraverso i quali il risultato algoritmico viene ricondotto alla responsabilità dell’autorità titolare della funzione.

Profondamente diversa era, invece, la configurazione prevista per S.A.R.I. Real Time. Il progetto avrebbe consentito di analizzare in tempo reale i volti delle persone riprese da telecamere collocate in una determinata area geografica, procedendo al confronto automatizzato con le immagini inserite in una watch list. La differenza rispetto al modello Enterprise non riguardava, dunque, soltanto la rapidità dell’elaborazione, ma investiva soprattutto l’estensione soggettiva del trattamento. Mentre il confronto ex post prende avvio da un’immagine già acquisita e riferita a uno specifico soggetto, l’identificazione biometrica in tempo reale comporta l’elaborazione dei dati di una pluralità potenzialmente indeterminata di persone che transitano nello spazio sottoposto a monitoraggio. Il mutamento quantitativo assume così una rilevanza qualitativa: dalla ricerca di una specifica corrispondenza si passa alla possibilità di sottoporre uno spazio pubblico a una forma di osservazione biometrica generalizzata.[33]

Proprio la diversa intensità dell’interferenza ha orientato la posizione assunta dal Garante che, con il provvedimento del 25 marzo 2021, n. 127, ha espresso parere non favorevole sull’impiego di S.A.R.I. Real Time. L’Autorità ha rilevato, in particolare, l’assenza di una base giuridica sufficientemente determinata per un trattamento automatizzato di dati biometrici avente tali caratteristiche, evidenziando altresì il rischio che il sistema potesse tradursi in una forma di sorveglianza indiscriminata.[34] La vicenda mostra come, in presenza di tecnologie caratterizzate da un’elevata capacità di identificazione e monitoraggio, il principio di legalità non possa essere soddisfatto da una generica autorizzazione all’impiego di strumenti tecnologici. La previsione normativa deve essere sufficientemente precisa da delimitare i presupposti dell’utilizzo, le finalità perseguibili, l’ambito soggettivo e temporale del trattamento e le garanzie predisposte a tutela degli interessati.

Il confronto tra le due configurazioni consente, inoltre, di ricondurre il problema al principio di proporzionalità. La legittimità della finalità perseguita – quale, nel caso di specie, la tutela della sicurezza pubblica – costituisce soltanto il punto di partenza della valutazione. Occorre altresì accertare che la misura sia effettivamente idonea e necessaria rispetto all’obiettivo perseguito e che il medesimo risultato non possa essere conseguito mediante strumenti meno invasivi. La proporzionalità opera, pertanto, come criterio di commisurazione tra l’intensità dell’ingerenza nella sfera individuale e le esigenze pubbliche poste a fondamento del trattamento. Sotto tale profilo, l’identificazione biometrica di una pluralità indeterminata di persone non può essere assimilata, sul piano giuridico, a un confronto puntuale effettuato su un’immagine già acquisita nell’ambito di una specifica attività di polizia.[35]

La rilevanza di questa distinzione oltrepassa l’esperienza nazionale e trova riscontro nell’evoluzione del quadro europeo. Già nel parere congiunto reso nel 2021 sulla proposta di regolamento in materia di intelligenza artificiale, l’European Data Protection Board e l’European Data Protection Supervisor avevano richiamato l’attenzione sulla particolare invasività dei sistemi di identificazione biometrica remota e sui rischi che il loro impiego negli spazi accessibili al pubblico può determinare per la vita privata, la protezione dei dati personali e l’esercizio delle libertà individuali. Il successivo Regolamento (UE) 2024/1689 ha recepito la particolare sensibilità della materia attraverso l’art. 5, sottoponendo l’identificazione biometrica remota in tempo reale negli spazi accessibili al pubblico per finalità di contrasto a un regime particolarmente restrittivo, fondato su un divieto generale accompagnato da deroghe tassativamente individuate e da specifiche condizioni di applicazione.La disciplina europea conferma, quindi, che l’ampiezza e la pervasività del controllo costituiscono elementi decisivi ai fini della valutazione di legittimità della tecnologia.

Indicazioni convergenti provengono dalla giurisprudenza europea in materia di vita privata e protezione dei dati. Pur essendosi sviluppate in ambiti non perfettamente coincidenti con quello del riconoscimento facciale, le pronunce della Corte di giustizia in Digital Rights Ireland, Tele2 Sverige e Watson e La Quadrature du Net hanno progressivamente affermato che, a fronte di interferenze particolarmente gravi e generalizzate nei diritti tutelati dagli artt. 7 e 8 della Carta, devono corrispondere requisiti particolarmente stringenti di necessità, proporzionalità e determinatezza normativa. L’intensità dell’ingerenza richiede, in altri termini, un corrispondente rafforzamento delle garanzie capaci di prevenire utilizzazioni arbitrarie o eccedenti rispetto alle finalità perseguite.[36]

Più direttamente riferibili alla dimensione biometrica risultano le indicazioni provenienti dalla Corte europea dei diritti dell’uomo. In S. and Marper c. Regno Unito, la Grande Camera ha riconosciuto la particolare incidenza che la conservazione sistematica di impronte digitali e profili genetici può esercitare sulla vita privata; in Glukhin c. Russia, la Corte ha affrontato specificamente l’impiego del riconoscimento facciale, evidenziando l’esigenza che tecnologie caratterizzate da un’elevata capacità di identificazione e sorveglianza siano fondate su una disciplina sufficientemente precisa e accompagnate da garanzie adeguate rispetto al rischio di abuso.[37] Pur nella diversità delle fattispecie, emerge una direttrice interpretativa comune: l’ampliamento delle capacità tecnologiche di osservazione e identificazione non può tradursi in un’espansione incontrollata dei poteri dell’autorità pubblica.

Letto alla luce di tali coordinate, il caso S.A.R.I. assume un significato che trascende la specifica esperienza nazionale e contribuisce a mettere in luce una trasformazione più generale del principio di legalità nell’amministrazione tecnologicamente mediata. Quando l’esercizio della funzione pubblica si avvale di strumenti capaci di ampliare significativamente le possibilità di conoscenza, identificazione e sorveglianza, la legalità non può limitarsi a individuare l’autorità competente e la finalità generale dell’intervento, ma deve rendere conoscibile e controllabile anche il modo in cui la tecnologia concorre concretamente all’esercizio del potere.

Si delinea, in questa prospettiva, una dimensione sostanziale della legalità tecnologica, nella quale la prevedibilità dell’azione amministrativa dipende anche dalla possibilità di circoscrivere preventivamente le capacità dello strumento, di sottoporle a forme effettive di controllo e di mantenere chiaramente individuabile la responsabilità dell’autorità pubblica. L’esperienza S.A.R.I. dimostra, pertanto, che la trasformazione tecnologica non determina il superamento dei tradizionali principi dell’azione amministrativa, ma ne impone una rinnovata declinazione, capace di preservarne la funzione garantistica all’interno di infrastrutture tecnicamente sempre più complesse. Tale esigenza conduce, necessariamente, alla ricostruzione del più ampio sistema europeo di garanzie applicabili all’impiego dei sistemi biometrici e algoritmici.

7. Le garanzie europee nell’impiego dei sistemi biometrici

Le criticità emerse dall’analisi del caso S.A.R.I. si collocano in un sistema multilivello di garanzie, nel quale la disciplina sulla protezione dei dati personali si intreccia con la regolazione dei sistemi di intelligenza artificiale e con i principi europei che governano l’esercizio del potere pubblico. L’impiego delle tecnologie biometriche, infatti, non incide soltanto sulla riservatezza individuale, ma investe le condizioni di legittimità dell’azione amministrativa ogniqualvolta tali strumenti concorrano all’identificazione, alla classificazione o alla valutazione delle persone sottoposte al controllo dell’autorità pubblica.[38]

Un primo nucleo di tutela è rappresentato dalla normativa europea in materia di protezione dei dati. Il Regolamento (UE) 2016/679 qualifica come appartenenti a categorie particolari i dati biometrici trattati allo scopo di identificare in modo univoco una persona fisica; ad esso si affianca la Direttiva (UE) 2016/680, applicabile ai trattamenti effettuati dalle autorità competenti per finalità di prevenzione e perseguimento dei reati e di tutela della sicurezza pubblica. La distinzione tra i rispettivi ambiti applicativi assume particolare rilievo nel settore biometrico, nel quale la medesima infrastruttura può essere utilizzata per finalità amministrative o di law enforcement. In entrambi i casi, il trattamento è comunque subordinato a rigorosi requisiti di liceità, necessità, proporzionalità, limitazione della finalità e sicurezza.[39]

A tale quadro si aggiunge il sistema di tutela sviluppato nell’ambito del Consiglio d’Europa, fondato sulla Convenzione n. 108 e sul Protocollo di modernizzazione 108+. Le Guidelines on Facial Recognition del 2021 ribadiscono, con specifico riferimento alle tecnologie biometriche, la necessità di una base giuridica sufficientemente determinata, nonché il rispetto dei principi di necessità e proporzionalità e la predisposizione di adeguate garanzie rispetto alla particolare invasività dello strumento.[40]Nella medesima prospettiva si colloca la Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto, che estende la valutazione e la mitigazione dei rischi all’intero ciclo di vita dei sistemi di IA.[41]

In questo assetto si inserisce il Regolamento (UE) 2024/1689, che introduce un ulteriore livello di disciplina senza sostituire il quadro preesistente in materia di protezione dei dati. L’AI Act adotta un modello regolatorio fondato sul rischio, considerando non soltanto la natura dei dati trattati, ma anche le caratteristiche del sistema, le modalità di impiego e i suoi effetti sui diritti fondamentali. Per i sistemi ad alto rischio assumono particolare rilievo gli obblighi relativi alla gestione del rischio, alla qualità dei dati, alla documentazione, alla tracciabilità e alla supervisione umana. La specifica inclusione, nell’allegato III, di determinati sistemi impiegati in materia di migrazione, asilo e gestione delle frontiere riflette, del resto, la particolare delicatezza di procedimenti suscettibili di incidere sull’accesso al territorio o al riconoscimento di uno status giuridico.[42]

Particolare rilievo assume, in tale contesto, la valutazione d’impatto sui diritti fondamentali prevista dall’art. 27 dell’AI Act per determinate utilizzazioni di sistemi ad alto rischio. La Fundamental Rights Impact Assessment non si esaurisce in un controllo formale di conformità, ma mira a individuare preventivamente le possibili interferenze con i diritti e a predisporre misure idonee a prevenirle o mitigarle. Essa si affianca alla Data Protection Impact Assessment di cui all’art. 35 GDPR, distinguendosene per l’oggetto più ampio, esteso alla pluralità dei diritti fondamentali interessati dall’impiego dell’intelligenza artificiale.[43]

La combinazione tra DPIA, FRIA e obblighi di gestione del rischio evidenzia come la conformità del sistema non possa essere valutata esclusivamente al momento della sua introduzione. Il mutamento dei dati, del contesto operativo e delle modalità di utilizzo può infatti modificarne l’impatto, rendendo necessaria una governance dinamica, fondata su verifiche periodiche, tracciabilità, monitoraggio degli errori e tempestiva revisione delle misure di mitigazione.

Tale esigenza assume particolare intensità nel settore migratorio, nel quale gli interessati possono trovarsi in una posizione di significativa asimmetria informativa rispetto all’amministrazione. Un falso positivo, un dato inesatto o una corrispondenza biometrica erronea possono incidere sull’ingresso nel territorio, determinare ulteriori controlli o interferire con l’accesso tempestivo a una procedura. L’accuratezza tecnica non può, pertanto, costituire un parametro autosufficiente, ma deve essere accompagnata da garanzie procedurali che consentano all’interessato di essere adeguatamente informato, contestare eventuali errori e accedere a rimedi effettivi.[44]

In tale prospettiva, la supervisione umana costituisce il punto di raccordo tra funzionamento tecnico del sistema e imputazione giuridica della decisione all’autorità pubblica. Essa non può tradursi nella mera convalida dell’output algoritmico, ma deve assicurare all’operatore la possibilità effettiva di valutarne l’attendibilità, individuare eventuali anomalie e, ove necessario, discostarsene. Lo human oversight assume dunque valore garantistico soltanto se sorretto da adeguate competenze e accompagnato dal mantenimento della piena responsabilità dell’amministrazione per la decisione finale.[45]

A tale esigenza si collega strettamente il problema della motivazione. Quando l’esito del procedimento sia significativamente influenzato da un sistema algoritmico, il ruolo della tecnologia non può essere occultato mediante formule generiche o attraverso il mero richiamo all’output prodotto dal sistema. La trasparenza giuridicamente rilevante non richiede necessariamente la completa intelligibilità del codice, ma la possibilità di ricostruire gli elementi essenziali del percorso decisionale: i dati utilizzati, i criteri rilevanti, il peso attribuito all’elaborazione algoritmica e le ragioni della decisione dell’autorità. Solo in tal modo possono essere assicurati l’effettivo esercizio del diritto di difesa e il controllo giurisdizionale sulla legittimità della decisione.[46]

Analoghe esigenze valgono per le infrastrutture interoperabili. La possibilità tecnica di collegare informazioni provenienti da differenti banche dati non può tradursi in una generale disponibilità del dato: categorie di informazioni, soggetti autorizzati, tempi di conservazione e condizioni di accesso devono rimanere rigorosamente delimitati, evitando che l’interoperabilità determini una progressiva estensione delle finalità originarie del trattamento o forme di sorveglianza permanente delle persone migranti.

Il quadro europeo delle garanzie non può, pertanto, essere ricostruito come una mera sommatoria di obblighi settoriali. Protezione dei dati, valutazione preventiva degli impatti, supervisione umana, motivazione, contestabilità delle decisioni, rimedi effettivi e limitazione delle finalità concorrono alla costruzione di un presidio unitario volto a evitare che l’accrescimento della capacità tecnologica dell’amministrazione si traduca in un arretramento della posizione giuridica dell’individuo. La compatibilità della frontiera digitale con lo Stato di diritto dipende, in definitiva, dalla capacità dell’ordinamento di mantenere l’esercizio del potere algoritmico giuridicamente limitato, conoscibile, verificabile, contestabile e pienamente imputabile all’autorità pubblica.

8. Conclusioni: verso una frontiera digitale antropocentrica

L’analisi svolta mostra come la digitalizzazione delle politiche migratorie abbia inciso non soltanto sugli strumenti attraverso i quali vengono esercitati i controlli, ma sulla stessa configurazione giuridica della frontiera europea. L’interoperabilità delle banche dati, l’elaborazione automatizzata delle informazioni, i sistemi di valutazione del rischio e il trattamento dei dati biometrici hanno progressivamente trasformato il confine da luogo prevalentemente fisico di verifica e autorizzazione in un’infrastruttura amministrativa diffusa, capace di accompagnare la persona prima, durante e dopo l’attraversamento territoriale. L’incremento dell’efficienza e della capacità di elaborare ingenti quantità di informazioni costituisce un indubbio vantaggio operativo; al tempo stesso, tuttavia, amplia in misura significativa le possibilità dell’amministrazione di conoscere, classificare e monitorare gli individui.

Proprio questa trasformazione impedisce di considerare la componente tecnologica come un elemento estraneo o meramente strumentale rispetto all’esercizio della funzione amministrativa. Le scelte incorporate nella progettazione dei sistemi – dalla selezione dei dati alla definizione delle variabili, dalla determinazione delle soglie decisionali all’individuazione delle banche dati da interrogare – sono suscettibili di orientare concretamente l’esito dell’attività pubblica e assumono, per questa ragione, una rilevanza propriamente giuridica.[47] La tecnologia entra così nella struttura stessa del potere amministrativo e deve essere assoggettata ai principi di legalità, proporzionalità, imparzialità, trasparenza e responsabilità, la cui funzione garantistica non viene meno con l’automazione, ma acquista, semmai, una rinnovata centralità.

Le criticità emerse nel corso dell’indagine rappresentano differenti manifestazioni di un medesimo problema. L’opacità può compromettere la comprensibilità del percorso decisionale; i bias possono incorporare e riprodurre diseguaglianze preesistenti sotto l’apparenza della neutralità tecnica; l’impiego esteso della biometria può determinare forme di controllo eccedenti rispetto alle finalità perseguite; la complessità delle infrastrutture e la pluralità dei soggetti coinvolti possono, infine, indebolire il nesso tra esercizio del potere e responsabilità. Tali rischi non costituiscono conseguenze necessarie dell’innovazione tecnologica, ma impongono che le garanzie siano incorporate sin dalla progettazione dei sistemi e successivamente verificate lungo l’intero ciclo di vita della tecnologia.[48]

L’esperienza del Sistema Automatico di Riconoscimento delle Immagini ha consentito di cogliere con particolare evidenza questa esigenza. Il confronto tra S.A.R.I. Enterprise e S.A.R.I. Real Time dimostra che la valutazione giuridica di una tecnologia non può fondarsi esclusivamente sulla sua denominazione o sulla finalità generale alla quale è destinata, ma deve avere riguardo alle concrete modalità attraverso cui essa accresce la capacità conoscitiva e di controllo dell’autorità pubblica. Un confronto circoscritto effettuato su un’immagine già acquisita e un sistema di identificazione biometrica remota applicato in tempo reale a una pluralità indeterminata di persone producono interferenze qualitativamente differenti nella sfera individuale e richiedono, di conseguenza, livelli differenti di giustificazione normativa e di tutela.

Una dinamica analoga emerge dall’esame di ETIAS, Eurodac e delle infrastrutture interoperabili dell’Unione. La frontiera contemporanea opera sempre più attraverso una concatenazione di raccolta, confronto, condivisione e riutilizzo delle informazioni, nella quale il singolo dato può acquistare significati e funzioni ulteriori attraverso la connessione con altri archivi. La maggiore capacità informativa che ne deriva non può, tuttavia, tradursi in una presunzione di generale disponibilità dei dati. La possibilità tecnica di collegare sistemi differenti deve rimanere subordinata alla presenza di una base giuridica sufficientemente determinata, alla specificità delle finalità perseguite, alla minimizzazione del trattamento e alla predisposizione di forme effettive di controllo.[49]

Il Regolamento (UE) 2024/1689 consolida questa impostazione, riconoscendo espressamente l’elevata sensibilità delle applicazioni di intelligenza artificiale utilizzate nei settori della migrazione, dell’asilo e della gestione delle frontiere. Assume particolare significato, in tale prospettiva, la classificazione come sistemi ad alto rischio di taluni strumenti destinati ad assistere le autorità nell’esame delle domande di asilo, visto o permesso di soggiorno, comprese le applicazioni suscettibili di incidere sulla valutazione degli elementi probatori. Tale scelta normativa riflette la consapevolezza che, nei procedimenti dai quali dipende l’accesso al territorio o il riconoscimento di uno status giuridico, l’efficienza computazionale non può sostituire la valutazione individualizzata né attenuare la responsabilità dell’autorità competente.

La nozione di frontiera digitale antropocentrica acquista significato precisamente in questa prospettiva. L’antropocentrismo non implica il rifiuto dell’innovazione o la necessità di mantenere artificialmente separati tecnologia e decisione amministrativa; richiede, piuttosto, che l’impiego dell’intelligenza artificiale rimanga funzionale all’attività dell’autorità pubblica senza determinare una progressiva deresponsabilizzazione del decisore. La supervisione umana assume pertanto valore soltanto quando sia effettiva: l’operatore deve essere posto nelle condizioni di comprendere la funzione dell’output, verificarne l’attendibilità, confrontarlo con gli elementi individuali del caso e, ove necessario, disattenderlo, assumendo pienamente la responsabilità della determinazione finale.

La sfida posta dalla trasformazione algoritmica delle frontiere riguarda, in ultima analisi, le condizioni alle quali l’ampliamento delle capacità conoscitive dell’amministrazione può rimanere compatibile con i limiti propri dello Stato di diritto. La crescente possibilità di raccogliere dati, individuare correlazioni, classificare situazioni e anticipare valutazioni non può tradursi in un esercizio del potere meno visibile o meno contestabile. Al contrario, quanto più la tecnologia accresce la capacità dell’autorità di incidere sulla sfera individuale, tanto maggiore deve essere l’effettività delle garanzie che rendono tale potere conoscibile, motivato, verificabile e sindacabile.

La frontiera può dunque essere qualificata come realmente “intelligente” non in ragione della sola sofisticazione delle infrastrutture che la compongono, ma nella misura in cui l’innovazione tecnologica rimanga subordinata alla tutela della persona. Legalità, proporzionalità, trasparenza, controllo umano, responsabilità e accessibilità dei rimedi costituiscono, sotto questo profilo, non limiti esterni all’efficienza amministrativa, bensì le condizioni che ne consentono l’integrazione entro un ordinamento fondato sul rispetto dei diritti fondamentali. Soltanto preservando questo equilibrio la trasformazione digitale delle frontiere potrà tradursi in un’evoluzione dell’azione amministrativa compatibile con i principi dello Stato di diritto, evitando che alla crescente intelligenza tecnica dei sistemi corrisponda una progressiva opacità del potere pubblico.[50]

[1] M. Macchia, L'intelligenza artificiale alla prova della pubblica amministrazione, in M. Macchia (a cura di), Il presente dell'amministrazione algoritmica, Torino, Giappichelli, 2026, pp. 1-22, spec. pp. 2-6; M. Macchia, A. Mascolo, Intelligenza artificiale e sfera pubblica: lo stato dell'arte, in «Giornale di diritto amministrativo», 2022, p. 556 ss.

[2] M. Francaviglia, L'intelligenza artificiale nell'attività amministrativa: principî e garanzie costituzionali nel passaggio dalla regula agendi alla regola algoritmica, in «Federalismi.it», n. 17/2024, pp. 114 ss.; A. Simoncini, Amministrazione digitale algoritmica. Il quadro costituzionale, in R. Cavallo Perin, D.U. Galetta (a cura di), Il diritto dell'amministrazione pubblica digitale, Torino, 2020, p. 1 ss.; E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, in «Diritto amministrativo», 2020, p. 273 ss.

[3] Regolamenti (UE) 2019/817 e 2019/818 sul quadro di interoperabilità dei sistemi di informazione dell'Unione; D. Broeders, H. Dijstelbloem, The Datification of Mobility and Migration Management: The Mediating State and Its Consequences, in I. van der Ploeg, J. Pridmore (a cura di), Digitising Identities: Doing Identity in a Networked World, London, 2016, pp. 242-260; M. Leese, Fixing State Vision: Interoperability, Biometrics, and Identity Management in the EU, in «Geopolitics», 2022, pp. 113-133.

[4] Commissione europea, Frontiere intelligenti - opzioni e prospettive, COM(2011) 680 final, 25 ottobre 2011; D. Broeders, The New Digital Borders of Europe: EU Databases and the Surveillance of Irregular Migrants, in «International Sociology», 2007, pp. 71-92; L. Baldinelli, Intelligenza artificiale e controllo dei confini, in M. Macchia (a cura di), Il presente dell'amministrazione algoritmica, cit., pp. 43-68.

[5] A. Mascolo, Riconoscimento facciale e sicurezza pubblica: il dispositivo S.A.R.I., in M. Macchia (a cura di), Il presente dell'amministrazione algoritmica, cit., pp. 173-200; art. 4, n. 14, Regolamento (UE) 2016/679; art. 3, nn. 34-36, Regolamento (UE) 2024/1689.

[6] Regolamento (UE) 2024/1689 (AI Act), in particolare artt. 5, 6, 9, 14, 26 e allegato III; Regolamento (UE) 2016/679, in particolare artt. 5, 9, 25 e 35

[7] Cons. Stato, sez. VI, 8 aprile 2019, n. 2270; Cons. Stato, sez. VI, 13 dicembre 2019, n. 8472; Cons. Stato, sez. VI, 4 febbraio 2020, n. 881. In dottrina, v. F. Spinello, «Rivoluzione algoritmica» e accertamento dei tributi, in M. Macchia (a cura di), Il presente dell'amministrazione algoritmica, cit., pp. 225-254, spec. pp. 230 ss.

[8] L. Floridi, Etica dell'intelligenza artificiale, Milano, Raffaello Cortina, 2022; G. Sartor, L'intelligenza artificiale e il diritto, Milano, Giuffrè, 2022, pp. 55-73; F. Pasquale, The Black Box Society, Harvard University Press, 2015.

[9] G. Ziccardi, Tecnologie digitali e diritti fondamentali, Milano, 2021; U. Ruffolo, Intelligenza artificiale e responsabilità, Milano, Giuffrè, 2018; art. 21 Carta dei diritti fondamentali dell'Unione europea.

[10] Sul principio di accountability v. Regolamento (UE) 2016/679, art. 5, par. 2 e art. 24; F. Pizzetti, Privacy e il diritto europeo alla protezione dei dati personali, Torino, Giappichelli, ult. ed.

[11] Regolamento (UE) 2024/1689, art. 14; M. Macchia, L'intelligenza artificiale alla prova della pubblica amministrazione, cit., pp. 17-20; L. Floridi, Etica dell'intelligenza artificiale, cit., p. 173 ss.

[12] A. Musco Eklund, Rule of Law Challenges of 'Algorithmic Discretion' and Automation in EU Border Control, in «European Journal of Migration and Law», 2023, pp. 245 ss.; L. Baldinelli, Intelligenza artificiale e controllo dei confini, cit., pp. 62 ss. Sui limiti alla delega di poteri discrezionali, Corte giust., 13 giugno 1958, cause riunite 9/56 e 10/56, Meroni; Corte giust., 22 gennaio 2014, causa C-270/12, Regno Unito c. Parlamento e Consiglio.

[13] Regolamento (UE) 2024/1689, art. 6 e allegato III, punto 7. Il considerando 60 sottolinea la particolare vulnerabilità delle persone interessate e la rilevanza di accuratezza, non discriminazione e trasparenza nei sistemi utilizzati in materia di migrazione, asilo e controllo delle frontiere.

[14] A. Tsourdi, Migration Management and EU Digital Borders, in «European Law Review», 2020, p. 854 ss.; M. Fink, The Action for the European Border and Coast Guard: Border Security, Human Rights and International Responsibility, Oxford University Press, 2018; E. Guild, The Border Everywhere: Technologies of Control and the Externalisation of Migration Policies, in «Netherlands Quarterly of Human Rights», 2009, pp. 315 ss.

[15] Regolamento (UE) 2018/1240 del Parlamento europeo e del Consiglio, del 12 settembre 2018, che istituisce un sistema europeo di informazione e autorizzazione ai viaggi (ETIAS); L. Gugliotta, A. Elbi, Will AI 'Subtly' Take Over Decision-Making in the EU Migration Context? Warnings and Lessons from ETIAS and VIS, in «European Papers», 2024, pp. 1015 ss.

[16] ibidem

[17] ibidem

[18] Artt. 18 e 19 della Carta dei diritti fondamentali dell’Unione europea; art. 33 della Convenzione di Ginevra del 28 luglio 1951 relativa allo status dei rifugiati, come integrata dal Protocollo di New York del 31 gennaio 1967. Sul piano del diritto derivato, v. Regolamento (UE) 2024/1348 del Parlamento europeo e del Consiglio, del 14 maggio 2024, che stabilisce una procedura comune di protezione internazionale nell’Unione, il quale conferma la necessità che l’esame della domanda e le eventuali decisioni di rimpatrio si svolgano nel rispetto del principio di non-refoulement; v., in particolare, art. 37. Sul rapporto tra digitalizzazione delle procedure di frontiera, tutela effettiva del richiedente e rispetto dello Stato di diritto, v. L. Marin, Which Rule of Law for the External Borders of the European Union? Agencies, Institutions, and the Complex Upholding of the Rule of Law at the EU’s External Borders, in «European Papers», 2024, pp. 605 ss.; L. Baldinelli, Intelligenza artificiale e controllo dei confini, in M. Macchia (a cura di), Il presente dell’amministrazione algoritmica, Torino, Giappichelli, 2026, pp. 43-68.

[19] Regolamento (UE) 2024/1358 del Parlamento europeo e del Consiglio, del 14 maggio 2024, che istituisce l'Eurodac per il confronto dei dati biometrici e abroga il Regolamento (UE) n. 603/2013; E. Brouwer, Large-scale Databases and Interoperability in Migration and Border Policies, in «European Public Law», 2021, p. 179 ss.; M. Leese, Fixing State Vision, cit., pp. 113-133.

[20] Regolamento (UE) 2024/1348 del Parlamento europeo e del Consiglio, del 14 maggio 2024, che stabilisce una procedura comune di protezione internazionale nell'Unione e abroga la direttiva 2013/32/UE. Sul nuovo Patto, v. anche L. Paladini, L'esternalizzazione delle frontiere esterne dell'UE: stato dell'arte e prospettive future, in «DPCE online», n. 2/2025, pp. 467 ss.

[21] Art. 4, n. 14, Regolamento (UE) 2016/679. Sul corpo come informazione v. I. van der Ploeg, Biometrics and the Body as Information: Normative Issues of the Socio-Technical Coding of the Body, in D. Lyon (a cura di), Surveillance as Social Sorting, Routledge, 2003, pp. 57 ss.; G. De Minico, Big Data e pubblici poteri, Napoli, Editoriale Scientifica, 2022, pp. 40-90.

[22] G. De Minico, Big Data e pubblici poteri, Napoli, Editoriale Scientifica, 2022, pp. 40-90. Con specifico riferimento alle politiche migratorie e alla progressiva “digitalizzazione dei corpi”, v. altresì L. Baldinelli, Intelligenza artificiale e controllo dei confini, in M. Macchia (a cura di), Il presente dell’amministrazione algoritmica, Torino, Giappichelli, 2026, pp. 43-68, spec. pp. 48 ss.

[23] Sul rischio di utilizzazione dei dati raccolti per finalità ulteriori rispetto a quelle originarie, v. N. Vavoula, Consultation of EU Immigration Databases for Law Enforcement Purposes: a Privacy and Data Protection Assessment, in «European Journal of Migration and Law», 2020, pp. 139-177. L’espressione function creep è utilizzata espressamente dalla European Union Agency for Fundamental Rights, Under watchful eyes: biometrics, EU IT systems and fundamental rights, 2018, spec. p. 61, con riferimento al rischio che dati biometrici acquisiti nel contesto migratorio siano successivamente impiegati anche per finalità investigative o di sicurezza. Sul punto v. altresì L. Baldinelli, Intelligenza artificiale e controllo dei confini, cit., pp. 51-52.

[24] Sulla necessità che la raccolta dei dati biometrici nei confronti dei migranti sia accompagnata da informazioni e forme di assistenza adeguate, nonché dal ricorso agli strumenti meno invasivi disponibili, v. European Union Agency for Fundamental Rights, Le ripercussioni sui diritti fondamentali dell’obbligo di fornire le impronte digitali, FRA Focus, 2015. Sul più generale rapporto tra digitalizzazione dei confini, vulnerabilità della persona migrante e garanzie procedurali, v. L. Baldinelli, Intelligenza artificiale e controllo dei confini, cit., pp. 48 ss.

[25] v. O. Pollicino, Intelligenza artificiale e diritti fondamentali, in «Rivista italiana di diritto pubblico comunitario», 2021, pp. 3-25; O. Pollicino, P. Dunn, Intelligenza artificiale e democrazia, Milano, Egea, 2024, pp. 85-150; F. Donati, G. Finocchiaro, F. Paolucci, O. Pollicino (a cura di), La disciplina dell’intelligenza artificiale, Milano, 2025, spec. pp. 1-45 e 180-260; F. Donati, La protezione dei diritti fondamentali nel Regolamento sull’intelligenza artificiale, in «Rivista AIC», 2025.

[26] G. Mobilio, Le tecnologie di riconoscimento facciale. Profili giuridici e limiti costituzionali, Napoli, Editoriale Scientifica, 2022, p. 37 ss.; P. Kaur, K. Krishan, S.K. Sharma, T. Kanchan, Facial Recognition Algorithms: A Literature Review, in «Medicine, Science and the Law», 2020, p. 1 ss.

[27] F. Pizzetti, Intelligenza artificiale, protezione dei dati personali e regolazione, Torino, Giappichelli, 2018, p. 294 ss.; N. Alay, H.H. Al-Baity, Deep Learning Approach for Multimodal Biometric Recognition Systems, in «Sensors», 2020.

[28] O. Pollicino, Intelligenza artificiale e diritti fondamentali, in «Rivista italiana di diritto pubblico comunitario», 2021, pp. 3-25; F. Donati, La protezione dei diritti fondamentali nel Regolamento sull'intelligenza artificiale, in «Rivista AIC», 2025.

[29] Consiglio d'Europa, Convenzione n. 108 del 28 gennaio 1981 e Protocollo CETS n. 223 del 10 ottobre 2018 (Convenzione 108+); Comitato consultivo della Convenzione n. 108, Guidelines on Facial Recognition, 28 gennaio 2021.

[30] Sul rischio che l’impiego di sistemi biometrici e algoritmici trascenda la funzione propriamente identificativa per trasformarsi in uno strumento di classificazione della persona sulla base di caratteristiche fisiche o somatiche, con conseguente emersione di forme di determinismo algoritmico incompatibili con la tutela dei diritti fondamentali, v. O. Pollicino, Intelligenza artificiale e diritti fondamentali, in «Rivista italiana di diritto pubblico comunitario», 2021, pp. 3-25; O. Pollicino, P. Dunn, Intelligenza artificiale e democrazia, Milano, Egea, 2024, pp. 85-150; F. Donati, La protezione dei diritti fondamentali nel Regolamento sull’intelligenza artificiale, in «Rivista AIC», 2025. Sulla distinzione tra verifica biometrica circoscritta e identificazione biometrica suscettibile di coinvolgere una pluralità indeterminata di soggetti, nonché sulla particolare invasività del riconoscimento facciale remoto, v. Regolamento (UE) 2024/1689, artt. 3 e 5; Consiglio d’Europa, Comitato consultivo della Convenzione n. 108, Guidelines on Facial Recognition, 28 gennaio 2021. In ambito nazionale, la differente incidenza sui diritti fondamentali delle modalità di utilizzo del riconoscimento facciale emerge con particolare evidenza dal confronto tra S.A.R.I. Enterprise e S.A.R.I. Real Time: v. Garante per la protezione dei dati personali, provv. 26 luglio 2018, n. 440, e provv. 25 marzo 2021, n. 127.

[31] Sulla rilevanza del riconoscimento facciale quale modalità tecnologicamente mediata di esercizio del potere pubblico e sui relativi limiti giuridici, v. G. Mobilio, Le tecnologie di riconoscimento facciale. Profili giuridici e limiti costituzionali, Napoli, Editoriale Scientifica, 2022, spec. pp. 37 ss.; A. Mascolo, Riconoscimento facciale e sicurezza pubblica: il dispositivo S.A.R.I., in M. Macchia (a cura di), Il presente dell’amministrazione algoritmica, Torino, Giappichelli, 2026, pp. 173-200. Sul carattere particolarmente invasivo delle tecnologie di riconoscimento facciale, v. altresì Consiglio d’Europa, Comitato consultivo della Convenzione n. 108, Guidelines on Facial Recognition, 28 gennaio 2021.

[32] Garante per la protezione dei dati personali, provv. 26 luglio 2018, n. 440, Sistema automatico di ricerca dell’identità di un volto, doc. web n. 9040256. Sulla supervisione umana e sulla necessaria imputabilità della decisione all’autorità pubblica, v. E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, in «Diritto amministrativo», 2020, p. 273 ss.; G. Avanzini, Decisione amministrativa algoritmica e principio di responsabilità, Milano, Giuffrè, 2021.

[33] Sulla capacità delle tecnologie biometriche di trasformare gli spazi pubblici in luoghi di identificazione automatizzata e sui conseguenti rischi per i diritti fondamentali, v. G. Mobilio, Le tecnologie di riconoscimento facciale, cit., pp. 149 ss.; A. Mascolo, Riconoscimento facciale e sicurezza pubblica, cit., pp. 179 ss.

[34] Garante per la protezione dei dati personali, provv. 25 marzo 2021, n. 127, Parere sul sistema S.A.R.I. Real Time, doc. web n. 9575877. Sul requisito della qualità della base normativa in presenza di tecnologie di riconoscimento facciale, v. anche Corte EDU, sez. III, 4 luglio 2023, Glukhin c. Russia.

[35] Sul rapporto tra riconoscimento facciale, proporzionalità e intensità dell’ingerenza nei diritti fondamentali, v. G. Mobilio, Le tecnologie di riconoscimento facciale, cit., spec. pp. 149 ss.; A. Mascolo, Riconoscimento facciale e sicurezza pubblica, cit., pp. 179 ss.; con riferimento alle tecnologie biometriche applicate al controllo delle frontiere, L. Baldinelli, Intelligenza artificiale e controllo dei confini, in M. Macchia (a cura di), Il presente dell’amministrazione algoritmica, cit., pp. 43-68.

[36] Corte giust., Grande Sezione, 8 aprile 2014, cause riunite C-293/12 e C-594/12, Digital Rights Ireland; Corte giust., Grande Sezione, 21 dicembre 2016, cause riunite C-203/15 e C-698/15, Tele2 Sverige e Watson; Corte giust., Grande Sezione, 6 ottobre 2020, cause riunite C-511/18, C-512/18 e C-520/18, La Quadrature du Net e a.. Sebbene riferite prevalentemente alla conservazione e all’accesso a dati relativi alle comunicazioni elettroniche, tali pronunce assumono rilievo sistematico ai fini della definizione dei criteri di necessità, proporzionalità e determinatezza normativa in presenza di interferenze particolarmente incisive nei diritti riconosciuti dagli artt. 7 e 8 della Carta.

[37] Corte EDU, Grande Camera, 4 dicembre 2008, S. and Marper c. Regno Unito; Corte EDU, sez. III, 4 luglio 2023, Glukhin c. Russia. Quest’ultima pronuncia assume specifico rilievo con riferimento all’utilizzo del riconoscimento facciale negli spazi pubblici e alla necessità di garanzie proporzionate all’intensità della capacità di sorveglianza dello strumento. Sul punto, v. altresì Consiglio d’Europa, Guidelines on Facial Recognition, cit.

[38] Sul rapporto tra digitalizzazione dell’azione amministrativa, trattamento dei dati e trasformazione delle modalità di esercizio del potere pubblico, v. M. Macchia, L’intelligenza artificiale alla prova della pubblica amministrazione, in M. Macchia (a cura di), Il presente dell’amministrazione algoritmica, Torino, Giappichelli, 2026, pp. 1-22; M. Francaviglia, L’intelligenza artificiale nell’attività amministrativa: principî e garanzie costituzionali nel passaggio dalla regula agendi alla regola algoritmica, in «Federalismi.it», n. 17/2024, pp. 114 ss.; G. De Minico, Big Data e pubblici poteri, Napoli, Editoriale Scientifica, 2022, pp. 40 ss.

[39] Cfr. Regolamento (UE) 2016/679, in particolare artt. 4, n. 14, 5, 9, 25 e 35; Direttiva (UE) 2016/680, spec. artt. 3, n. 13, 4, 10, 11, 19 e 20. Quest’ultima subordina il trattamento dei dati biometrici finalizzato all’identificazione univoca al requisito della stretta necessità e alla predisposizione di adeguate garanzie. In dottrina, v. F. Pizzetti, Privacy e il diritto europeo alla protezione dei dati personali, cit.; Id., Intelligenza artificiale, protezione dei dati personali e regolazione, Torino, Giappichelli, 2018; G. Finocchiaro, Il nuovo Regolamento europeo sulla privacy e sulla protezione dei dati personali, Bologna, Zanichelli, 2017.

[40] Cfr. Convenzione del Consiglio d’Europa n. 108 del 28 gennaio 1981 e Protocollo di modernizzazione CETS n. 223 del 10 ottobre 2018; Comitato consultivo della Convenzione n. 108, Guidelines on Facial Recognition, 28 gennaio 2021. Sulla particolare invasività delle tecnologie di riconoscimento facciale, v. G. Mobilio, Le tecnologie di riconoscimento facciale. Profili giuridici e limiti costituzionali, Napoli, Editoriale Scientifica, 2022.

[41] Consiglio d’Europa, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, 2024, spec. artt. 14-16. In particolare, l’art. 16 configura la valutazione, prevenzione e mitigazione dei rischi e degli impatti sui diritti umani, sulla democrazia e sullo Stato di diritto come processi destinati ad accompagnare il ciclo di vita dei sistemi di intelligenza artificiale.

[42] Sulla particolare vulnerabilità dei soggetti coinvolti nei procedimenti migratori e sul rischio che l’impiego di strumenti algoritmici possa amplificare forme di discriminazione, v. B. Onofrj, Intelligenza artificiale e crimmigration: profili di discriminazione razziale del migrante alla luce del nuovo AI Act europeo, in «Archivio penale», 2026; L. Baldinelli, Intelligenza artificiale e controllo dei confini, in M. Macchia (a cura di), Il presente dell’amministrazione algoritmica, cit., pp. 43-68.

[43] Sul rapporto tra la valutazione d’impatto sulla protezione dei dati e la valutazione d’impatto sui diritti fondamentali prevista dall’AI Act, v. A. Mantelero, The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template, in «Computer Law & Security Review», vol. 54, 2024, 106020. Sulla funzione preventiva delle valutazioni d’impatto, v. altresì European Union Agency for Fundamental Rights, Getting the Future Right. Artificial Intelligence and Fundamental Rights, 14 dicembre 2020.

[44] Sulle implicazioni derivanti dall’impiego di dati biometrici e strumenti algoritmici nella gestione delle frontiere e sulle conseguenze degli errori tecnologici per l’effettività dei diritti dei migranti, v. F. Biondi Dal Monte, Confini digitali e dati dei migranti nel Patto sulla Migrazione e l’asilo, in Migrazioni e governance digitale, cit.; M. Forti, Errori algoritmici ai confini: questioni giuridiche e implicazioni politiche, ivi; European Union Agency for Fundamental Rights, Le ripercussioni sui diritti fondamentali dell’obbligo di fornire le impronte digitali, FRA Focus, 2015.

[45] Sul controllo umano quale requisito sostanziale della decisione algoritmica e quale presidio della responsabilità amministrativa, v. A. Simoncini, Amministrazione digitale algoritmica. Il quadro costituzionale, in R. Cavallo Perin, D.U. Galetta (a cura di), Il diritto dell’amministrazione pubblica digitale, Torino, 2020; E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, in «Diritto amministrativo», 2020, pp. 273 ss.; G. Avanzini, Decisione amministrativa algoritmica e principio di responsabilità, Milano, Giuffrè, 2021; F. Donati, La protezione dei diritti fondamentali nel Regolamento sull’intelligenza artificiale, in «Rivista AIC», 2025.

[46] Sui principi di conoscibilità, comprensibilità, non esclusività della decisione automatizzata e sindacabilità dell’algoritmo, v. Cons. Stato, sez. VI, 8 aprile 2019, n. 2270; Cons. Stato, sez. VI, 13 dicembre 2019, n. 8472; Cons. Stato, sez. VI, 4 febbraio 2020, n. 881. In dottrina, v. A. Simoncini, Amministrazione digitale algoritmica, cit.; E. Carloni, I principi della legalità algoritmica, cit.; M. Francaviglia, L’intelligenza artificiale nell’attività amministrativa, cit. Tale giurisprudenza ha progressivamente ricondotto la conoscibilità e la comprensibilità del processo algoritmico, la necessità di un intervento umano e la piena sindacabilità della decisione al nucleo delle garanzie proprie dell’amministrazione algoritmica.

[47] Sulla progressiva incorporazione delle scelte amministrative nella struttura tecnica e informativa dei sistemi algoritmici e sulla conseguente necessità di ricondurne progettazione e impiego entro le categorie del diritto amministrativo, v. M. Macchia, L’intelligenza artificiale alla prova della pubblica amministrazione, in Id. (a cura di), Il presente dell’amministrazione algoritmica, cit., pp. 1-22; A. Simoncini, Amministrazione digitale algoritmica. Il quadro costituzionale, in R. Cavallo Perin, D.U. Galetta (a cura di), Il diritto dell’amministrazione pubblica digitale, Torino, 2020; E. Carloni, I principi della legalità algoritmica. Le decisioni automatizzate di fronte al giudice amministrativo, in «Diritto amministrativo», 2020, p. 273 ss.; M. Francaviglia, L’intelligenza artificiale nell’attività amministrativa: principî e garanzie costituzionali nel passaggio dalla regula agendi alla regola algoritmica, in «Federalismi.it», n. 17/2024, pp. 114 ss.; G. De Minico, Big Data e pubblici poteri, Napoli, Editoriale Scientifica, 2022, pp. 40 ss.

[48] Sulle criticità derivanti dall’opacità dei sistemi algoritmici, dalla possibile riproduzione di discriminazioni e dalla difficoltà di ricostruire l’imputazione della decisione, v. F. Pasquale, The Black Box Society. The Secret Algorithms That Control Money and Information, Harvard University Press, 2015; O. Pollicino, G. De Gregorio, Constitutional Law in the Algorithmic Society, in H.-W. Micklitz et al. (a cura di), Constitutional Challenges in the Algorithmic Society, Cambridge University Press, 2021; G. Avanzini, Decisione amministrativa algoritmica e principio di responsabilità, Milano, Giuffrè, 2021; B. Onofrj, Intelligenza artificiale e crimmigration: profili di discriminazione razziale del migrante alla luce del nuovo AI Act europeo, in «Archivio penale», 2026. Sull’interdipendenza tra supervisione umana, conoscibilità dell’iter decisionale e prevenzione delle discriminazioni, v. altresì A. Simoncini, Amministrazione digitale algoritmica, cit.

[49] Sui rischi che l’interoperabilità dei sistemi informativi europei comporta per la limitazione delle finalità, la protezione della vita privata e la posizione dei cittadini di Paesi terzi, v. N. Vavoula, Interoperability of EU Information Systems: The Deathblow to the Rights to Privacy and Personal Data Protection of Third-Country Nationals?, in «European Public Law», 2020, pp. 131-156; E. Brouwer, Large-Scale Databases and Interoperability in Migration and Border Policies: The Non-Discriminatory Approach of Data Protection, in «European Public Law», 2020, pp. 71-92; M. Leese, Fixing State Vision: Interoperability, Biometrics, and Identity Management in the EU, cit.; F. Biondi Dal Monte, Confini digitali e dati dei migranti nel Patto sulla Migrazione e l’asilo, in Migrazioni e governance digitale, cit.

[50] Sulla necessità di ricondurre l’impiego dell’intelligenza artificiale da parte dei pubblici poteri entro le coordinate dello Stato di diritto, preservando conoscibilità, controllabilità, responsabilità e tutela giurisdizionale, v. A. Simoncini, Amministrazione digitale algoritmica, cit.; E. Carloni, I principi della legalità algoritmica, cit.; M. Francaviglia, L’intelligenza artificiale nell’attività amministrativa, cit.; O. Pollicino, G. De Gregorio, Constitutional Law in the Algorithmic Society, cit.; Consiglio d’Europa, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, 2024. V. altresì artt. 2 e 6 TUE; artt. 7, 8, 18, 19, 21, 41 e 47 della Carta dei diritti fondamentali dell’Unione europea.