Le nuove tecnologie e il mondo del diritto:la sfida della regolamentazione dell’intelligenza artificiale 

Di Stefania Cantisani

Abstract

Il saggio, partendo dall’illustrazione delle opportunità e dei rischi dell’intelligenza artificiale nel nuovo scenario prodotto dalla cd. intelligenza artificiale generativa, ne approfondisce alcuni specifici profili problematici connessi alla responsabilità per danni ed alla protezione del diritto di autore.

Un focus particolare è poi dedicato agli aspetti relativi alla necessità di garantire l’intervento e la sorveglianza umana (human in the loop) ed alla valutazione dell’impatto sui diritti fondamentali  (FRIA acronimo di Fundamental Rights Impact Assessment) per come emergono dal testo  dell’IA Act, (Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024), la legge europea sull’intelligenza artificiale  che si pone nell’ottica di armonizzare adeguatamente l’utilizzo di sistemi di IA promuovendo lo sviluppo di  un’intelligenza artificiale affidabile e antropocentrica in conformità al quadro giuridico ed ai valori dell’Unione europea.

Un ultimo cenno, infine, è riservato alle disposizioni in materia contenute nel disegno di legge del Governo attualmente in corso di esame da parte del Parlamento.

The essay, starting from the illustration of the opportunities and risks of artificial intelligence in the new scenario produced by the so-called generative artificial intelligence, examines some specific problematic profiles connected to liability for damages and the protection of copyright.

A particular focus is then dedicated to the aspects relating to the need to ensure human intervention and surveillance (human in the loop) and to the assessment of the impact on fundamental rights (FRIA acronym for Fundamental Rights Impact Assessment) as they emerge from the text of the AI ​​Act, (Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024), the European law on artificial intelligence that aims to adequately harmonize the use of AI systems by promoting the development of reliable and anthropocentric artificial intelligence in accordance with the legal framework and values ​​of the European Union.

A final mention, finally, is reserved for the legal provisions on the subject contained in the Government bill currently being examined by Parliament.

SOMMARIO: 1. Brevi cenni introduttivi: dalle nuove tecnologie alla GenAi (Intelligenza artificiale generativa). 2. Opportunità e rischi della GenAi. 2.1 Segue: i rischi etici nell’utilizzo delle nuove tecnologie. 3. L’IA e il problema della imputazione della responsabilità. 4. La proposta di direttiva europea sulla responsabilità per i danni da intelligenza artificiale. 5. L’accesso al codice sorgente dell’algoritmo e il contrapposto diritto di proprietà del software negli orientamenti del giudice amministrativo. 6. La legge europea sull’IA (AI ACT). 7. La valutazione di impatto sui diritti fondamentali (FRIA). 8. Il DDL del Governo sull’IA. 9. Considerazioni conclusive.

1. Brevi cenni introduttivi: dalle nuove tecnologie alla GenAi (Intelligenza artificiale generativa)

La diffusione delle nuove tecnologie ha avuto ed ha un impatto assolutamente non comparabile rispetto alle trasformazioni conseguenti alle innovazioni tecnologiche che si sono registrate in passato.La letteratura sul punto è oggetto di un dibattito pressoché sterminato nel quale si contrappongono da un lato i catastrofisti che prevedono un futuro distopico nel quale le macchine domineranno il genere umano e dall’altro i fautori entusiastici delle nuove intelligenze artificiali convinti di trovarsi di fronte ad un cambiamento positivo che porterà inevitabilmente l’umanità a migliorare le proprie condizioni di vita[1].

Se lasciamo sullo sfondo questo dibattito, ciò che più colpisce dell’evoluzione tecnologica in corso «non è tanto e solo la dimensione globale della trasformazione – (...)– ma la velocità della trasformazione in atto e la continua produzione di nuove invenzioni, che rendono rapidamente inutili o obsoleti le regole e gli strumenti di controllo via via progettati e posti in essere. Non si tratta, quindi, di una singola invenzione – come l’elettricità, o il motore a scoppio, o la televisione – ma di un processo di trasformazione delle abitudini individuali e delle modalità di interazione sociale i cui esiti non si stabilizzano mai completamente, ma continuano invece ad evolvere»[2].

La trasformazione tecnologica è divenuta dunque una caratteristica saliente dello Stato moderno, lo «Stato digitale», appunto, una formula, questa che enfatizza, al pari di altri aggettivi che hanno accompagnato di volta in volta il sostantivo Stato (es. per citare solo i più diffusi, Stato censitario, Stato di polizia, Stato di diritto, Stato imprenditore, welfare State, Stato regolatore, Stato salvatore, Stato promotore) un aspetto che emerge come prevalente in un dato periodo storico in un «processo di progressiva stratificazione, nel quale gli elementi di continuità e gli elementi di innovazione si intrecciano dando luogo a nuovi assetti di potere»[3].

L’utilizzo dell’ICT (Tecnologie dell’informazione e della comunicazione)[4] nell’ambito delle pubbliche amministrazioni ha determinato un cambiamento epocale sotto l’aspetto organizzativo modificando in maniera incisiva le modalità di erogazione dei servizi ai cittadini.

Alcuni commentatori hanno efficacemente rilevato come nel corso del XX secolo, proprio in virtù delle ICT, si siano succeduti e sovrapposti almeno tre modelli di pubblica amministrazione: la Pubblica Amministrazione 1.0, che corrisponde al classico modello di Pubblica Amministrazione del diciannovesimo secolo, caratterizzato dall’utilizzo di carta, stampa e macchina da scrivere. La Pubblica Amministrazione 2.0, che incorpora computer, processori di testo, stampante e fax. La Pubblica Amministrazione 3.0 verso cui, nel XXI secolo, il settore pubblico ha iniziato a migrare grazie all’uso di internet, dei portali digitali, delle applicazioni mobili e dei social network.

Infine, si è pervenuti alla fase attuale di questa transizione che è stata definita Amministrazione 4.0[5] con ciò riecheggiando l’espressione di “Industria 4.0.”o“Quarta Rivoluzione Industriale”, coniata per identificare nuove modalità di organizzazione del lavoro, di produzione industriale e di business derivanti appunto dalle innovazioni digitali e tecnologiche.

Quest’ultima fase, caratterizzata dall’utilizzo di algoritmi e sistemi di intelligenza artificiale ai quali si ricorre per ottenere soluzioni di tipo predittivo derivanti dall’elaborazione di grandi quantità di dati, sancisce «la graduale trasformazione della “macchina dello Stato” in un vero e proprio “Stato delle macchine”»[6].

Si tratta di un processo di trasformazione dagli sviluppi ancora imprevedibili che impone al mondo del diritto un costante adattamento al nuovo ambiente digitale nel quale gli istituti e categorie tradizionali[7] appaiono inidonei a governare le interazioni tra le pubbliche amministrazioni e i cittadini.

Non a caso la sfida da affrontare attiene, al momento attuale, alla necessità di regolamentare questo nuovo ambiente che presenta potenzialità ancora non del tutto esplorate.

Il nuovo scenario digitale, dunque, promette indiscussi vantaggi in termini di efficientamento delle strutture burocratiche della PA consentendo l’accesso e la fruizione di servizi pubblici in linea con il diritto ad una buona amministrazione sancito dall’art.41 della Carta dei diritti fondamentali dell’Unione europea (CDUE)[8].

Ad oggi poi l’avvento della c.d. Intelligenza artificiale generativa intesa come «qualsiasi tipo di intelligenza artificiale in grado di creare, in risposta a specifiche richieste, diversi tipi di contenuti come testi, audio, immagini, video[9]» offre alla pubblica amministrazione l’opportunità di sviluppare servizi digitali “a misura” del cittadino utente e ciò in virtù di modelli LLM’s (Large Language Model) ovvero reti neurali che, grazie a modelli strutturati su innumerevoli parametri, sono addestrate a scopo linguistico, ad esempio Chat GPT di Open AI[10]

Non siamo ancora in grado di elaborare una lista di applicazioni di questa tipologia di intelligenza nel ma la capacità di apprendimento dei modelli linguistici di grandi dimensioni, che hanno necessità per il loro funzionamento di una quantità elevatissima di dati[11] che rispettino comunque un certo standard[12] qualitativo[13], li rendono idonei per essere utilizzati per diverse esigenze e dunque, in particolare, per aumentare il livello di personalizzazione[14] dei servizi digitali oltre che per ottimizzare gli stessi processi decisionali della PA[15].

2. Opportunità e rischi della GenAi

Un recente report del Boston Consulting Group (BCG)[16], società multinazionale che svolge attività di consulenza strategica di alta direzione, leader nel mercato mondiale, stima che l’intelligenza artificiale generativa (GenAI) produrrà nei prossimi anni (entro il 2033), per il settore pubblico, un incremento di produttività del valore di 1,75 trilioni di dollari all'anno a livello globale (per l’Italia la stima è di 46 miliardi di dollari all’anno) e che il mercato go