Monitor Speciale 4/2023 - Intelligenza Artificiale e Pubblica Amministrazione

Newsletter n. 4 Speciale - 16 ottobre 2023

 Novità editoriali e attività di documentazione della Biblioteca dell'Assemblea Legislativa. Nuova serie

Primo piano 

 

Intelligenza_artificiale_nella_PA

 

Edizione speciale della Newsletter, dedicata alle possibili applicazioni e implicazioni dell’intelligenza artificiale nel campo della pubblica amministrazione.

L’approfondimento segue il precedente Monitor Speciale dedicato all’IA Act, il Regolamento Europeo sull’Intelligenza Artificiale, pubblicato lo scorso 3 ottobre, e propone riferimenti  bibliografici ad articoli pubblicati su riviste specializzate disponibili presso la biblioteca, e selezione di contributi, commenti e siti di approfondimento accessibili in rete.

Completa lo Speciale una selezione di massime giurisprudenziali recenti in tema di "utilizzo dell'algoritmo" da parte delle Pubbliche Amministrazioni. 

Novità editoriali: segnalazioni dal nostro catalogo

Government by algorithm: un contributo allo studio del ricorso all’intelligenza artificiale nell’esercizio di funzioni amministrative / di Leonardo Parona.
Articolo. Report “Government by Algorithm”: rilevanza per il dibattito giuridico sull'intelligenza artificiale. Impiego dell’IA da parte della pubblica amministrazione. Esercizio di funzioni amministrative tra problemi tecnici e questioni giuridiche.

Diritto amministrativo e intelligenza artificiale: un amore possibile / di Vincenzo Neri.
Articolo. Nozione di documento dall'analogico al digitale. Qualificazione giuridica e regime di responsabilità di istruzioni algoritmiche e intelligenza artificiale. Potenzialità applicative e limiti tecnologici. Danni cagionati da decisioni automatizzate.

Dalle riforme astratte dell’amministrazione pubblica alla necessità di amministrare le riforme / Roberto Cavallo Perin
Articolo. Amministrare per algoritmi: resistenza o resilienza degli enti pubblici. Intelligenza artificiale e principio di buon andamento. Atti meramente amministrativi e atti politici. Responsabilità da standard d’organizzazione vs. responsabilità personale di funzionari e dipendenti pubblici.

Decisione amministrativa e intelligenza artificiale / Gherardo Carullo
Articolo. Livelli di intelligenza artificiale e tipologie di poteri amministrativi. Imputabilità della decisione amministrativa automatizzata. Problema della motivazione. Rischio dell’intangibilità delle fasi endoprocedimentali automatizzate. Implicita legittimazione all’uso di strumenti di IA nell’attribuzione del potere.

Attività amministrativa e intelligenza artificiale / Luigi Viola.
Articolo. Atti amministrativi ad elaborazione elettronica. Introduzione di strumenti d'intelligenza artificiale. Dibattito dottrinale.

Algoritmi, etica e diritto.
Congressi, Roma, 2019. Algoritmi, Etica E Diritto (F. Maggino, G. Cicerchia). Vizi e virtù del diritto computazionale (A.M. Gambino). Scenari. Etica, antropologia, intelligenza artificiale (S. Cacciari). Il mondo come dato. La ricerca del giusto tra arte ermeneutica e calcolo algoritmico (B. Leucadito). La consapevolezza digitale al servizio dell’etica (L. Attias, G. Scorza). Riflessioni sul principio di sostenibilità per le generazioni future e lo stato di algoritmizzazione della finanza pubblica (F. Martini).

Per approfondire: consulta la Bibliografia ”Amministrazione pubblica digitale, curata dalla Biblioteca dell'Assemblea Legislativa.

 

Dal web. Documenti, Atti e pubblicazioni disponibili in rete

2023

Le opzioni tecnologiche per la digitalizzazione avanzata della Pubblica Amministrazione
I presupposti e le proposte per diffondere l’utilizzo dell’intelligenza artificiale nella Pubblica Amministrazione italiana. The European House Ambrosetti – 13 ottobre 2023

Intelligenza artificiale e pubblica amministrazione: sfide concrete e prospettive future.
Di Michele Corradino, Presidente di Sezione del Consiglio di Stato; trascrizione integrale dell’intervento al corso di formazione per i Magistrati organizzato dall’Ufficio studi, massimario e formazione della Giustizia amministrativa. In Il Dirittoamministrativo.it – ottobre 2023

Sfruttare i vantaggi dell’Intelligenza Artificiale nella PA: come farlo in modo etico
Di Tiziana Catarci – Daniel Raffini. In Agenda Digitale.eu – 24 Luglio 2023

Ital-IA 2023. Intelligenza artificiale e pubbliche amministrazioni, tra incertezze definitorie, usi disomogenei e giudici supplenti.
Di Marina Pietrangelo - Lorenzo Nannipieri. Ital-IA 2023: 3rd National Conference on Artificial Intelligence, organized by CINI, Pisa, Italy - May 29-31, 2023

Di Eva Maria Menéndez Sebastián. In Rivista Interdisciplinare Sul Diritto delle Amministrazioni Pubbliche 2/2023 - aprile 2023

2022
L’intelligenza artificiale nella pubblica amministrazione
Di Paolo Marinoni. In AInews.it – giugno 2022

L’impiego di sistemi di intelligenza artificiale nelle pubbliche amministrazioni italiane: prove generali
Di Edoardo Chiti, Barbara Marchetti, Nicoletta Rangone. In BioLaw Journal. Rivista di BioDiritto, n. 2/2022

Intelligenza artificiale e pubbliche amministrazioni: affrontare i numerosi rischi per trarne tutti i vantaggi
Di Nicoletta Rangone. In BioLaw Journal. Rivista di BioDiritto, n. 2/2022

L'intelligenza artificiale per la pubblica amministrazione: potenzialità e limiti
Tesi di Laurea. Di Michelle Rigodanza - A.A. 2021/2022. Università degli Studi di Padova,  Dipartimento di Scienze Politiche, Giuridiche e Studi internazionali

Di Roberto Cavallo Perin - Isabella Alberti. Quaderni del Dipartimento di Giurisprudenza dell’Università di Torino – marzo 2021 

Studi e Documenti dalle istituzioni nazionali

GPDP. Garante per la protezione dei dati personali
AI Intelligenza Artificiale. Provvedimenti, News, Interviste
in evidenza:
Intelligenza artificiale e ruolo della protezione dei dati personali. L’analisi di Ginevra Cerrina Feroni (Garante Privacy) – febbraio 2023

Governo italiano. Dipartimento per la trasformazione digitale
Intelligenza Artificiale: l’Italia lancia la strategia nazionale – novembre 2021

Governo Italiano. Ministero dell’Università e della Ricerca- Ministero dello Sviluppo Economico - Ministro per l’Innovazione tecnologica e la Transizione Digitale
Programma Strategico Intelligenza Artificiale 2022-2024 – novembre 2021

Camera dei deputati - XVIII Legislatura
Documentazione e ricerche:
Riunione interparlamentare della Commissione speciale sull'intelligenza artificiale in un'era digitale (AIDA) del Parlamento europeo sul tema “Intelligenza artificiale e decennio digitale” – novembre 2021
Intelligenza artificiale, dati e big data: profili tecnici e sviluppi normativi – maggio 2021

Ministero dello sviluppo Economico
Strategia Nazionale per l’Intelligenza Artificiale – settembre 2020
Proposte per una Strategia italiana per l'intelligenza artificiale – maggio 2020

AGID- Agenzia per l’Italia Digitale
Libro bianco. L’Intelligenza Artificiale al servizio del cittadino - 2018  

Selezione di Giurisprudenza

Massime Consiglio di Stato –Tar in tema di “utilizzo dell’algoritmo” da parte delle Pubbliche Amministrazioni

Consiglio di Stato sez. III, 25/11/2021, n.7891
Intelligenza artificiale ed algoritmo nell’appalto di forniture di un dispositivo medico con elevato grado di automazione
Ai fini della fornitura di un dispositivo medico con elevato grado di automazione non occorre che l'amministrazione faccia espresso riferimenti a elementi di intelligenza artificiale, essendo del tutto sufficiente, anche in considerazione della peculiarità del prodotto (pacemaker dotati, per definizione, di una funzione continuativa di « sensing » del ritmo cardiaco e di regolazione dello stesso) il riferimento allo specifico concetto di algoritmo, ossia ad istruzioni capaci di fornire un efficiente grado di automazione, ulteriore rispetto a quello di base, sia nell'area della prevenzione che del trattamento delle tachiaritmie atriali.
Fonte: Foro Amministrativo (Il) 2021, 11, 1721

T.A.R. Roma, (Lazio) sez. III, 01/07/2020, n.7526
Deve essere accessibile un algoritmo utilizzato dalla PA per la valutazione di un concorso
L'algoritmo che sia espressione dell'attività svolta dalla p.a. è assoggettato alle regole di accessibilità pubblicistiche, a prescindere dalla natura pubblica o privata dell'ente che provvede alla fornitura alla p.a. Di un programma informatico.
Fonte: AIDA 2021, 1, 909

Consiglio di Stato Sez. VI, 04/02/2020, n. 881
Ministero dell'Istruzione dell'Università e della Ricerca c. O.B. e altri. AMMINISTRAZIONE PUBBLICA. In genere
Non vi sono ragioni di principio o concrete, per limitare l'ammissibilità dell'uso di algoritmi informatici nel procedimento di formazione della decisione amministrativa all'attività vincolata della P.A. piuttosto che a quella discrezionale, essendo entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse. In disparte la stessa sostenibilità a monte dell'attualità di una tale distinzione, atteso che ogni attività autoritativa comporta una fase quantomeno di accertamento e di verifica della scelta ai fini attribuiti dalla legge, se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla c.d. attività vincolata, nulla vieta che i medesimi fini predetti, perseguiti con il ricorso all'algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità. (Conferma T.A.R. Lazio n. 6607 del 2019.)
Fonte: Massima redazionale, 2020

Consiglio di Stato Sez. VI, 04/02/2020, n. 881
Ministero dell'Istruzione dell'Università e della Ricerca c. O.B. e altri. AMMINISTRAZIONE PUBBLICA In genere
In caso di ricorso ad algoritmi per l'adozione di provvedimenti amministrativi, la "caratterizzazione multidisciplinare" dell'algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la "formula tecnica", che di fatto rappresenta l'algoritmo, sia corredata da spiegazioni che la traducano nella "regola giuridica" ad essa sottesa e che la rendano leggibile e comprensibile. Con le già individuate conseguenze in termini di conoscenza e di sindacabilità. In senso contrario non può assumere rilievo la riservatezza delle imprese produttrici dei meccanismi informatici utilizzati i quali, ponendo al servizio del potere autoritativo tali strumenti, all'evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza.
Fonte: Massima redazionale, 2020

Consiglio di Stato sez. VI, 02/01/2020, n.30
Accesso agli atti: l'ideatore dell'algoritmo relativo ad una procedura di concorso pubblico va qualificato come parte controinteressata all'ostensione
In tema di accesso agli atti, l'ideatore dell'algoritmo relativo ad una procedura di concorso pubblico va qualificato come parte controinteressata all'ostensione, potendo questi, in caso di esibizione, vedere compromesso il proprio diritto a mantenere segreta la regola tecnica in cui si sostanzia la propria creazione. Ad affermarlo è il Consiglio di Stato in relazione a una controversia sorta in seguito al mancato superamento della prova scritta di un concorso pubblico da parte di alcuni candidati i quali, ritenendo l'esito negativo era dipeso dal malfunzionamento del software di gestione della prova, avevano presentato richiesta di accesso all'algoritmo di calcolo e ai codici sorgente del medesimo software. Dopo il rigetto dell'amministrazione e l'accoglimento del ricorso del TAR, i giudici di Palazzo Spada sottolineano il mancato coinvolgimento del controinteressato, il quale ben può subire un pregiudizio nella propria sfera giuridica, in quanto titolare di dati personali ovvero di segreti commerciali o tecnici, suscettibili di essere disvelati dall'ostensione del documento richiesto.
Fonte: Guida al diritto 2020, 13, 106

Consiglio di Stato sez. VI, 13/12/2019, n.8472
Ammissibile l'utilizzo nel procedimento amministrativo di procedura informatica che attraverso algoritmo conduce a decisione finale
L'utilizzo nel procedimento amministrativo di una procedura informatica che attraverso un algoritmo conduca direttamente alla decisione finale deve ritenersi ammissibile, in via generale, nel nostro ordinamento, anche nell'attività amministrativa connotata da ambiti di discrezionalità, a condizione che siano osservati: a) la piena conoscibilità del modulo; b) l'imputabilità della decisione all'organo titolare del potere, cui competono tutte le responsabilità correlate; c) il carattere non discriminatorio dell'algoritmo utilizzato.
Fonte: Foro it. 2020, 6, III, 340

Consiglio di Stato Sez. VI, 13/12/2019, n. 8472
Ministero dell'Istruzione dell'Università e della Ricerca e altri c. P.C. e altri. GIUSTIZIA AMMINISTRATIVA - Atto impugnabile in genere
In materia di ricorso ad algoritmi per l'adozione di provvedimenti amministrativi, anche alla luce della disciplina di origine sovranazionale, assumono rilievo fondamentale due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica: la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati e l'imputabilità della decisione all'organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all'algoritmo. Sul versante della piena conoscibilità, rilievo preminente ha il principio della trasparenza, da intendersi sia per la stessa p.a. titolare del potere per il cui esercizio viene previsto il ricorso allo strumento dell'algoritmo, sia per i soggetti incisi e coinvolti dal potere stesso. (Conferma T.A.R. Lazio Roma, Sez. III, n. 9230/2018.)
Fonte: Massima redazionale, 2019

Consiglio di Stato sez. VI, 08/04/2019, n.2270
Atto amministrativo informatico
Posto che l'algoritmo a cui una amministrazione affidi un proprio processo decisionale deve essere considerato a tutti gli effetti un atto amministrativo informatico, ne deriva che tale algoritmo deve essere conoscibile - con riferimento ai suoi autori, al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti - e soggetto alla cognizione e al sindacato del giudice amministrativo (nella specie, è stata ritenuta illegittima la procedura automatizzata prevista dalla l. n. 107/2015, tesa ad attuare un piano straordinario di assunzioni a tempo indeterminato nelle scuole perché i giudici non sono stati in grado di comprendere le modalità con le quali, attraverso l'algoritmo adoperato dall'amministrazione, sono stati assegnati i posti disponibili, essendosi verificati esiti illogici e irrazionali come il trattamento di maggior favore riservato a docenti con minori titoli e minore anzianità).
Fonte: Foro it. 2019, 11, III, 606

Consiglio di Stato Sez. VI, 08/04/2019, n. 2270
ATTI AMMINISTRATIVI In genere GIUSTIZIA AMMINISTRATIVA Giurisdizione in genere
L'utilizzo di procedure "robotizzate" di decisione della P.A., tramite algoritmi, per quanto legittimo, non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell'attività amministrativa. La regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall'uomo e non dalla macchina, per essere poi (solo) applicata da quest'ultima, anche se ciò avviene in via esclusiva. L'algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un "atto amministrativo informatico". La regola algoritmica: - possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale deve soggiacere ai principi generali dell'attività amministrativa, quali quelli di pubblicità e trasparenza, di ragionevolezza, di proporzionalità, etc.; - non può lasciare spazi applicativi discrezionali (di cui l'elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili; la discrezionalità amministrativa è da rintracciarsi al momento dell'elaborazione dello strumento digitale; - vede sempre la necessità che sia l'amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell'algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning); - deve contemplare la possibilità che sia il giudice a dover svolgere, per la prima volta sul piano "umano", valutazioni e accertamenti fatti direttamente in via automatica, con la conseguenza che la decisione robotizzata impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti. (Riforma T.A.R. Lazio Roma, n. 12026 del 2016)
Fonte: Quotidiano Giuridico, 2019

 

Fonti utilizzate per la ricerca giurisprudenziale:
Banca Dati De Jure - Giuffrè
Banca Dati Leggi d’Italia PA - Wolters Kluwers


 

VIENI IN BIBLIOTECA!  

Siamo aperti al pubblico nella sede di viale Aldo Moro 32

  • dal lunedì al venerdì dalle ore 9 alle ore 13
  • il martedì fino alle ore 17                

Per maggiori informazioni: biblcons@regione.emilia-romagna - telefono 051 527 5047.

seguici su