Monitor Speciale 4/2023 - Intelligenza Artificiale e Pubblica Amministrazione

Per approfondire: consulta la Bibliografia ”Amministrazione pubblica digitale”, curata dalla Biblioteca dell'Assemblea Legislativa.

Dal web. Documenti, Atti e pubblicazioni disponibili in rete

Studi e Documenti dalle istituzioni nazionali

GPDP. Garante per la protezione dei dati personali
AI Intelligenza Artificiale. Provvedimenti, News, Interviste…
in evidenza:
Intelligenza artificiale e ruolo della protezione dei dati personali. L’analisi di Ginevra Cerrina Feroni (Garante Privacy) – febbraio 2023

Governo italiano. Dipartimento per la trasformazione digitale
Intelligenza Artificiale: l’Italia lancia la strategia nazionale – novembre 2021

Governo Italiano. Ministero dell’Università e della Ricerca- Ministero dello Sviluppo Economico - Ministro per l’Innovazione tecnologica e la Transizione Digitale
Programma Strategico Intelligenza Artificiale 2022-2024 – novembre 2021

Camera dei deputati - XVIII Legislatura
Documentazione e ricerche:
Riunione interparlamentare della Commissione speciale sull'intelligenza artificiale in un'era digitale (AIDA) del Parlamento europeo sul tema “Intelligenza artificiale e decennio digitale” – novembre 2021
Intelligenza artificiale, dati e big data: profili tecnici e sviluppi normativi – maggio 2021

Ministero dello sviluppo Economico
Strategia Nazionale per l’Intelligenza Artificiale – settembre 2020
Proposte per una Strategia italiana per l'intelligenza artificiale – maggio 2020

AGID- Agenzia per l’Italia Digitale
Libro bianco. L’Intelligenza Artificiale al servizio del cittadino - 2018  

Selezione di Giurisprudenza

Massime Consiglio di Stato –Tar in tema di “utilizzo dell’algoritmo” da parte delle Pubbliche Amministrazioni

Consiglio di Stato sez. III, 25/11/2021, n.7891
Intelligenza artificiale ed algoritmo nell’appalto di forniture di un dispositivo medico con elevato grado di automazione
Ai fini della fornitura di un dispositivo medico con elevato grado di automazione non occorre che l'amministrazione faccia espresso riferimenti a elementi di intelligenza artificiale, essendo del tutto sufficiente, anche in considerazione della peculiarità del prodotto (pacemaker dotati, per definizione, di una funzione continuativa di « sensing » del ritmo cardiaco e di regolazione dello stesso) il riferimento allo specifico concetto di algoritmo, ossia ad istruzioni capaci di fornire un efficiente grado di automazione, ulteriore rispetto a quello di base, sia nell'area della prevenzione che del trattamento delle tachiaritmie atriali.
Fonte: Foro Amministrativo (Il) 2021, 11, 1721

T.A.R. Roma, (Lazio) sez. III, 01/07/2020, n.7526
Deve essere accessibile un algoritmo utilizzato dalla PA per la valutazione di un concorso
L'algoritmo che sia espressione dell'attività svolta dalla p.a. è assoggettato alle regole di accessibilità pubblicistiche, a prescindere dalla natura pubblica o privata dell'ente che provvede alla fornitura alla p.a. Di un programma informatico.
Fonte: AIDA 2021, 1, 909

Consiglio di Stato Sez. VI, 04/02/2020, n. 881
Ministero dell'Istruzione dell'Università e della Ricerca c. O.B. e altri. AMMINISTRAZIONE PUBBLICA. In genere
Non vi sono ragioni di principio o concrete, per limitare l'ammissibilità dell'uso di algoritmi informatici nel procedimento di formazione della decisione amministrativa all'attività vincolata della P.A. piuttosto che a quella discrezionale, essendo entrambe espressione di attività autoritativa svolta nel perseguimento del pubblico interesse. In disparte la stessa sostenibilità a monte dell'attualità di una tale distinzione, atteso che ogni attività autoritativa comporta una fase quantomeno di accertamento e di verifica della scelta ai fini attribuiti dalla legge, se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla c.d. attività vincolata, nulla vieta che i medesimi fini predetti, perseguiti con il ricorso all'algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità. (Conferma T.A.R. Lazio n. 6607 del 2019.)
Fonte: Massima redazionale, 2020

Consiglio di Stato Sez. VI, 04/02/2020, n. 881
Ministero dell'Istruzione dell'Università e della Ricerca c. O.B. e altri. AMMINISTRAZIONE PUBBLICA In genere
In caso di ricorso ad algoritmi per l'adozione di provvedimenti amministrativi, la "caratterizzazione multidisciplinare" dell'algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la "formula tecnica", che di fatto rappresenta l'algoritmo, sia corredata da spiegazioni che la traducano nella "regola giuridica" ad essa sottesa e che la rendano leggibile e comprensibile. Con le già individuate conseguenze in termini di conoscenza e di sindacabilità. In senso contrario non può assumere rilievo la riservatezza delle imprese produttrici dei meccanismi informatici utilizzati i quali, ponendo al servizio del potere autoritativo tali strumenti, all'evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza.
Fonte: Massima redazionale, 2020

Consiglio di Stato sez. VI, 02/01/2020, n.30
Accesso agli atti: l'ideatore dell'algoritmo relativo ad una procedura di concorso pubblico va qualificato come parte controinteressata all'ostensione
In tema di accesso agli atti, l'ideatore dell'algoritmo relativo ad una procedura di concorso pubblico va qualificato come parte controinteressata all'ostensione, potendo questi, in caso di esibizione, vedere compromesso il proprio diritto a mantenere segreta la regola tecnica in cui si sostanzia la propria creazione. Ad affermarlo è il Consiglio di Stato in relazione a una controversia sorta in seguito al mancato superamento della prova scritta di un concorso pubblico da parte di alcuni candidati i quali, ritenendo l'esito negativo era dipeso dal malfunzionamento del software di gestione della prova, avevano presentato richiesta di accesso all'algoritmo di calcolo e ai codici sorgente del medesimo software. Dopo il rigetto dell'amministrazione e l'accoglimento del ricorso del TAR, i giudici di Palazzo Spada sottolineano il mancato coinvolgimento del controinteressato, il quale ben può subire un pregiudizio nella propria sfera giuridica, in quanto titolare di dati personali ovvero di segreti commerciali o tecnici, suscettibili di essere disvelati dall'ostensione del documento richiesto.
Fonte: Guida al diritto 2020, 13, 106

Consiglio di Stato sez. VI, 13/12/2019, n.8472
Ammissibile l'utilizzo nel procedimento amministrativo di procedura informatica che attraverso algoritmo conduce a decisione finale
L'utilizzo nel procedimento amministrativo di una procedura informatica che attraverso un algoritmo conduca direttamente alla decisione finale deve ritenersi ammissibile, in via generale, nel nostro ordinamento, anche nell'attività amministrativa connotata da ambiti di discrezionalità, a condizione che siano osservati: a) la piena conoscibilità del modulo; b) l'imputabilità della decisione all'organo titolare del potere, cui competono tutte le responsabilità correlate; c) il carattere non discriminatorio dell'algoritmo utilizzato.
Fonte: Foro it. 2020, 6, III, 340

Consiglio di Stato Sez. VI, 13/12/2019, n. 8472
Ministero dell'Istruzione dell'Università e della Ricerca e altri c. P.C. e altri. GIUSTIZIA AMMINISTRATIVA - Atto impugnabile in genere
In materia di ricorso ad algoritmi per l'adozione di provvedimenti amministrativi, anche alla luce della disciplina di origine sovranazionale, assumono rilievo fondamentale due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica: la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati e l'imputabilità della decisione all'organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all'algoritmo. Sul versante della piena conoscibilità, rilievo preminente ha il principio della trasparenza, da intendersi sia per la stessa p.a. titolare del potere per il cui esercizio viene previsto il ricorso allo strumento dell'algoritmo, sia per i soggetti incisi e coinvolti dal potere stesso. (Conferma T.A.R. Lazio Roma, Sez. III, n. 9230/2018.)
Fonte: Massima redazionale, 2019

Consiglio di Stato sez. VI, 08/04/2019, n.2270
Atto amministrativo informatico
Posto che l'algoritmo a cui una amministrazione affidi un proprio processo decisionale deve essere considerato a tutti gli effetti un atto amministrativo informatico, ne deriva che tale algoritmo deve essere conoscibile - con riferimento ai suoi autori, al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti - e soggetto alla cognizione e al sindacato del giudice amministrativo (nella specie, è stata ritenuta illegittima la procedura automatizzata prevista dalla l. n. 107/2015, tesa ad attuare un piano straordinario di assunzioni a tempo indeterminato nelle scuole perché i giudici non sono stati in grado di comprendere le modalità con le quali, attraverso l'algoritmo adoperato dall'amministrazione, sono stati assegnati i posti disponibili, essendosi verificati esiti illogici e irrazionali come il trattamento di maggior favore riservato a docenti con minori titoli e minore anzianità).
Fonte: Foro it. 2019, 11, III, 606

Consiglio di Stato Sez. VI, 08/04/2019, n. 2270
ATTI AMMINISTRATIVI In genere GIUSTIZIA AMMINISTRATIVA Giurisdizione in genere
L'utilizzo di procedure "robotizzate" di decisione della P.A., tramite algoritmi, per quanto legittimo, non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell'attività amministrativa. La regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall'uomo e non dalla macchina, per essere poi (solo) applicata da quest'ultima, anche se ciò avviene in via esclusiva. L'algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un "atto amministrativo informatico". La regola algoritmica: - possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale deve soggiacere ai principi generali dell'attività amministrativa, quali quelli di pubblicità e trasparenza, di ragionevolezza, di proporzionalità, etc.; - non può lasciare spazi applicativi discrezionali (di cui l'elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili; la discrezionalità amministrativa è da rintracciarsi al momento dell'elaborazione dello strumento digitale; - vede sempre la necessità che sia l'amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell'algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning); - deve contemplare la possibilità che sia il giudice a dover svolgere, per la prima volta sul piano "umano", valutazioni e accertamenti fatti direttamente in via automatica, con la conseguenza che la decisione robotizzata impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti. (Riforma T.A.R. Lazio Roma, n. 12026 del 2016)
Fonte: Quotidiano Giuridico, 2019

Fonti utilizzate per la ricerca giurisprudenziale:
Banca Dati De Jure - Giuffrè
Banca Dati Leggi d’Italia PA - Wolters Kluwers