Opinioni

Amministrazione digitale

Intelligenza artificiale

L’intelligenza artificiale nella cura

dell’interesse generale
di Gianluca Fasano

La digitalizzazione della pubblica amministrazione, con le sue straordinarie potenzialità, deve pro-
muovere un processo di inclusione di cittadini e imprese, a garanzia della loro partecipazione
democratica al funzionamento dello Stato. L’innovazione tecnologica, però, introduce elementi di
rischio che potrebbero favorire una loro esclusione. In tale scenario, occorre che la pubblica
amministrazione sappia farsi interprete di un rinnovato bisogno di trasparenza, accompagnando la
tendenziale neutralità dell’algoritmo con adeguate azioni di accountability, trasparenza e controllo, al
fine di contribuire all’imparzialità della funzione amministrativa.

Introduzione tendenze, rischi e di raccogliere migliori informazioni

Le potenzialità delle nuove tecnologie mostrano i
loro effetti in qualsiasi settore dell’attività umana:
l’intelligenza artificiale (1) riconosce il volto di una
persona identificando un soggetto (2), supporta i
medici nella lettura delle immagini radiografiche e
nelle diagnosi, offre maggiore sicurezza nei trasporti,
concorre alla tutela dell’ambiente ed altro ancora.
Grazie alla capacità di analizzare in modo rapido ed
efficiente set di dati complessi e di grandi dimensioni,
i c.d. “big data” (3), siamo in grado di identificare
per pianificazioni future. E l’intelligenza artificiale
rappresenta il metodo naturale di analisi dei big
data (4), una miniera di informazioni che non può
essere gestita dall’uomo attraverso le tradizionali
metodologie di archiviazione e analisi, ma necessita
inevitabilmente dell’ausilio delle nuove tecnologie.
Per i soggetti pubblici ciò rappresenta l’opportunità
di identificare con precisione le esigenze dei cittadini
e, conseguentemente, di intervenire con servizi
meglio rispondenti al benessere della collettività

(1) Per Intelligenza Artificiale (IA) si intende “la scienza che
sviluppa modelli computazionali del comportamento intelligente,
e quindi fa sì che gli elaboratori possano eseguire compiti che
richiederebbero intelligenza da parte dell’uomo”, così G. Sartor,
Intelligenza artificiale e diritto, Milano, 1996, 10. Tra le definizioni
più accreditate spicca quella dell’Università di Stanford, che la
identifica come “una scienza e un insieme di tecniche computa-
zionali che vengono ispirate - pur operando tipicamente in maniera
diversa - dal modo in cui gli esseri umani utilizzano il proprio
sistema nervoso e il proprio corpo per sentire, imparare, ragionare
e agire”. Si veda “Artificial Intelligence and life in 2030, One
hundred year study on Artificial Intelligence”, Stanford University,
2016, 5. La Commissione europea nella sua Comunicazione al
Parlamento, al Consiglio, al Comitato economico e sociale euro-
peo e al Comitato delle regioni “L’intelligenza artificiale per l’Eu-
ropa”, doc. n. COM (2018) 237 del 25 aprile 2018, definisce
l’intelligenza artificiale come “sistemi che mostrano un compor-
tamento intelligente analizzando il proprio ambiente e compiendo
azioni, con un certo grado di autonomia, per raggiungere specifici
obiettivi”. La definizione data dal dizionario De Mauro è quella di
“insieme di studi e tecniche che tendono alla realizzazione di
macchine, specialmente calcolatori elettronici, in grado di risol-
vere problemi e di riprodurre attività proprie dell’intelligenza
umana”.
(2) L’Alta Corte di giustizia del Regno Unito, sede di Cardiff, si è
recentemente pronunciata sulla liceità dell’uso della tecnologia di
riconoscimento facciale automatico (AFR - Automated Facial
Recognition) da parte della Polizia del Galles in luoghi pubblici,
https://www.judiciary.uk/wp-content/uploads/2019/09/bridges-
swp-judgment-Final03-09-19-1.pdf.
(3) Il concetto di big data è tradizionalmente spiegato facendo
ricorso alla teoria delle cc.dd. “5V” per indicare che tali dati
sarebbero caratterizzati da: Volume (ossia grandi quantità di
dati), Velocità (ossia la rapida disponibilità e analisi degli stessi),
Varietà (ossia, da un punto di vista qualitativo, l’enorme tipologia di
dati presenti), Variabilità (il contenuto dei dati muta di significato a
seconda dell’analisi a cui è sottoposto) e Valore (dipende dal
crescente potenziale economico e dalla valenza sociale dei dati).
In letteratura, M. Delmastro - A. Nicita, Big data. Come stanno
cambiando il nostro mondo, Bologna, 2019; M. Maggiolino, I big
data e il diritto antitrust, Milano, 2018; V. Zeno-Zencovich, Dati,
grandi dati, dati granulari e la nuova epistemologia del giurista, in
Medialaws, 2, 2018, 32 ss.; M. Orefice, I big data e gli effetti su
privacy, trasparenza e iniziativa economica, Roma, 2018; L. Cali-
fano - C. Colapietro (a cura di), Innovazione tecnologica e valore
della persona. Il diritto alla protezione dei dati personali nel Rego-
lamento UE 2016/679, Napoli, 2017.
(4) Cfr. sul punto il Libro Bianco dell’Agenzia per l’Italia Digitale
del marzo 2018, L’intelligenza artificiale al servizio del cittadino,
52, ove si evidenzia che i big data richiedono “...modelli e metodi di
recupero e filtraggio delle informazioni fondati su tecnologie
semantiche e ontologie condivise”.

Giornale di diritto amministrativo 6/2020 715

Opinioni
Amministrazione digitale
nonché di effettuare migliori previsioni sulla base
degli eventi e delle correlazioni scoperte. La versati-
lità di questi strumenti potrà esser sfruttata sul piano
della compliance in materia di anticorruzione (5),
della tutela dei dati personali (6) e della conformità
normativa in generale (7), del market abuse (8), della
giustizia predittiva (9), della sanità pubblica, in mate-
ria fiscale (10) ed altro ancora (11).
Un ulteriore aspetto che caratterizza l’intelligenza
artificiale è rappresentato dall’innalzamento del
livello di razionalità delle scelte assunte. Le macchine
sono guidate da criteri logico-matematici, il che
comporta un innalzamento del livello di controllo
e di neutralità dei risultati attesi. Tale caratteristica
impone di affrontare l’interrogativo se l’introduzione
di tecnologie informatiche ed elettroniche nella
gestione del rapporto tra cittadini e pubblica ammi-
nistrazione possa far registrare benefici in termini di
imparzialità, aiutando i decisori a superare eventuali
pregiudizi che possono derivare dalla personalità o
dalle emozioni delle persone.
In effetti, l’applicazione di tali strumenti nell’ambito
dell’esercizio della funzione amministrativa potrebbe
portare all’innalzamento del livello di imparzialità
della funzione stessa, da sempre visto come un
(5) Per una panoramica dell’applicazione di machine learning in
tale settore si vedano, ex multis Olsen, William P. et al., Using Data
Analytics to Meet the Government’s Anti-Corruption Compliance
Expectations, The Anti-corruption Report (www.anti-corruption.
com), v. 5, n. 9, may 2016; Daniels, Donna et al., Real Risks,
Artificial Intelligence: The Next Wave of Anti-Corruption Com-
pliance?, The Anti-corruption Report (www.anti-corruption.
com), v. 7, n. 4, february 2018.
(6) Il Garante Europeo per la protezione dei dati personali
(European Data Protection Supervisor, “EDPS” o anche
“GEPD”) ha sviluppato e lanciato un importante strumento: il
Website Evidence Collector (WEC), un tool che esamina in auto-
matico i siti web e ne determina la conformità alle norme sulla
protezione dei dati (https://edps.europa.eu/press-publications/
edps-inspection-software_en).
(7) La RegTech (Regulatory Technology) è il settore delle nuove
tecnologie che si incentra sulla produzione di soluzioni basate
sull’analisi dei big data, con l’obiettivo di garantire il monitoraggio
dello stato attuale di conformità normativa e la valutazione all’e-
sposizione del rischio normativo.
(8) La National Association of Securities Dealers Automated
Quotation (Nasdaq) ha implementato sistemi di machine learning
per rilevare attività commerciali irregolari e potenzialmente dan-
nose nel mercato azionario statunitense.
(9) M. Gialuz, Quando la giustizia penale incontra l’intelligenza
artificiale: luci e ombre dei risk assessment tools tra Stati Uniti ed
Europa”, in Dir. Pen. Cont., 29 maggio 2019. C. Parodi - V. Sellaroli,
Sistema penale e intelligenza artificiale: molte speranze e qualche
equivoco, in Dir. Pen. Cont., 6, 2019, 47-71.
(10) Negli Stati Uniti l’amministrazione fiscale ha introdotto nel
2005 lo US Internal Revenue Service (Irs), che sfrutta il machine
learning per procedure di controllo su piccole imprese ed imprese
individuali.
(11) Nel settore privato il ricorso agli algoritmi predittivi è molto
diffuso. Grazie ad essi si riescono a scoprire patterns indispensa-
bili per costruire nuove linee di business. Vedi F. Pasquale, The
716
traguardo fondamentale negli assetti stessi del rap-
porto tra libertà e autorità (12). Ed è questa la sfida
che la rivoluzione 4.0 pone alla funzione ammini-
strativa (13), inducendo ad indagare sulla compren-
sione delle implicazioni che l’utilizzo della macchina,
in grado di “emulare” il ragionamento dell’uomo,
porterà nell’esercizio dei poteri pubblici (14) e,
segnatamente, nella fase istruttoria e definitoria del
provvedimento amministrativo.
Sebbene l’introduzione di sistemi di Intelligenza arti-
ficiale a supporto dei poteri pubblici possa contribuire
a generare valore nell’interesse della collettività,
l’esperienza ha messo in evidenza i rischi che possono
derivare dall’utilizzo di algoritmi, posto che i risultati
dei sistemi di intelligenza artificiale possono essere
del tutto errati e fuorvianti, a causa dell’inserimento
di dati erronei o di pregiudizi nella costruzione dei
modelli matematici oppure di errori interni al loro
funzionamento. E sebbene l’algoritmo sia dotato di
una propensione naturale verso la neutralità, esso
non può esser più imparziale di colui che lo ha creato.
Per queste ragioni, affinché la neutralità insita nel-
l’algoritmo si traduca in imparzialità dei suoi risultati
è indispensabile costruire un sistema di accountability,
fatto di trasparenza rafforzata (15), di strumenti di
Black Box Society: The Secret Algorithms That Control Money and
Information, Cambridge-London, 2015.
(12) Secondo l’insegnamento tradizionale l’organizzazione dei
pubblici uffici è essa stessa garanzia della cura dell’interesse
generale e della tutela dei diritti dei cittadini, in linea con il dettato
dell’art. 97 Cost. per cui “i pubblici uffici sono organizzati...in modo
che siano assicurati il buon andantemente e l’imparzialità dell’am-
ministrazione”. In questo senso F. Merloni, Costituzione repub-
blicana, riforme amministrative e riforme del sistema
amministrativo, in Diritto pubblico, 2018, 82, per il quale “è nel-
l’organizzazione amministrativa, nella costruzione di ‘uffici’ ade-
guati alle funzioni (...) assegnate, che si afferma la prima e
fondamentale garanzia della cura effettiva dell’interesse generale
(...)”.
(13) A. Masucci, Atto amministrativo informatico, in Enc. dir.,
Milano, 1997, aggiorn. I, 221. L’autore descrive l’impiego del
computer a “definire ... - in base ad un input e ad un programma
- il contenuto di un regolamento di interessi; può produrre esso
stesso atti amministrativi”. G. Duni, L’amministrazione digitale. Il
diritto amministrativo nella evoluzione telematica, Milano,
2008, 74.
(14) Alle autorità pubbliche è richiesto un cambio di passo. È da
considerare archiviata la fase di transizione al computer inteso
come archivio digitale, in sostituzione dell’archivio cartaceo,
ovvero inteso come un elaboratore testi a video, in sostituzione
della macchina da scrivere su carta. Nell’ambito della pubblica
amministrazione sono state acquisite nuove abilità nell’utilizzo di
strumenti informatici, che hanno sostituito vecchi strumenti di
lavoro.
(15) Sul tema si veda l’editoriale di B. Carotti, Algoritmi e poteri
pubblici: un rapporto incendiario, in questa Rivista, 2020, 1, 5.
L’autore evidenzia che “Il problema dell’algoritmo nella pubblica
amministrazione è legato alla sua conoscibilità, alla possibilità di
accedere e comprendere le scelte che ne hanno determinato
l’adozione e, infine, ai meccanismi di tutela e responsabilità”.
Giornale di diritto amministrativo 6/2020

controllo e di nuove prospettive organizzative del
lavoro pubblico, al fine di non vanificare i potenziali
benefici in termini di maggiore imparzialità derivanti
dai modelli decisionali automatizzati.
L’informatizzazione del procedimento
amministrativo, vincolato e discrezionale
Nel dibattito scientifico italiano il tema relativo alla
possibilità di applicare strumenti di intelligenza arti-
ficiale nell’ambito della funzione amministrativa si è
sviluppato attorno alla dicotomia esistente tra atti-
vità vincolata e attività discrezionale, lasciando spa-
zio - almeno inizialmente e prevalentemente -
all’opinione che consente l’informatizzazione sol-
tanto nelle attività vincolate.
Tradizionalmente, i procedimenti di natura vincolata
vengono ricondotti nello schema “norma-fatto-
effetto” (16), concetto con cui si indicano quei pro-
cessi in cui il legislatore fissa i presupposti e i conse-
guenti effetti, lasciando alla funzione amministrativa
un’attività di verifica circa la sussistenza dei primi.
Mancando una vera e propria fase valutativa, intesa
quale ponderazione tra l’interesse pubblico primario e
egli interessi confliggenti, l’attività vincolata è stata
considerata pienamente compatibile con l’informatiz-
zazione del procedimento amministrativo, ed in parti-
colar modo con modelli decisionali automatizzati.
In effetti, attraverso cicli informatici di “if - then” si può
gestire l’intera fase decisionale del procedimento
amministrativo vincolato: fissati i presupposti norma-
tivi e i conseguenti effetti provvedimentali il ciclo “if -
then” verifica che i dai fattuali corrispondano ai pre-
supposti normativi, così da ricavare in modo auto-
matico la decisione finale. La macchina svolge un
giudizio condizionale, in forza del quale se (if) si
verifica il presupposto “A”, allora (then) dovrà prodursi
l’effetto “B” (17). Sicché la decisione da cui scaturisce
il provvedimento amministrativo potrà esser
(16) Parte della dottrina riconduce l’attività vincolata allo
schema “norma fatto potere effetto”, con la precisazione che il
potere, a differenza di quanto accade nell’ambito delle attività
discrezionali, si limita ad un accertamento dei requisiti previsti
dalla norma anziché involgere nella ponderazione tra interesse
primario ed interessi con esso confliggenti, pubblici o privati.
(17) F. Morollo, Documento elettronico fra e-government e
artificial intelligence (AI), in federalismi.it, Focus TMT, 2015, n.
2, 17-18.
(18) È pur vero che siffatti processi automatizzati sono forme
molto semplici di intelligenza artificiale in confronto alla comples-
sità di funzionamento dei dispositivi di c.d. machine learning
ovvero di c.d. deep learning. La definizione di machine learning
venne data da Herbert Simon nel 1959 “Il Machine Learning è
quella branca dell’informatica che permette ad una macchina di
imparare ad eseguire un compito senza essere stata esplicita-
mente programmata per farlo”. Il deep learning è quel sistema di
Giornale di diritto amministrativo 6/2020
Opinioni
Amministrazione digitale
automatizzata, muovendo dalla codifica dei presuppo-
sti normativi, laddove questi non ricorrano a concetti
giuridici indeterminati, per poi individuare i passaggi
logici e conseguenziali che la macchina svolgerà in via
automatica, realizzando il medesimo schema di natura
sillogistica che avrebbe condotto l’uomo (18).
Analizzando gli insegnamenti offerti dalla giurispru-
denza, nelle occasioni in cui si è trovata ad affrontare la
questione dell’utilizzo degli algoritmi nell’esercizio
della funzione amministrativa, si può annotare come
la stessa non abbia dato indirizzi univoci.
Una prima pronuncia sul tema risale alla decisione del
Cons. Stato, Sez. VI, 7 febbraio 1995, n. 152 (19), in
cui si afferma che l’azione amministrativa che si avvale
di procedure informatizzate e di macchine elettroni-
che non si differenzia in alcun modo da quella ammi-
nistrativa ordinaria, posto che “i programmi
informatici ... non sono che sequenze di ordini o
precetti che la macchina elettronica deve eseguire
in circostanze predeterminate, così che anche di essi
è certamente possibile il controllo giurisdizionale”.
La potestà organizzativa dei pubblici uffici e l’autono-
mia amministrativa sono idonee a fondare la scelta di
articolare il procedimento amministrativo mediante
l’utilizzo di modelli automatizzati. In tal senso si è
espresso il T.A.R. Lazio, Roma, Sez. III-bis, 14 febbraio
2017, n. 3769, secondo cui “quanto alla decisione di fare
ricorso all’elaborazione elettronica ai fini della defini-
zione del contenuto dell’atto, la predetta decisione si
sostanzia, in realtà, esclusivamente nella metodologia
prescelta dall’amministrazione ai fini dell’articolazione
e dello svolgimento del procedimento amministra-
tivo” (20). Ne consegue che il processo decisionale
svolto mediante le nuove tecnologie dell’intelligenza
artificiale resta sotto il dominio e sotto la responsabilità
del funzionario, nel senso che dietro l’algoritmo si
annidano scelte di valori, di metodo e di processi
riconducibili al dominio umano, e quindi, all’opera
del funzionario pubblico (21).
apprendimento che, utilizzando le architetture di reti neurali, ela-
bora grandi set di dati e conduce ad un risultato simile a quello cui
potrebbe giungere l’uomo. Attraverso questi sistemi la macchina
elabora da sola nuovi percorsi di apprendimento. Resta evidente
che tali algoritmi non potranno avere spazio nel processo decisio-
nale della pubblica amministrazione, nella misura in cui non sarà
contenuta e limitata - ma a quel punto sarebbe vanificata la loro
stessa utilità - la loro capacità di produrre nuovi criteri deduttivi.
(19) In Foro amm., 1, 1995, 364.
(20) Per un commento alla sentenza si veda I. Forgione, Il caso
dell’accesso al software Miur per l’assegnazione dei docenti, in
questa Rivista, 2018, 5, 647.
(21) Cfr. D.U. Galetta - J.C. Corvalàn, Intelligenza artificiale per
una pubblica amministrazione 4.0? Potenzialità, rischi e sfide della
rivoluzione tecnologica in atto, in www.federalismi.it, 3, 2019, 19.
Secondo gli Autori è semmai possibile “immaginare che il funzio-
nario responsabile del procedimento si serva utilmente
717
Opinioni
Amministrazione digitale
Di recente, il dibattito si è acceso a seguito della
decisione del T.A.R. Lazio, Roma, Sez. III-bis, 27 mag-
gio 2019, n. 6606 (22), con cui si è contestato l’utilizzo
di un algoritmo preimpostato e predefinito in difetto di
“...una vera e propria attività amministrativa, essendosi
demandato ad un impersonale algoritmo lo svolgi-
mento dell’intera procedura di assegnazione dei docenti
alle sedi disponibili nell’organico dell’autonomia della
scuola”. Le argomentazioni del Tribunale riprendono
l’assunto che è pur sempre l’uomo il dominus di un
procedimento amministrativo, nel senso che le proce-
dure informatizzate “finanche ove pervengano al loro
maggior grado di precisione e addirittura alla perfezione,
non possano mai soppiantare, sostituendola davvero
appieno, l’attività cognitiva, acquisitiva e di giudizio
che solo un’istruttoria affidata ad un funzionario per-
sona fisica è in grado di svolgere” (23).
Nello stesso senso, seppur con una maggiore apertura,
la sentenza del Cons. Stato, Sez. VI, 8 aprile 2019, n.
2270 (24), con cui si legittima l’impiego di modelli
decisionali automatizzati nella funzione amministra-
tiva, purché ciò avvenga nel rispetto dei principi e
delle regole che governano l’azione amministrativa.
E comunque, esclusivamente con riferimento ai pro-
cedimenti di natura vincolata.
La decisione si pone in linea con la giurisprudenza
civile che escludeva il ricorso ad una decisione
automatizzata nel campo applicativo della discre-
zionalità amministrativa. In particolare, si ricorda
dell’Intelligenza Artificiale per poter svolgere più rapidamente, e
con maggiore precisione, attività della fase istruttoria delle quali
resta, ovviamente, il responsabile: sia in termini di verifica dei
risultati della stessa, sia in termini di collegamento fra le risultanze
della fase istruttoria e l’adozione della decisione finale che con-
fluisce nel provvedimento conclusivo del procedimento”.
(22) In senso conforme T.A.R. Lazio, Roma, Sez. III-bis, sent.,
10 settembre 2018, n. 9224, secondo cui allorquando si applichino
processi di automatizzazione nel contesto del settore pubblico,
deve sempre essere garantita la supervisione dei risultati da parte
di un “funzionario persona fisica”. Nella sentenza del T.A.R. Lazio,
Roma, Sez. III-bis, 20 luglio 2016, n. 8312, relativa a una procedura
concorsuale la cui domanda di partecipazione andava presentata
in via telematica e in cui l’esclusione era adottata non da funzionari
ma da automatismi decisionali, il Tribunale affermava la “manife-
sta irragionevolezza, ingiustizia ed irrazionalità di un sistema di
presentazione delle domande di partecipazione ad un concorso
che, a causa di meri malfunzionamenti tecnici, giunga ad eserci-
tare impersonalmente attività amministrativa sostanziale, dispo-
nendo esclusioni riconducibili a mere anomalie informatiche”.
(23) T.A.R. Lazio, Roma, Sez. III-bis, 10 settembre 2018, n.
9227.
(24) Si veda il commento di V. Canalini, L’algoritmo come “atto
amministrativo informatico” e il sindacato del giudice, in questa
Rivista, 2019, 6, 781.
(25) Nel mese di settembre 2015 veniva attuata la fase B del
piano straordinario di assunzione a tempo indeterminato, riferito ai
docenti della scuola secondaria di secondo grado, ex L. n. 107/
2015. Il Ministero dell’Istruzione per far fronte a un numero
rilevantissimo di prime assegnazioni e di richieste di mobilità, da
718
la sentenza della Cass. Civ., Sez. I, 28 dicembre
2000, n. 16204, secondo cui le procedure auto-
matizzate sono applicabili agli atti amministrativi
informatici in stretto senso, cioè di quegli atti
provenienti dalla pubblica amministrazione, diret-
tamente ed automaticamente elaborati dal sistema
informatico in quanto non richiedono valutazioni
discrezionali e motivazioni correlate alle partico-
larità del caso concreto.
Favorevole, invece, all’utilizzo degli algoritmi nei pro-
cedimenti discrezionali è la recente decisione del
Cons. Stato, Sez. VI, 13 dicembre 2019, n. 8472,
secondo cui “se il ricorso agli strumenti informatici
può apparire di più semplice utilizzo in relazione alla
c.d. attività vincolata, nulla vieta che i medesimi fini
predetti, perseguiti con il ricorso all’algoritmo infor-
matico, possano perseguirsi anche in relazione ad
attività connotata da ambiti di discrezionalità” (25).
Anche in dottrina si fronteggiano posizioni divergenti.
Si spazia dalla posizione che nega accesso dell’intelli-
genza artificiale nell’abito dell’attività discrezio-
nale (26), motivata dalla giustificazione che l’attività
discrezionale presuppone un apprezzamento e una valu-
tazione comparativa di più interessi il cui svolgimento
non può in alcun modo essere affidato alla mac-
china (27), ovvero che verrebbe meno la funzione,
d’ispirazione democratica, di curatrice dei bisogni
della collettività (28). V’è chi ne ammette l’utilizzo a
prescindere dal carattere discrezionale o meno della
istruire e decidere sulla base della complessa legislazione di
settore, delle vacanze nelle sedi di servizio e delle preferenze e
titoli dei richiedenti, decideva di gestire le assegnazioni attraverso
un algoritmo, che ha portato alle diverse pronunce giurispruden-
ziali citate infra.
(26) G. Caridi, Informatica giuridica e procedimenti amministra-
tivi, Milano, 1983, 145 ss.; B. Selleri, Gli atti amministrativi “in
forma elettronica”, in Dir. soc., 1982, 140 s.; E. Giannantonio,
Manuale di diritto dell’informatica 2, Padova, 1997, 564.
(27) M.C. Cavallaro - G. Smorto, Decisione pubblica e respon-
sabilità dell’amministrazione nella società dell’algoritmo, in fede-
ralismi.it, 2019, 16, ove si espone che una simile operazione non
potrebbe trovare applicazione nell’ambito dell’attività discrezio-
nale che, invece, implica la sequenza “norma-fatto-potere giuri-
dico-effetto”. Per F. Saitta, Le patologie dell’atto amministrativo
elettronico e il sindacato del giudice amministrativo, in Rivista di
diritto amministrativo elettronico, 2003, 17, “senza dubbio com-
patibile con la logica propria dell’elaboratore elettronico - posto
che il software traduce i dati giuridici (principi generali, norme e
giurisprudenza) ed i dati fattuali in linguaggio matematico, dando
vita ad un ragionamento logico formalizzato che porterà ad una
conclusione che, dati gli elementi iniziali, è immutabile - è l’attività
vincolata”.
(28) M.R. Spasiano, La partecipazione al procedimento ammi-
nistrativo quale fonte di legittimazione dell’esercizio del potere:
un’ipotesi ricostruttiva, in Dir. amm., 2002, 283 ss., secondo cui
“l’abdicazione dell’esercizio dell’attività di amministrazione,
soprattutto in quegli ambiti aventi ad oggetto per lo più situazioni
giuridiche soggettive pretensive degli amministrati, non accom-
pagnata dall’acquisizione di una maggiore consapevolezza del
Giornale di diritto amministrativo 6/2020

funzione amministrativa (29) e v’è chi ha teorizzato
un’automazione del procedimento “a segmenti”, alter-
nando fasi in cui le decisioni sono affidate ora all’ela-
boratore ora al funzionario umano (30). Altri, ancora,
riconoscono all’elaboratore la capacità di svolgere fun-
zioni di ausilio nell’assunzione delle decisioni, diven-
tando una sorta di “consulente” dei funzionari
umani (31). Altri giungono a formulare un algoritmo
la cui applicazione all’attività di comparazione di inte-
ressi, propria dell’esercizio della discrezionalità,
potrebbe garantire la massima soddisfazione dell’inte-
resse primario con il minor aggravio per gli interessi
secondari confliggenti (32). Conseguenziali sono le
posizioni che ascrivono il software utilizzato per l’ema-
nazione degli atti automatici alla categoria dell’atto
amministrativo (33), come atto interno (34) o come
atto strumentale (35).
Le contrapposte posizioni espresse in dottrina e in
giurisprudenza fondano le rispettive argomentazioni
sulla premessa, dai più condivisa, del rapporto dico-
tomico esistente tra attività vincolata e discrezionale.
Al riguardo non può non menzionarsi quella parte
della dottrina che, riconoscendo come caratteristica
fondamentale e comune ad entrambe le suddette
categorie l’essere espressione di attività autoritativa
svolta nel perseguimento del pubblico interesse,
mette in dubbio la sostenibilità a monte di una tale
contrapposizione dicotomica. E così, v’è chi ritiene
che i procedimenti discrezionali siano connotati da
contenuto e del ruolo dell’amministrazione di indirizzo e di vigi-
lanza [...] poterebbe comportare, sacrificata sull’altare di una
maggiore presunta efficienza, una sorta di rinunzia della p.a. non
solo al ruolo in funzione del quale essa è concepita, di tutrice del
rispetto delle garanzie democratiche, ma anche a quello di inter-
prete e talora curatrice diretta dei bisogni presenti in una
comunità”.
(29) A. Ravalli, Atti amministrativi emanati mediante sistemi
informatici: problematiche relative alla tutela giurisdizionale, in I
Tar, 1989, II, 261; V. Buscema, Discrezionalità amministrativa e
reti neurali artificiali, in Foro it., 2-3, 1993, 620; E. Picozza, Politica,
diritto amministrativo and Artificial Intelligence, in Giur. it., 2019, 7,
1771. U. Fantigrossi, Automazione e pubblica amministrazione,
Bologna, 1993, 81 ss. Quest’ultimo, nell’ammettere l’automa-
zione anche in processi decisionali discrezionali, spiega l’impor-
tanza di forme di autolimitazione da prevedere in fase di scrittura
del programma al fine di determinare le modalità di esercizio della
discrezionalità.
(30) G. Caridi, Informatica giuridica e procedimenti amministra-
tivi, Milano, 1983, 145 ss. L’autore scrive che “il modello di
descrizione può evidenziare che alcuni parti del procedimento
sono suscettibili, con vari livelli di difficoltà, di automazioni, mentre
altri, generalmente corrispondenti a quelle decisorie, non lo sono o
non conviene che lo siano. In tal caso si può adottare un’automa-
zione ‘a segmenti’ in base alla quale la sequenza delle operazioni è
sottoposta in alcune parti a controllo automatico, in altre, in
corrispondenza di opportune interruzioni, segue il suo corso tra-
dizionale, affidata all’esclusivo controllo umano”.
(31) G. Terracciano, L’applicazione in campo giuridico delle reti
neurali artificiali. Il programma “Giurinet”, in Trib. amm. reg., n. 12,
Giornale di diritto amministrativo 6/2020
Opinioni
Amministrazione digitale
una matrice sostanzialmente vincolata (36), chi
ritiene che “l’attività amministrativa è solo attività
discrezionale, alcuni momenti della quale sono vin-
colati” (37) e chi esclude che gli atti vincolati siano
espressione del potere amministrativo.
La maturità raggiunta dal quadro della tecnologia ha
incentivato l’utilizzo degli algoritmi da parte della
pubblica amministrazione, e la serie di pronunce della
giustizia amministrativa riferite ai procedimenti di
mobilità della c.d. buona scuola (ex L. n. 107/
2015) (38) ha riacceso l’attenzione sulle teorie pro-
filate dalla dottrina in merito all’utilizzo di modelli
decisionali automatizzati nella funzione
amministrativa.
La decisione amministrativa
automatizzata: dalla neutralità
dell’algoritmo all’imparzialità
della funzione pubblica
Le straordinarie potenzialità mostrate dagli algoritmi
inducono a ritenere ormai esistenti soluzioni tecno-
logiche che possono “emulare” le capacità di appren-
dimento e di ragionamento dell’uomo.
Emulare non significa concorrere. E la precisazione è
importante perché consente di inquadrare la prospet-
tiva della presente indagine nonché di superare un
equivoco di fondo - e confutare quelle impostazioni
che sembrerebbero basate su tale impostazione - che
vede nell’intelligenza artificiale un equivalente
pt. 2, 1998, 509; B. Selleri, Gli atti amministrativi in forma elet-
tronica, in Dir. soc., n. 1, 1982, 141.
(32) P.L.M. Lucatuorto - S. Bianchini, Discrezionalità e contem-
peramento degli interessi nei processi decisionali dell’Ammini-
strazione digitale, in Cyberspazio e diritto, 2009, 41 ss.
(33) A. Masucci, L’atto amministrativo informatico, Napoli,
1993, 56 ss.; U. Fantigrossi, Automazione e pubblica amministra-
zione, cit., 51 ss.; A. Usai, Le prospettive di automazione delle
decisioni amministrative in un sistema di teleamministrazione, in
Dir. inf., 1993, 174.
(34) A. Usai, Le prospettive di automazione, cit., 174.
(35) A. Masucci, L’atto amministrativo informatico, cit., 56 ss.,
il quale definisce altresì l’atto-programma come atto amministra-
tivo strumentale rispetto alle singole decisioni finali.
(36) V. Ottaviano, voce Merito (diritto amministrativo), in
Noviss. Dig. it., X, Torino, 1964, 577.
(37) S. Cassese, Le basi del diritto amministrativo, Milano,
1995, 433.
(38) Nella fattispecie, i ricorrenti, docenti della scuola seconda-
ria di secondo grado rientranti nel piano straordinario di assunzione
a tempo indeterminato (fase “B”) di cui alla L. n. 107/2015,
lamentavano che a causa di un algoritmo “di cui non si conosce-
rebbero le concrete modalità di funzionamento” le assegnazioni
delle sedi non avevano rispettato criteri ispirati al principio merito-
cratico, fondamentale nel reclutamento del personale per l’ac-
cesso al pubblico impiego. In particolare, essi contestavano che
docenti collocati in graduatoria in posizione deteriore avrebbero
beneficiato di maggior tutela, per esser stati assunti assecon-
dando le preferenze circa le classi di concorso e le provincie di
residenza.
719
Opinioni
Amministrazione digitale
dell’intelligenza umana, un potenziale sostituto del-
l’attività dell’uomo.
La tendenza a ricercare nell’attività degli algoritmi
un fattore umano è spiegabile, vuoi per una resistenza
di ordine psicologico rispetto all’eventualità che un
elemento artificiale possa “sembrare intelligente”,
come un essere umano, vuoi perché risulterebbe più
semplice applicare i concetti giuridici tradizionali
qualora l’attività decisionale sia svolta con strumenti
artificiali ritenuti equivalenti dell’uomo. Cercare
dimostrazioni e spiegazioni su quanto l’intelligenza
artificiale sia simile all’intelligenza umana non è utile
all’indagine, giacché la macchina non andrà a sosti-
tuire l’uomo, mentre occorre interrogarsi sul se, ed
entro quali limiti, l’intelligenza artificiale possa
garantire l’imparzialità della funzione amministra-
tiva, grazie all’apporto della sua peculiare e tenden-
ziale neutralità (39).
Questa caratteristica dell’algoritmo, invero, è stata
messa in discussione (40), per cui occorre indugiare
sul rapporto che intercorre tra neutralità dell’algo-
ritmo e imparzialità dei suoi risultati (41).
Preliminarmente, occorre richiamare la definizione
di algoritmo, che in informatica rappresenta una
sequenza finita di operazioni elementari, eseguibili
facilmente da un elaboratore che, a partire da un
insieme di dati I (input), produce un altro insieme di
dati O (output) che soddisfano un preassegnato
insieme di requisiti. Questi si sostanziano in “vin-
coli”, vale a dire quei requisiti che devono esser
soddisfatti in ogni caso, e “obiettivi”, ossia quei
requisiti che devono essere soddisfatti il meglio pos-
sibile secondo un qualche criterio specificato.
Posta in tali termini la definizione di algoritmo, la sua
neutralità sta a significare che il meccanismo di
funzionamento non parteggia per nessuna delle pos-
sibili scelte di output. È da queste distaccato e non si
(39) L’impostazione della presente indagine muove dalla pre-
messa che tra intelligenza dell’uomo e intelligenza artificiale non
corra un rapporto dicotomico, sì che l’una porti ad escludere l’altra,
presentandosi invece come due ambiti idealmente connessi in
funzione della complementarità che le rispettive attività vengono
ad assumere.
(40) P. Zellini, La dittatura del calcolo, Milano, 2018, 87. L’au-
tore si spinge oltre i caratteri della neutralità laddove descrive
l’algoritmo “Non tanto strumento neutrale soggetto al nostro
arbitrio, quanto portatore autonomo di una credibilità che scon-
fina, a tratti, in una veridicità di stampo divino”.
(41) R. Borusso, Informatica giuridica, in Enc. dir., agg. I, 1997,
par. 13. L’autore afferma che “il computer, a differenza dell’uomo,
non si stanca, non dimentica, non si emoziona, non si distrae e, nel
rispetto delle distinzioni operate nel programma, è imparziale”.
(42) C. O’neil, Armi di distruzione matematica. Come i Big Data
aumentano la disuguaglianza e minacciano la democrazia, Milano,
2017, 33, secondo cui gli algoritmi “nonostante la reputazione di
imparzialità, sono il riflesso di obiettivi e ideologie”.
720
lascia coinvolgere dai “vincoli” e dagli “obiettivi”
che, in ogni caso, è programmato a seguire rigorosa-
mente. L’imparzialità, invece, viene in rilievo nella
fase di progettazione dell’algoritmo, cioè nella fase di
scelta dei “vincoli” e degli “obiettivi”, ossia quei
requisiti che governano la sequenza di istruzioni e
operazioni da eseguire sui dati (input) per ottenere i
risultati (output). Questi verranno individuati da
parte dei soggetti a ciò preposti, i data scientists, i
quali tradurranno in modelli matematici precise
scelte valoriali o ideologiche (42), che possono deri-
vare inconsapevolmente dalle proprie radicate con-
vinzioni, dai propri limiti e bias (43).
Il rigore con cui l’algoritmo segue le istruzioni impar-
tite può volgere verso una decisione non imparziale se
non imparziale è la fase di scelta delle istruzioni
impartite. Il pericolo è di introdurre attraverso
sistemi di intelligenza artificiale ulteriori discrimina-
zioni o diseguaglianze, per di più con l’alibi di
“mascherare propri pregiudizi dietro un’apparente
oggettività matematica” (44). La neutralità dell’al-
goritmo non può tradursi in una scelta imparziale se la
sua fase di progettazione non è governata da criteri
improntati alla massima imparzialità.
In questo senso, l’algoritmo può esser considerato
neutrale, avendo contezza che i pericoli di eventuali
scelte non imparziali si annidano nelle scelte del-
l’uomo trasfuse nelle operazioni matematiche che
l’algoritmo seguirà, secondo precise istruzioni (45).
Diviene di fondamentale importanza la fase di pro-
gettazione del modello matematico che guida l’algo-
ritmo così come, effettuando un parallelo con la
funzione amministrativa, è fondamentale indivi-
duare i criteri di ponderazione tra gli interessi in
gioco, assumendo la discrezionalità amministrativa
come “espressione di una libertà di scelta lasciata
all’amministrazione per quelle sole parti dei propri
(43) La neutralità dell’algoritmo non equivale ad imparzialità
della sua scelta. Sulla base di tale precisazione, da cui consegue la
necessità di un sistema di accountability, può condividersi l’inse-
gnamento del Cons. Stato, Sez. VI, 13 dicembre 2019, n. 8472, per
il quale “In molti campi gli algoritmi promettono di diventare lo
strumento attraverso il quale correggere le storture e le imperfe-
zioni che caratterizzano tipicamente i processi cognitivi e le scelte
compiute dagli esseri umani, messi in luce soprattutto negli ultimi
anni da un’imponente letteratura di economia comportamentale e
psicologia cognitiva. In tale contesto, le decisioni prese dall’algo-
ritmo assumono così un’aura di neutralità, frutto di asettici calcoli
razionali basati su dati”.
(44) A. Moretti, Algoritmi e diritti fondamentali della persona. Il
contributo del regolamento (UE) 2016/679, in Dir. inf., 4-5, 2018,
802 ss.
(45) Osserva R. Borruso, Computer e diritto, Milano, 1978, 30,
che il computer, potendo svolgere le funzioni più diverse, “può
servire a tutto come a niente, nella misura in cui è stato istruito”.
Giornale di diritto amministrativo 6/2020

atti che non siano predeterminate e vincolate” (46).
Di tal che, la predeterminazione dei requisiti di vin-
colo o di obiettivo dell’algoritmo equivale a tracciare
i presupposti sui quali effettuare la scelta circa la cura
degli interessi pubblici, la ponderazione tra interesse
primario ed interessi confliggenti seppur ammantata
di un vestito digitale, ma sempre sorretta da regole e
principi giuridici.
Le azioni necessarie in termini
di accountability, trasparenza e controllo,
in una nuova prospettiva organizzativa
L’algoritmo, in definitiva, non può esser più impar-
ziale di colui che lo ha creato. Affinché la neutralità
connaturata allo strumento si traduca in effettiva
imparzialità dei suoi risultati è indispensabile avere
consapevolezza di ciò e costruire un sistema di accoun-
tability, fatto di trasparenza rafforzata, di strumenti di
controllo e nuove prospettive organizzative, al fine di
non vanificare i potenziali benefici in termini di
maggiore imparzialità dell’attività decisoria
automatizzata.
Non può esservi dubbio che la trasparenza rappre-
senti il terreno principale sul quale si gioca l’accoun-
tability dell’algoritmo, posto che la complessità dei
modelli matematici sui quali esso si fonda rende
difficile esaminare gli assunti sottostanti (che ali-
mentano migliaia di calcoli su tantissime risorse
informative) e alimenta la considerazione che l’algo-
ritmo abbia una tendenziale propensione all’opa-
cità (47). La digitalizzazione della pubblica
amministrazione, funzionale ad un processo di inclu-
sione di cittadini e imprese per una loro partecipa-
zione democratica al funzionamento dello Stato,
potrebbe tradursi in una loro esclusione, laddove la
pubblica amministrazione non assicuri quella fonda-
mentale garanzia di effettiva conoscenza e intelligi-
bilità dell’algoritmo.
Tale rischio è da mitigare attraverso una reinterpre-
tazione di categorie giuridiche consolidate, nate in
tempi in cui erano del tutto sconosciute le attuali
tecnologie informatiche. E ciò, al fine ultimo di poter
garantire che la tutela apprestata dall’ordinamento
(46) In tal senso si espresse A. Piras, Discrezionalità ammini-
strativa, in Enc. dir., XIII, 1964, secondo cui “l’atto discrezionale
come atto assolutamente libero non esiste, ma che in qualche
modo esso è sempre legato e sindacabile (perché tutelabili sono
gli interessi giuridicamente protetti sui quali incida)”. Sul tema
della discrezionalità della funzione amministrativa si veda M.S.
Giannini, Il potere discrezionale della pubblica amministrazione.
Concetto e problemi, Milano, 1939; C. Mortati, Discrezionalità, in
Noviss. Dig. it., V, Torino, 1960, 1098 ss.; L. Benvenuti, La discre-
zionalità amministrativa, Padova, 1986.
Giornale di diritto amministrativo 6/2020
Opinioni
Amministrazione digitale
sia effettiva, in ragione della mutabilità nel tempo dei
concetti giuridici. In particolare, il tradizionale
canone della trasparenza amministrativa deve esser
sottoposto ad una rivisitazione onde rimarcarne le
finalità in un nuovo contesto operativo. La regola
tecnica che governa il funzionamento dell’algoritmo
deve esser conoscibile in tutti i suoi aspetti “dai suoi
autori al procedimento usato per la sua elaborazione,
al meccanismo di decisione, comprensivo delle prio-
rità assegnate nella procedura valutativa e decisio-
nale e dei dati selezionati come rilevanti” (48).
La ragione di tale piena conoscibilità è finalizzata a
consentire la sindacabilità dei criteri di funziona-
mento del procedimento digitale, ovvero sia la veri-
fica della loro conformità rispetto alle finalità
stabilite dalla legge o determinate dalla stessa ammi-
nistrazione con l’adozione della regola algoritmica.
Ne deriva la necessità che la formula matematica sia
corredata da spiegazioni che ne dimostrino la perti-
nenza alla “regola giuridica” ad essa sottesa. Non
soltanto leggibilità ma anche comprensibilità e per-
tinenza alla regola giuridica.
In altri termini, la formula tecnica rappresentando
una proiezione nel mondo digitale della regolamen-
tazione di interessi assunta dall’autorità deve, in
funzione della piena conoscibilità dell’attività ammi-
nistrativa, consentire sempre di poter risalire alla
regola giuridica ad essa sottesa, per poter compren-
dere la logica che ha condotto l’amministrazione a
formulare le proprie scelte in sede di
programmazione.
Si fa strada, così, una declinazione rafforzata del
principio di trasparenza amministrativa, che pone
un traguardo più avanzato rispetto alla mera cono-
scibilità, proiettandosi verso il risultato della com-
prensibilità. Posto che, come visto, l’algoritmo non è
comprensibile per chi non è esperto del suo modello
matematico, in capo all’amministrazione vi è l’onere
di corredare l’algoritmo di spiegazioni che rendano
comprensibile ciò che è oscuro ai più.
La trasparenza, declinata quale mezzo per alimentare
il rapporto di fiducia intercorrente tra la collettività e
le pubbliche amministrazioni e per promuovere la
cultura della legalità, assolve al compito di garantire
(47) A. Moretti, Algoritmi e diritti fondamentali della persona,
cit., 802. Per l’autore: “I processi decisionali si caratterizzano per
non essere visibili dall’esterno, in modo particolare dai soggetti
direttamente coinvolti dalla decisione, e talvolta addirittura dal-
l’interno, si pensi ai casi in cui il processo matematico rilevi delle
correlazioni e dei patterns del tutto inaspettati per i Data
Scientists”.
(48) Cons. Stato n. 2270/2019, cit.
721
Opinioni
Amministrazione digitale
che il cittadino possa conoscere le modalità auto-
matizzate con le quali è stata in concreto assunta una
decisione che si ripercuote sulla sua sfera giuri-
dica (49). E, in tale prospettiva, di far valere il proprio
diritto di difesa azionando la piena cognizione del
giudice amministrativo e sindacare come il potere
pubblico sia stato concretamente esercitato.
Nel panorama normativo vigente un chiaro riferi-
mento al principio di comprensibilità, quale corollario
del principio di conoscibilità, può esser rintracciato
nel Regolamento generale sulla protezione dei dati
(UE) n. 2016/679 (General data protection regulation),
laddove nel disciplinare le informative conoscitive
(art. 13, par. 2, lett. f, e art. 14, par. 2, lett. g, Reg.
UE n. 679/2016), con cui ordinariamente si dà notizia
agli interessati di eventuali processi decisionali auto-
matizzati, è prescritto che, qualora il trattamento sia
interamente automatizzato, occorre fornire “informa-
zioni significative sulla logica utilizzata, nonché l’im-
portanza e le conseguenze previste di tale trattamento
per l’interessato”. Il richiamo alla “logica utilizzata”
consente di superare un significato limitato alla sola
conoscibilità, dovendo l’informativa rendere conto e
ragione delle scelte effettuate in sede di progettazione
dell’algoritmo (in un processo interamente automa-
tizzato) per consentire la comprensione effettiva del
processo medesimo.
Qualora poi il trattamento dei dati automatizzato
avvenga ad opera di un’autorità pubblica sarà ine-
vitabile invocare anche il “Diritto ad una buona
amministrazione”, sancito dall’art. 41, Carta Euro-
pea dei Diritti Fondamentali, laddove è prescritto
“l’obbligo per l’amministrazione di motivare le pro-
prie decisioni” (50). Ebbene, la consacrazione da
parte dell’ordinamento comunitario della buona
(49) Secondo R. Villata, La trasparenza dell’azione amministra-
tiva, in Diritto processuale amministrativo, 1987, citato da C.
Cudia, Trasparenza amministrativa e pretesa del cittadino all’in-
formazione, in Diritto pubblico, 2007, 99 ss., la trasparenza rias-
sume quella condizione di permanente conoscibilità che si impone
come regola dell’organizzazione e dell’attività amministrativa.
(50) Cfr. Cons. Stato n. 8472/2019, cit.
(51) In dottrina si veda il Forum su “La Carta europea dei diritti”,
nel numero 1 del 2001 della rivista Diritto pubblico comparato ed
europeo, con contributi di U. De Siervo, V. Atripaldi, G.G. Floridia,
A. Giovannelli, M. Luciani, S. Mangiameli, E. Pagano, A. Ruggeri,
R. Toniatti; D.U. Galetta, Il diritto ad una buona amministrazione
europea come fonte di essenziali garanzie procedimentali nei
confronti della pubblica amministrazione, in Riv. it. dir. pubbl.
comun., 2005, 819 ss.; A. Celotto - M. Cartabia, La giustizia
costituzionale in Italia dopo la Carta di Nizza, in Giur. cost., 2002,
4488s.; R. Bin, Gli effetti del diritto dell’Unione nell’ordinamento
italiano e il principio di entropia, in Studi in onore di Franco Modu-
gno, Napoli, 2011, 374. La Corte costituzionale, nell’argomentare
le proprie decisioni (Corte cost., sent., 24 aprile 2002, n. 135, e
Corte cost., sent., 24 ottobre 2002, n. 445) si riferisce ad adiu-
vandum alla Carta, precisando che, pur essendo essa “priva di
722
amministrazione come un diritto fondamentale
dei cittadini dell’Unione (51) consente di enu-
cleare, con riferimento alla comprensibilità dell’al-
goritmo, l’oggetto di una specifica pretesa da parte
del cittadino (52). Sicché, la costruzione di un’ac-
countability dell’algoritmo deve muovere dalla con-
sapevolezza che essa investe il tema della protezione
dei diritti fondamentali.
Il tema della conoscibilità e della comprensibilità dei
sistemi di intelligenza artificiale è oggi molto dibat-
tuto, rappresentando un requisito irrinunciabile per
consentirne un utilizzo nell’ambito della funzione
amministrativa, a differenza di altri ambiti in cui,
semmai, esso assume un significato marginale o even-
tuale (es. applicazioni commerciali).
Se, accanto a ciò, consideriamo che le intelligenze
artificiali, seppur dotate di un’accuratezza e una pre-
cisione maggiore di quella degli esseri umani, possono
incorrere in errori di programmazione o di
sistema (53) si comprende come la costruzione di
un’accountability dell’algoritmo non possa prescin-
dere dalla previsione di forme di controllo umano,
accanto o dietro la macchina.
In tale direzione una incipiente forma di tutela può
esser rintracciata nella disciplina del Reg. UE n. 679/
2016 (GDPR)che, sul presupposto dello stretto nesso
tra algoritmi e dati, non soltanto dedica particolare
attenzione alla trasparenza, per mezzo di informative
rafforzate, ma prevede momenti di controllo sui pro-
cessi automatizzati. Il legislatore europeo aveva con-
tezza dei potenziali rischi per i diritti e le libertà
fondamentali della persona, derivanti tanto da un
utilizzo scorretto dei dati quanto da modalità che
prevedessero un loro trattamento automatizzato al
di fuori di qualsiasi controllo dell’uomo (54).
efficacia giuridica”, esprime “principi comuni agli ordinamenti
europei”.
(52) A. Zito, Il “diritto ad una buona amministrazione” nella
Carta dei diritti fondamentali dell’Unione europea, in Riv. it. dir.
pubbl. comun., 2002, 425 ss. L’autore evidenzia che “La deci-
sione di inserire tra i diritti fondamentali riconosciuti e tutelati
nell’Unione europea anche i diritti che il privato può vantare nei
confronti della pubblica amministrazione e della relativa azione è il
segno tangibile del superamento di ogni residua visione auto-
referenziale del fenomeno amministrativo”. D.U. Galetta, Diritto
ad una buona amministrazione e ruolo del nostro giudice ammini-
strativo dopo l’entrata in vigore del Trattato di Lisbona, in Dir.
amm., 3, 2010, 601 ss.
(53) E. Santow, Emerging from AI utopia, Science, 3 Apr 2020,
Vol. 368. L’autore segnala che, di recente, la polizia metropolitana
di Londra, abilitata all’utilizzo di sistemi di riconoscimento facciale
mediante algoritmi, ha individuato 104 sospetti, 102 dei quali sono
risultati però errori sistematici di calcolo.
(54) Il considerando 71 evoca il diritto dell’interessato a non
essere sottoposto a una decisione “che possa includere una
misura, che valuti aspetti personali che lo riguardano, che sia
basata unicamente su un trattamento automatizzato e che
Giornale di diritto amministrativo 6/2020

È bene chiarire che il Reg. UE non prevede un divieto
assoluto di effettuare decisioni automatizzate ma
interviene con una disciplina tesa a bilanciare gli
interessi confliggenti: da un lato, i vantaggi innega-
bili derivanti dal trattamento automatizzato dei dati
personali, in termini di progresso e benessere sociale,
dall’altro, le esigenze di tutela dei dati personali. E
così, l’art. 22, Reg. UE n. 679/2016 rubricato “Pro-
cesso decisionale automatizzato relativo alle persone
fisiche, compresa la profilazione”, al par. 1, sancisce il
diritto dell’interessato “di non essere sottoposto a una
decisione basata unicamente sul trattamento auto-
matizzato, compresa la profilazione, che produca
effetti giuridici che lo riguardano o che incida in
modo analogo significativamente sulla sua per-
sona” (55), un diritto al quale corrisponde by default
un dovere per il titolare del trattamento di predi-
sporre una tutela dell’interessato (56), senza alcuna
iniziativa di quest’ultimo.
Pur tuttavia, il successivo par. 2 fa salve alcune
eccezioni, qualora il trattamento sia necessario per
la conclusione o l’esecuzione di un contratto, sia
autorizzato dal diritto dell’Unione o dello Stato
membro cui è soggetto il titolare del trattamento
ovvero si basi sul consenso esplicito dell’interessato.
In considerazione di deroghe di così ampia portata,
parte della dottrina è giunta a ritenere che, ai sensi del
GDPR, le autorità pubbliche possano, di fatto, ricor-
rere sempre ai trattamenti autorizzati (57).
Al riguardo, può convenirsi che la previsione della
deroga fondata sul consenso esplicito dell’interessato
allenti le maglie della tutela legale della privacy. Ma
trattasi di un carattere distintivo del sistema di tutela
dei dati personali, imperniato sul dogma del con-
senso, quell’espressione di una volontà decisiva e
decidente che, d’un tratto e spesso con poca avvedu-
tezza o consapevolezza, può vanificare le tutele fati-
cosamente edificate (58). La consapevolezza di tali
rischi, derivanti da una profonda asimmetria
produca effetti giuridici che lo riguardano o incida in modo analogo
significativamente sulla sua persona, quali il rifiuto automatico di
una domanda di credito online o pratiche di assunzione elettronica
senza interventi umani”.
(55) Il fenomeno delle decisioni automatizzate era già discipli-
nato dalla precedente Dir. 95/46/CE del 24 ottobre 1995, del
Parlamento e del Consiglio d’Europa, art. 15 (decisioni individuali
automatizzate).
(56) In tal senso l’Article 29 Working Party Guidelines on Auto-
mated individual decision-making and Profiling for the purposes of
Regulation 2016/679, 3 October 2017, revised on 6 February
2018, 19-20.
(57) Cfr. D.U. Galetta - J.C. Corvalàn, Intelligenza artificiale, cit.,
18, secondo i quali “i trattamenti automatizzati da parte di ammi-
nistrazioni pubbliche sono ammissibili sempre: purché siano
basati su specifiche previsioni normative (principio di legalità) e
purché rispettino il principio di proporzionalità, inteso nei termini
Giornale di diritto amministrativo 6/2020
Opinioni
Amministrazione digitale
contrattuale, dalle evidenti difficoltà conoscitive o
più semplicemente da un’immaturità culturale verso
la cura dei dati personali, ha portato il legislatore a
considerare vulnerabile l’espressione del consenso.
Per tale ragione, il successivo par. 3, dell’art. 22,
prevede una tutela inderogabile, per cui nel caso di
consenso esplicito dell’interessato al trattamento
automatizzato “il titolare del trattamento attua
misure appropriate per tutelare i diritti, le libertà e i
legittimi interessi dell’interessato, almeno il diritto di
ottenere l’intervento umano da parte del titolare del
trattamento, di esprimere la propria opinione e di
contestare la decisione”.
Il proposito è quello di non interrompere il flusso del
trattamento automatizzato, a salvaguardia della velo-
cità di elaborazione dei dati, salvo consentire ex post il
diritto di contestare la decisione conseguente. Trat-
tasi di una forma di protezione debole, poiché rimessa
all’azione dell’interessato che spesso non è piena-
mente consapevole dei rischi occorsi, ma che realizza
comunque un ponte tra i diversi valori costituzionali
in gioco: la tutela della libertà e della dignità della
persona - e dei suoi dati - e la libera circolazione e
commercializzazione di tali dati (59).
Dunque, sarà inevitabile avviare una fase di speri-
mentazione che miri ad affinare le tecniche di ela-
borazione automatica dei dati, con l’obiettivo di
garantire quel minimo di tutele prescritte dal Rego-
lamento europeo al fine di costruire un’accountability
dell’algoritmo e, conseguentemente, rendere effet-
tiva l’attuazione del diritto alla buona
amministrazione.
La costruzione di un modello di accountability dell’al-
goritmo richiede una particolare attenzione verso
l’organizzazione delle attività inerenti alla fase di
progettazione dell’algoritmo medesimo che, come
visto, è di fondamentale importanza per traghettare
la neutralità della macchina verso una scelta
imparziale.
classici di idoneità, necessarietà e proporzionalità in senso stretto
del trattamento rispetto alla tutela dell’interesse pubblico in con-
creto perseguito dal titolare del trattamento”.
(58) L’esecuzione di processi decisionali automatizzati viene
considerata dal legislatore europeo (art. 35, par. 3, lett. a, GDPR)
fonte di notevoli profili di rischio per gli interessati, per cui viene
prescritto lo svolgimento di una valutazione d’impatto preventiva (
c.d. Data Protecion Impact Assessment o DPIA), al fine di garan-
tire una più attenta tutela dei diritti e delle libertà degli interessati.
(59) Cfr. Cons. Stato n. 8472/2019, cit., in cui il collegio giunge
alla definizione di un principio di non esclusività della decisione
algoritmica, in virtù del quale “deve comunque esistere nel pro-
cesso decisionale un contributo umano capace di controllare,
validare ovvero smentire la decisione automatica. In ambito mate-
matico ed informativo il modello viene definito come HITL (human
in the loop), in cui, per produrre il suo risultato è necessario che la
macchina interagisca con l’essere umano”.
723
Opinioni
Amministrazione digitale
Le grandi innovazioni tecnologiche, come tutte le
grandi scoperte, non si limitano ad aggiungere novità
all’esistente ma lo plasmano, gli danno forma e con-
tenuti nuovi. Non v’è qualcosa di nuovo che va ad
aggiungersi all’esistente, ad esempio un linguaggio
matematico in cui tradurre il linguaggio giuridico
ovvero un’attività digitale in cui tradurre attività in
passato considerate essenziali (il ragionamento). Ciò
comporta la necessità di un’opera di assestamento
con l’introduzione di correttivi, di nuovi comporta-
menti, nuove abilità e nuove forme di organizzazione
del lavoro pubblico e, quindi, nuove forme di eserci-
zio del potere pubblico.
In tale opera di assestamento è bene conservare una
priorità: il linguaggio giuridico è una categoria di
interpretazione del reale che mira a garantire il
rispetto di diritti e principi che l’uomo ha faticosa-
mente affermato come valori di una società demo-
cratica. Il diritto va inteso quale narrazione dei valori
della società in un determinato contesto storico, e
rappresenta l’unico linguaggio che deve guidare ed
orientare la tecnologia così da mantenere costante
un’aderenza verso i valori espressi dai principi fon-
danti una comunità.
Questa prospettiva metodologica può esser letta
come l’epilogo di una relazione diritto-informatica
che ha plasmato negli anni anche il concetto del-
l’informatica giuridica, scienza che studia, tra l’altro,
se e come si possa pervenire all’applicazione auto-
matica delle norme da parte del computer stesso o,
quanto meno, come il computer possa aiutare il
legislatore, il giurista, e più in generale qualsiasi
operatore del diritto, nella loro attività. Una mate-
ria in cui originariamente si ipotizzava che il diritto
diventasse oggetto dell’informatica (60). Oggi, tale
espressione è stata meglio definita, anche grazie alle
pronunce giurisprudenziali che si sono succedute
sul tema: il diritto è oggetto dell’informatica nel
(60) In tal senso vengono alla mente le parole di Borruso che nel
delineare i tratti salienti e distintivi della nuova materia di studio
“informatica giuridica” che si veniva a delineare dagli anni ‘60 in
poi, la indicò come quella in cui il “diritto diventa oggetto
dell’informatica”.
(61) Sul punto, in particolare, si veda lo studio DGI(2017)12,
pubblicato dal Consiglio d’Europa, dal titolo: Algorithms and
Human Rights. Study on the human rights dimensions of auto-
mated data processing techniques and possible regulatory impli-
cations, 6. Nello studio si legge che “...if further must be
considered that designers of algorithmic systems have varying
levels of discretion when deciding, for instance, what training data
to use or how to respond to false positives, and that the power of
the operator of the algorithm may lie in his or her knowledge of the
structure of the data set, rather than in insight into the exact
workings of the algorithms”.
(62) S. Rodotà, Il diritto di avere diritti, Roma-Bari, 2012, 401 ss.
L’autore analizza la criticità di un incondizionato e pervasivo utilizzo
724
senso che rappresenta il bagaglio di valori, condivisi
dalla società in un determinato contesto storico,
che devono guidare gli automatismi tipici
dell’informatica.
È evidente che la costruzione di un algoritmo nel
campo della funzione amministrativa richieda la
fusione di categorie concettuali appartenenti a
diversi settori della conoscenza, principalmente -
ma non solo - del diritto e dell’informatica, con ciò
determinando una caratterizzazione multidiscipli-
nare delle competenze che possono generare l’algo-
ritmo stesso (61). Un’opera che richiede più che
l’intervento di differenti saperi una loro ibridazione,
sul presupposto della regola giuridica quale categoria
per l’interpretazione della realtà e degli interessi
amministrati (62). In tal senso, può esser letto l’inse-
gnamento offerto dalla sentenza Cons. Stato, Sez. VI,
8 aprile 2019, n. 2270, che attraverso l’utilizzo della
locuzione “corredata da spiegazioni” evoca chiara-
mente una unione stabile tra l’algoritmo e le relativi
traduzioni in chiaro, tra il vestito digitale e la regola
giuridica vestita, da realizzarsi non soltanto in un’e-
ventuale fase di accesso, successiva alla formalizza-
zione della decisione amministrativa, bensì ex ante,
già durante la fase di pianificazione dell’attività
amministrativa e di esercizio del relativo potere (63).
Dunque, l’accountability potrà esse raggiunta attra-
verso una nuova prospettiva organizzativa, con rife-
rimento ai data scientists, coloro che definendo
vincoli ed obiettivi dell’algoritmo determinano in
concreto i presupposti della scelta algoritmica. Non
vi è l’esigenza di nuove competenze o conoscenze,
bensì di mettere a frutto una capacità trasformativa
che sappia creare valore promuovendo l’ibridazione
di saperi - non circoscritti all’ambito giuridico ed
informatico - che si arricchiscono a vicenda prospet-
tando nuovi scenari. Le amministrazioni dovranno
favorire la comunicazione tra le differenti aree di
degli algoritmi, affermando che “quando l’algoritmo diventa il
fondamento del potere esercitato da un soggetto (...), e tutto
ciò che lo riguarda è avvolto dalla massima segretezza, allora
siamo davvero di fronte ad una nuova versione degli arcana
intperii”. Anche A. Ravalli, Atti amministrativi, cit., 262, spiega
che “finché è l’informatica che si adatta, e solo traduce secondo le
proprie esigenze, alle procedure amministrative esistenti, l’ordi-
namento giuridico contiene in sé le regole secondo le quali valu-
tare la legittimità dell’operare mediante sistemi informatici”.
(63) Nella sentenza citata i giudici di Palazzo Spada giungono
alla conclusione che “Non solo, gli esiti della stessa paiono effet-
tivamente connotati dall’illogicità ed irrazionalità denunciate dalle
appellanti, essendosi verificate situazioni paradossali per cui
docenti con svariati anni di servizio si sono visti assegnare degli
ambiti territoriali mai richiesti e situati a centinaia di chilometri di
distanza dalla propria città di residenza, mentre altri docenti, con
minori titoli e minor anzianità di servizio, hanno ottenuto proprio le
sedi dagli stessi richieste”.
Giornale di diritto amministrativo 6/2020

competenze spesso estremamente specialistiche al
fine di poter rispondere alla complessità dell’innova-
zione tecnologica.
Conclusioni
L’intelligenza artificiale e i big data rappresentano
strumenti straordinari per supportare e orientare
l’azione dei decisori pubblici, offrendo analisi, valu-
tazioni, previsioni che permettono di fare scelte sem-
pre più consapevoli e ponderate.
Il proposito è di impiegare l’intelligenza artificiale al
fine di poter prendere decisioni migliori, anche nel
senso di aiutare i decisori a superare eventuali pre-
giudizi e difetti di imparzialità che possono derivare
dalla personalità o dalle emozioni delle persone. Lo
scopo non è di sostituirle ma di amplificare le loro
capacità decisionali e contribuire a fondare le scelte
amministrative su maggiore imparzialità. E l’apertura
da parte della giurisprudenza amministrativa circa
l’utilizzo degli algoritmi nelle scelte discrezionali
della funzione amministrativa non lascia più spazio
ad alibi.
Non v’è dubbio che le sfide poste dall’epoca moderna
siano complesse, anche a causa del disallineamento
tra la velocità dei processi tecnologici è la lentezza dei
processi culturali d’adattamento alla tecnologia. Ed è
spiegabile che la società sia disorientata, non prepa-
rata ai cambiamenti imposti dalla velocità di tali
processi. La pubblica amministrazione, invece, ha
le competenze e le risorse - oltre che la sua ragion
d’essere - per affrontare tali innovazioni, cogliendone
gli straordinari vantaggi e arginandone gli straordi-
nari limiti, sulla consapevolezza che l’intelligenza
artificiale è una metafora.
Se nell’immaginario collettivo essa arriverà a sosti-
tuire l’attività razionale dell’uomo (64) nel dibattito
istituzionale (65) e scientifico (66) si fa sempre più
strada una concezione protetica (67), che riconosce
(64) Y.N. Harari, Homo Deus, Breve storia del futuro, Milano,
560. Lo storico israeliano sottolinea come fino ad ora “si suppo-
neva che gli uomini distillassero dai dati le informazioni, dalle
informazioni la conoscenza e dalla conoscenza la saggezza”.
Oggi si avverte il disagio, se non una vera preoccupazione, circa
l’esistenza di questi algoritmi in grado di gestire gli immensi flussi
di dati impensabili per gli esseri umani.
(65) Il 18 febbraio 2020, Il Ministro per l’innovazione tecnolo-
gica e la digitalizzazione e il Presidente della Fondazione Leonardo
hanno firmato un protocollo d’intesa, per definire il contesto etico
e giuridico all’interno del quale sviluppare e applicare l’intelligenza
artificiale, in particolare per rispondere alle esigenze della Pubblica
Amministrazione.
(66) J. Schnapp - A. Burdick - J. Drucker - P. Lunenfeld - T.
Presner, Umanistica Digitale, Milano, 2014.
(67) La visione protetica venne teorizzata almeno un ventennio
fa da V. Frosini, Il giurista e le tecnologie dell’informazione, Roma,
Giornale di diritto amministrativo 6/2020
Opinioni
Amministrazione digitale
all’intelligenza artificiale il compito di espandere i
confini della cognizione umana, nonché una visione
umano-centrica (68), con l’impegno cioè di mettere
l’uomo, con i suoi bisogni, i suoi valori e i suoi diritti,
al centro dell’innovazione tecnologica. In tale con-
testo, assume la valenza di una vera e propria pro-
clamazione il passaggio con cui il Consiglio di
Stato (69) sottolinea che “il giudice deve poter sin-
dacare la stessa logicità e ragionevolezza della deci-
sione amministrativa robotizzata, ovvero della
‘regola’ che governa l’algoritmo”, proprio a voler
ribadire la funzione della macchina quale strumento,
a voler rimarcare la riconduzione dell’algoritmo
entro il paradigma proprio della logicità e della ragio-
nevolezza dell’uomo, a voler ribadire che il diritto,
espressione di una delle tante scienze umane interes-
sate dalle contaminazioni dell’informatica, rappre-
senta la categoria principale di interpretazione della
realtà, in chiave di tutela di interessi e valori generali.
Nel solco di siffatta concezione dell’intelligenza
artificiale, la sfida che impegnerà la pubblica ammi-
nistrazione sarà quella di generare un’accountability
dell’algoritmo che, come si è avuto modo di esporre
nel corso della trattazione, potrà esser raggiunta
mediante un ripensamento di istituti giuridici,
principi e regole dell’organizzazione e del procedi-
mento amministrativo. In particolare, mediante
una declinazione rafforzata e moderna della traspa-
renza amministrativa e attraverso strumenti di
tutela previsti - seppur in forma embrionale - dal
Regolamento generale sulla protezione dei dati
(UE) 2016/679. Sarà necessario, altresì, adottare
una prospettiva organizzativa in linea con la detta
visione. Oggigiorno, la massima innovazione nasce
dalle frontiere dei saperi, laddove le conoscenze si
sovrappongono dando vita ad una ibridazione indi-
spensabile per governare fenomeni complessi.
La pubblica amministrazione potrà affrontare la
sfida dell’automazione dei processi decisionali
1998, 58, il quale evidenziava come l’informatica avesse determi-
nato una vera mutazione antropologica: “Dialogare attraverso le
macchine, o con le macchine stesse, non è la stessa cosa di
conversare a viva voce: si adopera una protesi intellettuale, che
modifica il procedimento del conoscere e del comunicare. L’uomo
è divenuto essenzialmente diverso da quello che è stato in tutti i
tempi, e non potrebbe tornare indietro senza perdere la sua nuova
umanità, che gli è stata conferita dalla cultura informatica di
massa”.
(68) L’approccio umano-centrico è sposato dalla Commissione
Europea con The Ethics Guidelines for Trustworthy Artificial Intel-
ligence (AI), predisposta dal High-Level Expert Group On Artificial
Intelligence istituito dalla CE, in https://ec.europa.eu/futurium/en/
ai-alliance-consultation/guidelines#Top.
(69) Cons. Stato n. 2270/2019, cit.
725
Opinioni
Amministrazione digitale
assumendo la consapevolezza critica che è nella
contaminazione di saperi, da attuare in virtù di
una autonoma capacità organizzativa e non in
forza dell’ennesimo adempimento normativo, che
potrà costruire un’accountability dell’algoritmo,
(70) L’innovazione nel settore delle tecnologie e dell’informa-
tizzazione presenta maggior complessità per via del c.d. “deter-
minismo tecnologico”, ovvero quel connotato insito nella
726
dando rilevanza a tutto quel bagaglio di valori e
ideali condivisi dalla società che trova espressione
nella scienza giuridica (70).
L’algoritmo, in definitiva, non è - e non sarà - il
fondamento dell’attività decisoria pubblica.
tecnologia che non si limita ad accompagnare il cambiamento
ma che lo determina.
Giornale di diritto amministrativo 6/2020