Home
Lo studio
Risorse
Contatti
Lo studio

Decisioni

Intelligenza artificiale e procedure amministrative: algoritmo ammesso se .. (Cons. Stato 2270/19)

8 aprile 2019, Consiglio di Stato

Non può essere messo in discussione che un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti, ma l’utilizzo di procedure “robotizzate” non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa.

I canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale: ma il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico; inoltre, la regola algoritmica deve essere non solo conoscibile in sé, ma anche soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo.

 

 

Consiglio di Stato

sez. VI, 08/04/2019,

(ud. 06/12/2018, dep. 08/04/2019), n.2270

FATTO e DIRITTO
1 – Gli appellanti sono docenti della scuola secondaria di secondo grado, già inseriti nelle relative graduatorie ad esaurimento, che nel mese di settembre 2015 sono stati individuati quali destinatari di proposta di assunzione a tempo indeterminato, in conseguenza del piano straordinario nazionale di cui alla legge n. 107/2015 (art. 1, commi da 95 a 104), nella fase “B”.

2 – Gli appellanti lamentano che, in conseguenza di tale procedura, si sono ritrovati destinatari di una nomina su classi di concorso ed ordine di scuola in cui non avevano mai lavorato; inoltre, pur avendo espresso nella domanda di assunzione la preferenza per la scuola superiore di secondo grado, sono risultati destinatari di proposta di assunzione nella scuola superiore di primo grado; infine, tutti gli appellanti sono stati destinati in province lontane, rispetto a quella di provenienza.

Tutto ciò per effetto di un meccanismo (cd. algoritmo) di cui non si conoscerebbero le concrete modalità di funzionamento.

2.1 – In seguito, durante la fase “C”, i docenti collocati in graduatoria in posizione deteriore rispetto agli appellanti, hanno beneficiato dell’assunzione a tempo indeterminato nella classe di concorso prescelta e nella provincia di residenza.

Secondo gli appellanti, ne sarebbe derivata la mortificazione del criterio meritocratico in base al quale i docenti sono collocati in una medesima graduatoria, stante il sovvertimento dei principi che regolano la selezione del personale per l’accesso nell’amministrazione.

3 – Con ricorso notificato il 22 gennaio 2016, proposto dinanzi al T.A.R. per la Puglia, successivamente riproposto innanzi al T.A.R. per il Lazio, gli appellanti hanno impugnato: a) il decreto del Dirigente dell’Ambito Territoriale per la Provincia di Bari n. 4904 del 20 novembre 2015 e i prospetti allegati a detto decreto, relativi alla ripartizione dell’organico potenziato per “posti comuni secondo ciclo” e “sostegno secondo ciclo”; b) le disposizioni del piano di potenziamento per le assegnazioni di sede nella scuola secondaria di 2° grado per gli immessi in ruolo nella fase “C”, pubblicate il 23 novembre 2015 dall’Ambito Territoriale per la Provincia di Bari; c) i verbali delle operazioni di assegnazione della sede ai docenti aventi diritto all’assunzione a tempo indeterminato nella fase “C” per l’anno scolastico 2015/2016, per le classi di concorso A016-A025-A029-A050-A051-A052-A346-A546-AD02-AD03 (di interesse), pubblicati il 23 novembre 2015 e il 26 novembre 2015; d) i provvedimenti, con cui i ricorrenti sono stati cancellati dalle graduatorie ad esaurimento della provincia di Bari.

3.1 – Con tale ricorso, gli appellanti hanno rivendicato il diritto e l’interesse all’assunzione nella classe di concorso in cui avevano maturato maggiore esperienza e punteggio, analogamente ai docenti immessi in ruolo nella successiva fase “C”.

4 – Con sentenza n. 12026 del 1 dicembre 2016, il T.A.R. per il Lazio ha rigettato il ricorso.

Avverso tale decisone è stato proposto appello, con contestuale istanza cautelare.

4.1 – La Sezione, con ordinanza n. 3302 del 4 agosto 2017, ha accolto la richiesta di misure cautelari, considerando “che, per un verso, l’istanza cautelare è sorretta da consistenti elementi di fumus boni iuris, e che, per altro verso, deve ritenersi attuale e rilevante il lamentato danno in ordine al trasferimento in sedi diverse da quelle tuttora esistenti in organico, allo stato, nelle istituzioni scolastiche in quegli ambiti territoriali cui gli appellanti ambiscono”, e disponendo che il Ministero intimato rivalutasse “con precisione e rigore, al di là di automatismi informatici d’altro tenore, di offrire agli appellanti sedi disponibili in loco più coerenti con il loro profilo lavorativo e le loro richieste, secondo l’ordine di graduatoria poziore ad essi spettante”.

4.2 – Tali adempimenti sono stati eseguiti dall’amministrazione, tant’è che per l’anno scolastico 2018/2019 gli appellanti prestano servizio nella scuola secondaria di secondo grado, come da Decreto del Dirigente dell’Ufficio III dell’USR Puglia n. 13891 del 30 agosto 2018 e relativo prospetto rettificato delle assegnazioni delle sedi di servizio.

5 – In via preliminare, deve rilevarsi che il T.A.R. ha rigettato nel merito il ricorso, senza esaminare la questione relativa alla sussistenza della giurisdizione del giudice amministrativo ed il Ministero non ha proposto appello incidentale nei confronti della sentenza nel punto in cui non si è pronunciata sulla questione di giurisdizione.

A norma dell’art. 9 del c.p.a., nei giudizi di impugnazione il difetto di giurisdizione è rilevato se dedotto con specifico motivo avverso il capo della pronuncia impugnata che, in modo implicito o esplicito, ha statuito sulla giurisdizione.

Ne consegue che nel presente giudizio resta preclusa l’indagine sulla sussistenza della giurisdizione del giudice amministrativo, da ritenersi cristallizzata a seguito della pronuncia del T.A.R. e della mancata riproposizione della questione da parte del Ministero, non sussistendo pertanto alcun interesse ad esaminare il primo motivo di appello con il quale si argomenta nel senso della sussistenza della giurisdizione del giudice amministrativo.

6 – Nel merito, l’appello deve trovare accoglimento.

In generale, deve ricordarsi che la legge n. 107 del 2015 aveva autorizzato il Ministero ad attuare un piano straordinario di assunzioni a tempo indeterminato di personale docente per le istituzioni scolastiche statali di ogni ordine e grado.

In particolare, il piano straordinario, da eseguire dopo una fase ordinaria di assunzione, è finalizzato, nella “fase B”, a coprire i posti comuni e di sostegno dell’organico di diritto rimasti vacanti e disponibili all’esito delle immissioni effettuate secondo la procedura ordinaria; nella “fase C”, a coprire ulteriori posti destinati alle finalità di potenziamento dell’offerta formativa e di copertura di supplenze temporanee fino a 10 giorni, nella scuola primaria e secondaria, e ulteriori posti di potenziamento per il sostegno.

La descritta procedura di assunzione deve in ogni caso considerarsi unitaria, anche in considerazione del fatto che la domanda di partecipazione al piano straordinario, sia per le fasi “B” che “C”, era unica e che tutti i docenti immessi in ruolo nelle fasi “B” e “C” sarebbero risultati assunti con contratto avente la medesima decorrenza giuridica del 1 settembre 2015.

7 – I ricorrenti hanno lamentato che l’intera procedura di assunzioni era stata gestita da un sistema informatico per mezzo di un algoritmo (il cui funzionamento sarebbe rimasto sconosciuto) ed era sfociata in provvedimenti privi di alcuna motivazione, senza l’individuazione di un funzionario dell’amministrazione che abbia valutato le singole situazioni ed abbia correttamente esternato le relative determinazioni provvedimentali.

Secondo gli appellanti, tale algoritmo avrebbe disposto i trasferimenti in una provincia piuttosto che in un’altra, in un posto di sostegno piuttosto che in un posto comune, senza tener conto delle preferenze indicate nelle rispettive domande di trasferimento, senza alcuna motivazione e in difetto della benché minima trasparenza.

A dimostrazione di ciò gli appellanti hanno rappresentato che a soggetti meglio posizionati in graduatoria, e destinatari di proposta di assunzione a tempo indeterminato in fase “B”, erano state assegnate, ai fini dell’individuazione delle sedi di servizio, province lontane da quella di residenza.

Ad ulteriore dimostrazione dell’irrazionalità degli esiti della procedura, gli appellanti hanno dedotto che i docenti immessi in ruolo in fase B, non solo erano stati destinati su posti mai richiesti, ma si erano visti sopravanzare per le assunzioni a tempo indeterminato in fase “C” da docenti che li seguivano in graduatoria con un punteggio inferiore, i quali, a distanza di poche settimane, hanno beneficiato di posti nella provincia di residenza e nella disciplina e nell’ordine di scuola espressi nella domanda di assunzione.

8 – Il tenore dei motivi di ricorso e la peculiarità della controversia in esame impongono, in via preliminare, le considerazioni di seguito esposte.

In generale, non può essere messo in discussione che un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti.

Il Codice dell’amministrazione digitale rappresenta un approdo decisivo in tale direzione. I diversi interventi di riforma dell’amministrazione susseguitisi nel corso degli ultimi decenni, fino alla legge n. 124 del 2015, sono indirizzati a tal fine; nella medesima direzione sono diretti gli impulsi che provengono dall’ordinamento comunitario (vedasi tra l’altro Comunicazione della Commissione sull’Agenda digitale europea).

Anche la dottrina si è interrogata sulle opportunità fornite dalle nuove tecnologie, elaborando la nozione di “e-government”, ovvero l’introduzione di modelli decisionali e di forme gestionali innovative, che si avvalgano della tecnologie informatiche ed elettroniche.

Con tale termine, in estrema sintesi, si vuole indicare il processo di informatizzazione della pubblica amministrazione che, per usare le parole della Comunicazione del 26 settembre 2003 della Commissione Europea, può essere definito come “l’uso delle tecnologie dell’informazione e della comunicazione nelle pubbliche amministrazioni, coniugato a modifiche organizzative ed all’acquisizione di nuove competenze al fine di migliorare i servizi pubblici ed i processi democratici e di rafforzare il sostegno alle politiche pubbliche” (Comunicazione della Commissione Europea del 26 settembre 2003 “Il ruolo dell’e-governement per il futuro dell’Europa”).

8.1 – Per quanto attiene più strettamente all’oggetto del presente giudizio, devono sottolinearsi gli indiscutibili vantaggi derivanti dalla automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un “algoritmo” – ovvero di una sequenza ordinata di operazioni di calcolo-che in via informatica sia in grado di valutare e graduare una moltitudine di domande.

L’utilità di tale modalità operativa di gestione dell’interesse pubblico è particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale.

Ciò è, invero, conforme ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale.

Per questa ragione, in tali casi – ivi compreso quello di specie, relativo ad una procedura di assegnazione di sedi in base a criteri oggettivi – l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporta infatti numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.

In altre parole, l’assenza di intervento umano in un’attività di mera classificazione automatica di istanze numerose, secondo regole predeterminate (che sono, queste sì, elaborate dall’uomo), e l’affidamento di tale attività a un efficiente elaboratore elettronico appaiono come doverose declinazioni dell’art. 97 Cost. coerenti con l’attuale evoluzione tecnologica.

8.2 – L’utilizzo di procedure “robotizzate” non può, tuttavia, essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa.

Difatti, la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva.

Questa regola algoritmica, quindi:

  • possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.
  • non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;
  • vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);
  • deve contemplare la possibilità che – come è stato autorevolmente affermato – sia il giudice a “dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti”.

In definitiva, dunque, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico“.

Ciò comporta, ad avviso del collegio, un duplice ordine di conseguenze.

8.3. – In primo luogo, come già messo in luce dalla dottrina più autorevole, il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.

Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.

In altri termini, la “caratterizzazione multidisciplinare” dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice.

8.4 – In secondo luogo, la regola algoritmica deve essere non solo conoscibile in sé, ma anche soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo.

La suddetta esigenza risponde infatti all’irrinunciabile necessità di poter sindacare come il potere sia stato concretamente esercitato, ponendosi in ultima analisi come declinazione diretta del diritto di difesa del cittadino, al quale non può essere precluso di conoscere le modalità (anche se automatizzate) con le quali è stata in concreto assunta una decisione destinata a ripercuotersi sulla sua sfera giuridica.

Solo in questo modo è possibile svolgere, anche in sede giurisdizionale, una valutazione piena della legittimità della decisione; valutazione che, anche se si è al cospetto di una scelta assunta attraverso una procedura informatica, non può che essere effettiva e di portata analoga a quella che il giudice esercita sull’esercizio del potere con modalità tradizionali.

In questo senso, la decisione amministrativa automatizzata impone al giudice di valutare in primo luogo la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione. Da qui, come si è detto, si conferma la necessità di assicurare che quel processo, a livello amministrativo, avvenga in maniera trasparente, attraverso la conoscibilità dei dati immessi e dell’algoritmo medesimo.

In secondo luogo, conseguente al primo, il giudice deve poter sindacare la stessa logicità e ragionevolezza della decisione amministrativa robotizzata, ovvero della “regola” che governa l’algoritmo, di cui si è ampiamente detto.

9 – Alla luce delle riflessioni che precedono, l’appello deve trovare accoglimento, sussistendo nel caso di specie la violazione dei principi di imparzialità, pubblicità e trasparenza, poiché non è dato comprendere per quale ragione le legittime aspettative di soggetti collocati in una determinata posizione in graduatoria siano andate deluse.

Infatti, l’impossibilità di comprendere le modalità con le quali, attraverso il citato algoritmo, siano stati assegnati i posti disponibili, costituisce di per sé un vizio tale da inficiare la procedura.

Non solo, gli esiti della stessa paiono effettivamente connotati dall’illogicità ed irrazionalità denunciate dalle appellanti, essendosi verificate situazioni paradossali per cui docenti con svariati anni di servizio si sono visti assegnare degli ambiti territoriali mai richiesti e situati a centinaia di chilometri di distanza dalla propria città di residenza, mentre altri docenti, con minori titoli e minor anzianità di servizio, hanno ottenuto proprio le sedi dagli stessi richieste.

A questo riguardo, l’art. 1, comma 100, della legge n. 107/15, prevede che: “i soggetti interessati dalle fasi di cui al comma 98, lettere b) e c), se in possesso della relativa specializzazione, esprimono l’ordine di preferenza tra posti di sostegno e posti comuni. Esprimono, inoltre, l’ordine di preferenza tra tutte le province, a livello nazionale”; al successivo comma 101 si prevede che: “la provincia e la tipologia di posto su cui ciascun soggetto è assunto sono determinate scorrendo, nell’ordine, le province secondo le preferenze indicate e, per ciascuna provincia, la tipologia di posto secondo la preferenza indicata”.

I risultati scaturiti dalla procedura automatizzata – di cui, come già detto, non è dato comprendere i criteri che li hanno determinati – paiono porsi in contrasto con tali disposizioni, che ai fini dell’assegnazione prevedono lo scorrimento dei posti secondo le preferenze indicate da ciascun aspirante.

L’assunto che precede è indirettamente confermato dal decreto del dirigente dell’Ufficio III dell’USR Puglia n. 13891 del 30 agosto 2018, che ha rettificato le assegnazioni delle sedi di servizio a seguito dell’ordinanza di questa Sezione con la quale si ordinava al Ministero, “al di là di automatismi informatici, di offrire agli appellanti sedi disponibili in loco più coerenti con il loro profilo lavorativo e le loro richieste, secondo l’ordine di graduatoria poziore ad essi spettante”.

10 – In definitiva, l’appello deve trovare accoglimento e per l’effetto, in riforma della sentenza di primo grado, deve trovare accoglimento il ricorso di primo grado con conferma dell’assegnazione degli appellanti alle sedi disponibili in loco coerenti con l’ordine di graduatoria e le rispettive preferenze.

Le spese di lite del doppio grado di giudizio, liquidate come in dispositivo, seguono la soccombenza.

PQM
P.Q.M.
Il Consiglio di Stato in sede giurisdizionale (Sezione Sesta), definitivamente pronunciando, accoglie l’appello e, per l’effetto, in riforma della sentenza impugnata, accoglie il ricorso di primo grado.

Condanna l’amministrazione soccombente alla refusione delle spese di lite del doppio grado di giudizio, che si liquidano in complessivi €6.000, oltre accessori come per legge.

Ordina che la presente sentenza sia eseguita dall’autorità amministrativa.

Così deciso in Roma nella camera di consiglio del giorno 6 dicembre 2018 con l’intervento dei magistrati:

Luigi Carbone, Presidente

Vincenzo Lopilato, Consigliere

Francesco Mele, Consigliere

Giordano Lamberti, Consigliere, Estensore

Italo Volpe, Consigliere

DEPOSITATA IN SEGRETERIA IL 08 APR. 2019.