L'uso dell'IA in ambito pubblico richiede una trasparenza procedurale e algoritmica tale da permettere la verifica della sua conformità ai principi di legalità, superando la mera dichiarazione di essersi affidati a tale tecnologia.
L'elemento centrale non è l'uso in sé dell'algoritmo, che non è considerato intrinsecamente illegittimo, ma l'onere della prova che ricade sull'Amministrazione.
-
Punto chiave: l'illegittimità della procedura non deriva dalla scelta di usare un algoritmo, ma dall'incapacità dell'Amministrazione di dimostrare la legalità della procedura stessa e la correttezza tecnica del sistema.
-
Obbligo dell'Amministrazione: non è sufficiente "affidare" i dati a un sistema di IA e presumerne la legittimità. L'Amministrazione deve invece provare che il sistema informatizzato abbia funzionato in base a criteri legittimi, comprensibili e, in definitiva, rispettosi dei principi generali dell'azione amministrativa.