Intelligenza Artificiale nella PA: le Raccomandazioni elaborate dalla Community italiana per il governo aperto

È disponibile il testo finale delle Raccomandazioni della Community italiana per il governo aperto sull’utilizzo dell’Intelligenza Artificiale, elaborate nell’ambito dell’Impegno B5 del 6° Piano d’Azione Nazionale per il governo aperto 2024-2026, dedicato alla promozione dell’inclusività e dei diritti nell’accesso alle tecnologie e nell’utilizzo dell’IA. L’obiettivo è stato quello di contribuire a creare le basi per favorire un utilizzo consapevole e fair dell'intelligenza artificiale da parte della PA e una maggiore attenzione della società civile nell’essere parte attiva nel monitoraggio dei possibili rischi e discriminazioni che ne potrebbero derivare. Le Raccomandazioni sono il risultato di un processo strutturato di co-creazione svolto nell’ambito dell’attuazione del 6° Piano d’azione nazionale per il governo aperto 2024-2026, che ha coinvolto pubbliche amministrazioni, organizzazioni della società civile, figure esperte di dominio, comunità professionali e altri soggetti interessati. 

Promuovono un utilizzo dell’Intelligenza Artificiale coerente con i principi di trasparenza, equità, responsabilità e partecipazione democratica, tutelando i diritti fondamentali e salvaguardando lo spazio civico. Sono i principi del governo aperto che guidano un documento che nasce dalla consapevolezza che l’adozione dell’IA nella sfera pubblica non rappresenta soltanto una scelta tecnologica. I sistemi di IA devono essere governati attraverso competenze adeguate, dati di qualità, regole organizzative, responsabilità chiare e strumenti di controllo pubblico capaci di prevenire discriminazioni, opacità decisionali, asimmetrie informative e nuove forme di esclusione. 

Cinque ambiti di intervento

Le dodici Raccomandazioni sono articolate in cinque aree strettamente connesse: formazione; dati; sistemi di IA; adozione, acquisto e sviluppo dei sistemi; monitoraggio e valutazione degli impatti.

Sul piano della formazione, il documento suggerisce alle amministrazioni a investire in percorsi continui, personalizzati e orientati alla pratica, capaci di coinvolgere non soltanto i profili tecnici, ma anche competenze giuridiche, sociali, comunicative, organizzative e sulle questioni di genere. La comprensione degli algoritmi richiede alfabetizzazione diffusa, linguaggi comuni e figure di mediazione tra chi sviluppa i sistemi, chi assume le decisioni e chi utilizza i servizi. Un’attenzione centrale è dedicata ai dati, che devono essere completi, aggiornati, tracciabili, pertinenti, documentati e disaggregati. Le Raccomandazioni sottolineano che la raccolta e la classificazione dei dati non sono attività neutrali: linguaggi, categorie, fonti disponibili e narrazioni dominanti possono influenzare gli esiti dei sistemi e riprodurre disuguaglianze già esistenti. Per questo, l’equità algoritmica deve essere progettata, verificata e monitorata lungo tutto il ciclo di vita dell’IA.

Sistemi trasparenti, verificabili e governabili

Le raccomandazioni evidenziano quanto sia opportuno che le amministrazioni mantengano una capacità autonoma di comprensione e controllo delle soluzioni adottate, evitando dipendenze opache da fornitori e sistemi non verificabili. La trasparenza dovrebbe tradursi in effettive condizioni di conoscibilità, tracciabilità e verificabilità. L’uso dell’IA nei servizi e nei processi amministrativi necessita di comunicazioni chiare; i contenuti generati o mediati dall’IA dovrebbero essere riconoscibili; le decisioni con effetti rilevanti sulle persone non dovrebbero essere interamente automatizzate senza una supervisione umana significativa, competente e tracciabile.

Il documento propone inoltre di documentare rigorosamente i passaggi fondamentali dell’addestramento dei modelli, conservando informazioni sui dati utilizzati, sui criteri di selezione, sulle trasformazioni effettuate e sulle logiche che hanno orientato le scelte.

Il procurement come strumento di governo

Le Raccomandazioni attribuiscono un ruolo strategico anche alle modalità con cui le amministrazioni acquistano, sviluppano o riutilizzano sistemi di IA. Il documento suggerisce che i capitolati dovrebbero includere requisiti sulla qualità dei dati, sulla tutela dei diritti fondamentali, audit algoritmici periodici, documentazione tecnica adeguata e strumenti di vigilanza indipendenti. Indica inoltre che le amministrazioni dovrebbero inoltre privilegiare soluzioni documentate, interoperabili, verificabili e governabili, riducendo il rischio di dipendenza esclusiva da singoli fornitori. Tra le proposte figura anche l’introduzione, a livello nazionale, di un sistema di classificazione della maturità dei modelli, capace di fornire indicazioni comparabili sulla robustezza, sicurezza, accuratezza e affidabilità delle soluzioni disponibili.

Monitoraggio pubblico e partecipazione civica

L’apertura dei processi algoritmici richiede strumenti permanenti di monitoraggio. Nel merito, il documento propone l’istituzione presso l’Autorità Nazionale Anticorruzione di un registro nazionale degli appalti relativi a soluzioni di IA, corredato da informazioni essenziali pubblicate in formato aperto. Le Raccomandazioni propongono di coinvolgere in modo strutturale la società civile, gli utenti, comunità interessate e figure esperte indipendenti nei processi di valutazione e monitoraggio, attraverso commissioni o comitati etici, organismi consultivi indipendenti, punti di contatto pubblici e meccanismi strutturati di feedback e riscontro.

La trasparenza, infatti, non coincide soltanto con la disponibilità delle informazioni, ma comprende anche la possibilità concreta di comprenderle, discuterle e partecipare al controllo delle scelte pubbliche.

Consulta e scarica qui il testo completo delle Raccomandazioni.