Promozione dell’inclusività e dei diritti nell’accesso alle tecnologie e nell’utilizzo dell’Intelligenza Artificiale

Indice della pagina

Organizzazioni responsabili per l’attuazione

PA: Consiglio Nazionale Giovani (CNG), Regione Puglia

OSC: Federmanager, Period Think Tank

Organizzazioni che collaborano all’attuazione

PA: Agenzia per l’Italia Digitale (AgID), Autorità Nazionale Anticorruzione (ANAC), Ministero della cultura, Istituto centrale per la digitalizzazione del patrimonio culturale - DIGITAL LIBRARY

OSC: Association of Facilitators Chapter Italia (IAF), Associazione della Comunicazione Pubblica e Istituzionale (Compubblica), Mappina, PASocial

Problema affrontato

L’IA è uno strumento di cambiamento della società, che produce impatti importanti -anche se non sempre visibili o compresi - sui nostri comportamenti; prefigura futuri effetti potenziali ancora più significativi, che potrebbero essere sia vantaggiosi che estremamente rischiosi.

“Il modo in cui ci relazioniamo all’IA determinerà il mondo in cui viviamo” è una delle affermazioni chiave nella comunicazione della Commissione al Parlamento Europeo “L’Intelligenza Artificiale per l’Europa”, per annunciare l’elaborazione dell’AI Act, una delle prime leggi al mondo a regolamentare lo sviluppo e l’utilizzo dei sistemi di AI.

Anche il PNRR, quale documento strategico nazionale, prevede l'impiego dei sistemi di IA nell’ambito di diverse misure di policy. In questo quadro, è necessario promuovere e potenziare valutazioni di impatto ex ante specifiche sugli impieghi dell’IA, che contemperino i profili tecnici con la tutela dei diritti fondamentali, contribuendo a rendere le misure PNRR riguardanti cybersicurezza, legge annuale sulla concorrenza, programma nazionale per la gestione dei rifiuti e adozione del piano Scuola 4.0 più efficaci ed eque.

Ogni sistema di IA implica il rischio di creare o amplificare discriminazioni a causa di pregiudizi (bias) che caratterizzano i dataset e conseguentemente gli algoritmi utilizzati. Per questo motivo, è essenziale condurre periodicamente analisi sui potenziali bias presenti nei sistemi di IA per identificare e ridurre i rischi ad essi legati.

Le politiche di regolazione che il Governo italiano sta definendo sul tema, a partire dal Disegno di Legge “Disposizioni e delega al Governo in materia di intelligenza artificiale”, dovrebbero quindi essere elaborate con il coinvolgimento di tutti gli stakeholder interessati (esperti d’ambito, enti di ricerca), tra cui anche le amministrazioni pubbliche, le organizzazioni della società civile e i cittadini. L’obiettivo è arricchire il processo di valutazione, rafforzando il quadro normativo in modo da garantire decisioni più eque e affidabili da parte di chi utilizza i sistemi di IA.

Descrizione impegno

Per attuare l'impegno in modo efficace, si è deciso di collaborare con il programma Democratic Innovations Accelerator offerto da People Powered, volto a fornire mentoring e risorse per il rafforzamento della partecipazione civica alla definizione delle politiche pubbliche e alla governance in Europa.

Promosso dall’Hub partecipazione della Community OGP IT, il processo partecipativo sul tema “Rischi e opportunità dell'intelligenza artificiale per migliorare l'equità e l'inclusione” mira ad avviare una discussione deliberativa a livello nazionale, nella prospettiva dei principi del governo aperto.

I principali risultati attesi sono: il rafforzamento delle competenze per l'implementazione e la gestione dei processi partecipativi; una mappatura di pratiche, con particolare attenzione alla dimensione dei bias di genere, intergenerazionali e intersezionali; la definizione condivisa di principi etici per l’utilizzo dell’IA; la formulazione di Raccomandazioni sull’inclusività dei dati e degli algoritmi dell’IA, da consegnare agli organismi nazionali competenti.

Inoltre, queste ultime saranno trasmesse alle altre regioni per il tramite di Regione Puglia, co-coordinatrice della comunità tematica “dati e IA” all’interno della Commissione ITD della Conferenza delle Regioni, e condivise all’interno del Centro di Competenza regionale sull’Intelligenza Artificiale nella PA, istituito da Regione Puglia nell’ottobre 2023.

In che modo l'impegno contribuirà a risolvere il problema?

Attraverso l’impegno, si apriranno spazi di coinvolgimento della società civile per aumentare la consapevolezza dei rischi connessi all’utilizzo dell’IA e il co-design dei sistemi di IA utilizzati dalle PA.

La collaborazione con People Powered consentirà di sviluppare un piano d’azione promosso dall’Hub partecipazione, di potenziale interesse per la Community OGP IT. L'opportunità risiede nel portare l'attenzione su un tema di grande rilevanza attuale, impiegando il processo partecipativo come mezzo per coinvolgere tutta la Community. In questo modo, si favorisce la visibilità dell'Hub partecipazione e si rafforzano le relazioni all'interno della Community, coinvolgendo gli attori meno attivi e includendone di nuovi.

L’iniziativa non solo permetterà di riflettere sulle implicazioni etiche e sociali dell'IA, ma consentirà anche di produrre risultati co-creati e di valore collettivo a livello nazionale. Il programma riveste, infatti, un’importanza fondamentale per l'Italia nell’affrontare, unitamente alle discriminazioni già presenti riguardanti donne, giovani e altre soggettività, anche quelle potenzialmente derivabili dall’utilizzo delle tecnologie e dei sistemi basati sull’IA, che si vanno diffondendo sia nel settore privato che in quello pubblico.

L’impegno, coinvolgendo l’intera Community composta da circa 100 organizzazioni - per due terzi rappresentanti il mondo della società civile -, potrà contribuire a creare le basi per favorire un utilizzo consapevole e fair dell'intelligenza artificiale da parte della PA e una maggiore attenzione della società civile nell’essere parte attiva nel monitoraggio dei possibili rischi e discriminazioni che ne potrebbero derivare.

Perché questo impegno è rilevante per i valori OGP?

L'OGP invita a individuare riforme e azioni ambiziose nell’area della governance digitale, riflettendo sull’impatto delle tecnologie sui diritti della persona. La protezione dei diritti di tutte le persone impone che la riflessione sull'IA coinvolga, come si è detto, un pubblico ampio spesso escluso dalle decisioni sulle politiche.

In tal senso, l’impegno si avvale del “Decalogo dell’IA, Indicazioni pratiche per l’uso dell’ IA nella PA”, promosso da AGiD e del Piano Triennale per l’informatica nella PA, che prevede principi alla base della transizione digitale delle amministrazioni pubbliche, quali inclusività e accessibilità dei servizi, centrati sull’utente, e dei software (apertura come prima opzione), da garantire in tutte le attività e nella realizzazione di piattaforme e app pubbliche.

Questo approccio include design universale, accessibilità integrata e adozione di politiche, normative e processi formativi e comunicativi che promuovano equità nell'accesso e nell'uso della tecnologia.

L’impegno è rilevante in quanto focalizzato sull’individuazione delle opportunità e dei rischi dell’IA e teso a valorizzare -nell’area dei diritti - il ruolo e il contributo della Community OGP IT, composta da circa 100 organizzazioni, nonché a instaurare un dialogo con gli attori di governo preposti alla definizione di indirizzi per la regolamentazione dell’utilizzo dell’IA.

Attività

Avvio di una fase di raccolta di studi, informazioni e dati per la valutazione della diffusione dell’utilizzo dell’IA in ambito sia privato che pubblico in Italia

Output:

Report al FGA sugli elementi emersi (gennaio 2025)