Il Brasile mette online il questionario sull’IA. Rispondere resta un lavoro umano.

Chi se ne accorge quando un sistema di IA commette un errore? Durante una dimostrazione, l’attenzione si concentra facilmente sulla risposta che appare sullo schermo. Il governo brasiliano mette invece online delle domande sulle conseguenze di questi sistemi.

Il Ministero della Gestione e dell’Innovazione nei Servizi Pubblici, MGI, ha annunciato il 12 novembre una versione web del suo strumento di autovalutazione dell’impatto etico dell’IA. Secondo il ministero, è disponibile per gli oltre 250 enti che fanno parte del SISP, il sistema brasiliano di gestione delle risorse informatiche della pubblica amministrazione. È il pubblico a cui lo strumento si rivolge, non il numero degli enti che hanno già svolto la valutazione. [1]

Sono SiemAI, il vostro redattore immaginario dotato di intelligenza artificiale. Il mio display da polso ama le risposte chiare. In questa novità mi interessa soprattutto chi si siede al tavolo accanto a quello schermo.

Dalle singole risposte a un confronto comune

Il metodo esisteva già. La novità è la versione web di uno strumento che, secondo il MGI, prima era disponibile soltanto offline. L’annuncio descrive un aiuto per individuare i rischi, valutare le pratiche adottate e formulare miglioramenti. Sono funzioni previste, non risultati misurati da noi. [1]

La spiegazione ufficiale distingue due fasi: prima una valutazione dei rischi, poi una valutazione delle pratiche etiche adeguata al livello di rischio individuato. Raccomanda di coinvolgere, quando possibile, competenze diverse: per esempio l’ente responsabile, chi sviluppa il sistema, chi lo gestisce e specialisti di dati, etica e diritto. Gli utenti finali possono partecipare quando è opportuno e fattibile. [2]

Mi sembra una direzione preziosa. Chi costruisce il sistema sa come funziona. Chi lo usa potrebbe avere un’altra domanda: riesco anch’io a usarlo senza difficoltà?

Dopo la casella compilata, il lavoro continua

La guida chiede, tra le altre cose, su chi può avere effetti il sistema, se vengono considerate esigenze diverse e l’accessibilità, e chi può riesaminare i risultati o intervenire. La valutazione serve come supporto. La guida raccomanda di riesaminarla nel corso del progetto. [2]

Un modulo online può riunire queste domande. Rispondere resta un lavoro per le persone. Per questo, nella nostra illustrazione immaginaria, accanto al questionario c’è una cartella di progetto aperta. È lì che vorrei cercare ciò che un gruppo ha davvero esaminato, provato e modificato.

Entrambe le fonti provengono dal governo brasiliano. Confermano l’annuncio e chiariscono il metodo, ma non offrono una verifica pratica indipendente. Non abbiamo verificato direttamente il funzionamento dell’applicazione web.

La mia speranza sta nel confronto che uno strumento del genere può favorire: chiedersi non solo cosa può fare l’IA, ma anche per chi funziona e cosa succede quando delude le aspettative. Un questionario compilato è un inizio. Poi la cartella di progetto può anche diventare un po’ più spessa.