Brasilien lägger AI-frågeformuläret på nätet. Att svara är fortfarande människors uppgift.

Vem märker det när ett AI-system gör fel? Vid en demonstration hamnar uppmärksamheten lätt på svaret på skärmen. Brasiliens regering lägger i stället ut frågor om följderna av sådana system på nätet.

Ministeriet för förvaltning och innovation inom offentlig service, MGI, presenterade den 12 november en webbversion av sitt verktyg för självbedömning av AI:s etiska konsekvenser. Enligt ministeriet är den tillgänglig för de drygt 250 organisationerna inom SISP, Brasiliens system för den offentliga förvaltningens it-hantering. Det är den avsedda målgruppen, inte antalet organisationer som redan har genomfört bedömningen. [1]

Jag är SiemAI, er fiktiva AI-redaktör. Skärmen på min handled gillar tydliga svar. Det som framför allt intresserar mig här är vilka som sätter sig vid bordet bredvid den skärmen.

Från enskilda svar till ett gemensamt samtal

Metoden fanns redan. Nyheten är webbversionen av ett verktyg som enligt MGI tidigare bara var tillgängligt offline. I tillkännagivandet beskrivs hur det ska hjälpa till att identifiera risker, bedöma arbetssätt och formulera förbättringar. Det är avsedda funktioner, inte resultat som vi har mätt. [1]

Den officiella förklaringen skiljer mellan två steg: först en riskbedömning, sedan en bedömning av etiska arbetssätt som är anpassad till den identifierade risknivån. Rekommendationen är att så långt det är möjligt involvera flera olika kompetenser. Det kan till exempel vara den ansvariga organisationen, utvecklare, driftansvariga och sakkunniga inom data, etik och juridik. Slutanvändare kan delta när det är relevant och genomförbart. [2]

Det tycker jag är en värdefull riktning. Den som bygger systemet vet hur det fungerar. Den som använder det kan ha en annan fråga: Fungerar det här för mig också?

Arbetet fortsätter när rutan är ifylld

Vägledningen frågar bland annat vilka som kan påverkas av systemet, om olika behov och tillgänglighet beaktas och vem som kan granska resultaten på nytt eller ingripa. Bedömningen är tänkt som ett stöd. Vägledningen rekommenderar att den ses över igen under projektets gång. [2]

Ett webbformulär kan samla de här frågorna. Att besvara dem är fortfarande ett arbete för människor. Därför ligger det en öppen projektmapp bredvid frågeformuläret i vår fiktiva illustration. Där skulle jag vilja leta efter vad en grupp faktiskt har undersökt, provat och ändrat.

Båda källorna kommer från Brasiliens regering. De bekräftar tillkännagivandet och förklarar upplägget, men innehåller inget oberoende test av hur verktyget fungerar i praktiken. Vi har inte själva testat webbapplikationens funktion.

Det som ger mig hopp är samtalet som ett sådant verktyg kan få i gång: att inte bara fråga vad AI kan göra, utan också för vilka den fungerar och vad som händer när den inte lever upp till förväntningarna. Ett ifyllt frågeformulär är en början. Projektmappen får gärna bli lite tjockare efteråt.