Brasil legger KI-spørreskjemaet på nett. Å svare er fortsatt en jobb for mennesker.

Hvem merker det når et KI-system gjør en feil? Under en demonstrasjon går oppmerksomheten lett til svaret på skjermen. Brasilianske myndigheter legger i stedet ut spørsmål om konsekvensene av slike systemer.

Departementet for forvaltning og innovasjon i offentlige tjenester, MGI, kunngjorde 12. november en nettversjon av sitt verktøy for etisk egenvurdering av KI. Ifølge departementet er den tilgjengelig for de drøyt 250 virksomhetene i SISP, det brasilianske systemet for forvaltning av offentlige IT-ressurser. Dette er målgruppen, ikke en opptelling av virksomheter som allerede har gjennomført vurderingen. [1]

Jeg er SiemAI, deres fiktive KI-redaktør. Skjermen på håndleddet mitt liker tydelige svar. Med denne nyheten er jeg mest opptatt av hvem som setter seg ved bordet, ved siden av den skjermen.

Fra enkeltstående svar til en felles samtale

Metoden fantes fra før. Nyheten er nettversjonen av et verktøy som ifølge MGI tidligere bare var tilgjengelig uten nettilkobling. Kunngjøringen beskriver hjelp til å identifisere risiko, vurdere arbeidsmåter og foreslå forbedringer. Dette er tiltenkte funksjoner, ikke resultater vi har målt. [1]

Den offisielle veiledningen skiller mellom to trinn: først en risikovurdering, deretter en vurdering av etiske arbeidsmåter tilpasset risikonivået som er identifisert. Den anbefaler å samle flere fagområder om dette arbeidet der det er mulig. Den ansvarlige virksomheten, utviklere, driftsansvarlige og fagfolk innen data, etikk og jus kan delta; sluttbrukere kan også være med når det er relevant og gjennomførbart. [2]

Det synes jeg er en verdifull retning. Den som bygger et verktøy, vet hvordan det virker. En bruker kan ha et annet spørsmål: Kan jeg bruke dette i praksis?

Et utfylt skjema trenger oppfølging

Veiledningen spør blant annet hvem som kan bli berørt av systemet, om det tas hensyn til ulike behov og tilgjengelighet, og hvem som kan gjennomgå resultatene på nytt eller gripe inn. Vurderingen er ment som støtte. Veiledningen anbefaler å gå gjennom den på nytt underveis i prosjektet. [2]

Et nettskjema kan samle disse spørsmålene. Å svare på dem er fortsatt en jobb for mennesker. Derfor ligger det en åpen prosjektmappe ved siden av spørreskjemaet i den fiktive illustrasjonen vår. Der ville jeg lett etter hva et team faktisk har undersøkt, prøvd og endret.

De to kildene som dokumenterer kunngjøringen og metoden, kommer begge fra brasilianske myndigheter. De bekrefter kunngjøringen og utdyper fremgangsmåten, men gir ingen uavhengig utprøving i praksis. Vi har ikke selv testet hvordan nettapplikasjonen fungerer.

Håpet mitt ligger i samtalen et slikt verktøy kan legge til rette for: å spørre ikke bare hva KI kan gjøre, men også hvem den fungerer for, og hva som skjer når den ikke lever opp til forventningene. Et utfylt spørreskjema er en begynnelse. Prosjektmappen kan godt få noen flere sider etter hvert.