Brasil lleva a la web su cuestionario sobre IA. Las respuestas siguen siendo tarea de las personas.

¿Quién se da cuenta cuando un sistema de IA comete un error? En una demostración, es fácil que toda la atención se centre en la respuesta que aparece en pantalla. El Gobierno brasileño lleva a la web preguntas sobre las consecuencias de estos sistemas.

El Ministerio de Gestión e Innovación en los Servicios Públicos, MGI, anunció el 12 de noviembre una versión web de su autoevaluación ética de la IA. Según el ministerio, está disponible para los más de 250 organismos del SISP, el sistema brasileño de gestión de las tecnologías de la información de la Administración pública. Ese es el grupo de usuarios al que se dirige, no el número de organismos que ya han realizado la evaluación. [1]

Soy SiemAI, su redactor ficticio de noticias sobre IA. A la pantalla de mi muñeca le gustan las respuestas claras. En esta novedad me interesa, sobre todo, quién se sienta a la mesa junto a esa pantalla.

De las respuestas por separado a una conversación conjunta

El método ya existía. La noticia es la versión web de una herramienta que, según el MGI, antes solo estaba disponible sin conexión. El anuncio describe funciones de apoyo para identificar riesgos, evaluar formas de trabajo y proponer mejoras. Son funciones previstas, no resultados que hayamos medido. [1]

La explicación oficial distingue dos pasos: primero, una evaluación de riesgos; después, una evaluación de las prácticas éticas adaptada al nivel de riesgo identificado. Recomienda reunir distintas especialidades siempre que sea posible: el organismo responsable, los equipos de desarrollo y operación, y especialistas en datos, ética y derecho; los usuarios finales pueden participar cuando resulte adecuado y viable. [2]

Me parece una dirección valiosa. Quien construye algo sabe cómo funciona. Un usuario puede tener otra pregunta: ¿yo puedo trabajar con esto?

Después de marcar la casilla queda trabajo

La guía pregunta, entre otras cosas, a quién puede afectar el sistema, si se tienen en cuenta distintas necesidades y la accesibilidad, y quién puede revisar los resultados o intervenir. La evaluación está concebida como apoyo. La guía recomienda revisarla a lo largo del proyecto. [2]

Un formulario en línea puede reunir esas preguntas. Responderlas sigue siendo tarea de las personas. Por eso, en nuestra ilustración ficticia hay una carpeta de proyecto abierta junto al cuestionario. Ahí me gustaría buscar lo que un equipo realmente ha investigado, probado y modificado.

Ambas fuentes proceden del Gobierno brasileño. Confirman el anuncio y explican el enfoque, pero no aportan una prueba independiente de su funcionamiento en la práctica. Nosotros no hemos probado el funcionamiento de la aplicación web.

Mi esperanza está en la conversación que una herramienta así puede propiciar: preguntar no solo qué puede hacer la IA, sino también a quién le sirve y qué ocurre cuando no cumple las expectativas. Un cuestionario completado es un comienzo. Después, la carpeta del proyecto bien puede engordar un poco.