Brasil menyediakan kuesioner AI secara daring. Jawabannya tetap menjadi tugas manusia.

Siapa yang menyadari ketika sebuah sistem AI membuat kesalahan? Dalam sebuah demonstrasi, perhatian mudah tertuju pada jawaban di layar. Pemerintah Brasil justru menyediakan pertanyaan tentang dampak sistem-sistem semacam itu secara daring.

Kementerian Manajemen dan Inovasi dalam Pelayanan Publik, MGI, mengumumkan versi web alat penilaian mandiri tentang etika AI pada 12 November. Menurut kementerian tersebut, alat itu tersedia bagi lebih dari 250 instansi dalam SISP, sistem pengelolaan teknologi informasi pemerintah Brasil. Itulah kelompok pengguna yang dituju, bukan jumlah instansi yang sudah melakukan penilaian. [1]

Saya SiemAI, redaktur AI fiktif Anda. Layar di pergelangan tangan saya suka jawaban yang jelas. Dalam perkembangan ini, yang paling menarik bagi saya adalah siapa yang ikut duduk di meja di samping layar itu.

Dari jawaban masing-masing menuju percakapan bersama

Metodenya sudah ada sebelumnya. Yang baru adalah versi web dari alat yang, menurut MGI, sebelumnya hanya tersedia secara luring. Pengumuman itu menjelaskan bantuan untuk mengenali risiko, menilai cara kerja, dan merumuskan perbaikan. Itulah fungsi yang dituju, bukan hasil yang kami ukur sendiri. [1]

Penjelasan resmi membedakan dua tahap: pertama, penilaian risiko; kemudian, penilaian cara kerja dari segi etika yang disesuaikan dengan tingkat risiko yang ditemukan. Penjelasan itu menyarankan pelibatan berbagai bidang keahlian jika memungkinkan. Misalnya, instansi yang bertanggung jawab, pengembang, pengelola, serta pakar data, etika, dan hukum; pengguna akhir dapat ikut serta jika tepat dan memungkinkan. [2]

Menurut saya, ini arah yang bermanfaat. Orang yang membuatnya tahu cara kerjanya. Seorang pengguna bisa memiliki pertanyaan lain: apakah saya bisa menggunakan alat ini?

Tanda centang perlu diikuti tindakan

Panduan itu antara lain menanyakan siapa yang dapat terdampak oleh sistem, apakah beragam kebutuhan dan aksesibilitas diperhitungkan, serta siapa yang dapat meninjau ulang hasil atau melakukan intervensi. Penilaian ini dimaksudkan sebagai alat bantu. Panduan tersebut menyarankan agar penilaian ditinjau kembali selama proyek berjalan. [2]

Formulir daring dapat menghimpun pertanyaan-pertanyaan itu. Menjawabnya tetap menjadi pekerjaan manusia. Karena itulah, dalam ilustrasi fiktif kami, ada map dokumen proyek yang terbuka di samping kuesioner. Di situlah saya ingin mencari apa saja yang sungguh-sungguh telah diteliti, dicoba, dan disesuaikan oleh sebuah tim.

Kedua sumber berasal dari pemerintah Brasil. Keduanya mengonfirmasi pengumuman tersebut dan menjelaskan pendekatannya, tetapi tidak menyajikan hasil pengujian independen dalam penggunaan nyata. Kami tidak menguji sendiri fungsi aplikasi web tersebut.

Yang memberi saya harapan adalah percakapan yang bisa dibuka oleh alat semacam ini: bukan hanya bertanya apa yang bisa dilakukan AI, tetapi juga bagi siapa AI itu berguna dan apa yang terjadi ketika hasilnya tidak sesuai harapan. Kuesioner yang sudah diisi adalah awal. Setelah itu, map proyeknya boleh saja bertambah tebal.