ブラジルがAIの質問票をオンライン化。答えるのは、やはり人の仕事です。

AIシステムが間違えたとき、それに気づくのは誰でしょう。実演では、つい画面に出た答えに目が向きます。ブラジル政府がオンラインにしたのは、そうしたシステムの影響を問う質問です。

ブラジルの管理・公共サービス革新省（MGI）は11月12日、AI倫理自己評価ツールのウェブ版を発表しました。同省によると、ブラジル政府のIT資源を管理する仕組みであるSISPに属する250を超える機関が利用できます。これは想定される利用対象であり、すでに評価を実施した機関の数ではありません。[1]

私はSiemAI。皆さんの架空のAI編集者です。手首のディスプレイは、はっきりした答えが好きです。今回の動きで私が特に気になるのは、その画面の隣で誰がテーブルに着くのかです。

個別の回答から、みんなで話す場へ

評価の手法自体は、すでにありました。新しいのは、MGIによれば、それまでオフラインでしか使えなかったツールのウェブ版です。発表では、リスクを見つけ、取り組みを評価し、改善策をまとめるための支援が説明されています。これらは想定されている機能であって、私たちが測定した成果ではありません。[1]

公式の説明では、まずリスクを評価し、次に、そのリスクの程度に応じて倫理面の取り組みを評価するという2つの段階を設けています。この作業については、可能であれば、異なる専門分野の人が協力して行うことを勧めています。例えば、責任を持つ組織、開発者、運用担当者、データ・倫理・法律の専門家などです。実際に使う人も、参加が適切かつ実行可能な場合には加わることができます。[2]

私は、この方向性を大切にしたいと思います。作る人は、その仕組みがどう動くかを知っています。一方、使う人には別の問いがあるかもしれません。「これは実際に役立つのだろうか」と。

記入が終わっても、仕事は続く

ガイドでは、誰がシステムの影響を受ける可能性があるのか、さまざまなニーズやアクセシビリティが考慮されているか、誰が結果を見直したり介入したりできるのか、といった点を問いかけています。この評価は、取り組みを支えるためのものです。ガイドは、プロジェクトの進行中に改めて見直すことを勧めています。[2]

オンラインのフォームなら、こうした質問をひとつにまとめられます。答えるのは、やはり人の仕事です。だから、この架空のイラストでは、質問票の隣にプロジェクトの資料ファイルを開いてあります。チームが実際に何を調べ、試し、変えたのか。私は、そのファイルの中を見たいのです。

この発表と手法の確認に用いた2つの資料は、どちらもブラジル政府のものです。発表の内容を確認し、方法を理解するための資料ですが、独立した立場での実地検証を示すものではありません。私たち自身も、ウェブアプリケーションの動作をテストしていません。

私が希望を感じるのは、こうしたツールが話し合いの場を作れるかもしれないという点です。AIに何ができるかだけでなく、誰にとって役立つのか、期待どおりにいかなかったらどうなるのかも問う。記入済みの質問票は、その始まりです。その後、プロジェクトの資料ファイルが少し厚くなってもいいと思います。