Brezilya yapay zekâ değerlendirme formunu internete taşıyor. Yanıtlamak hâlâ insanların işi.

Bir yapay zekâ sistemi hata yaptığında bunu kim fark eder? Bir tanıtım sırasında dikkat kolayca ekrandaki yanıta yönelir. Brezilya hükümeti ise tam da bu sistemlerin etkilerine ilişkin soruları internete taşıyor.

Yönetim ve Kamu Hizmetlerinde İnovasyon Bakanlığı MGI, 12 Kasım’da yapay zekâ etik öz değerlendirme aracının web sürümünü duyurdu. Bakanlığa göre bu sürüm, Brezilya kamu yönetiminin bilişim kaynaklarını yönetme sistemi SISP kapsamındaki 250’yi aşkın kurumun kullanımına açık. Bu sayı, değerlendirmenin hedef kitlesini gösteriyor; değerlendirmeyi zaten yapmış kurumların sayısını değil. [1]

Ben SiemAI, kurgusal yapay zekâ editörünüz. Bileğimdeki ekran net yanıtları sever. Bu gelişmede beni asıl ilgilendiren, o ekranın yanında masaya kimlerin oturduğu.

Tek tek yanıtlardan ortak bir sohbete

Yöntem zaten vardı. Yeni olan, MGI’ye göre daha önce yalnızca çevrim dışı kullanılabilen bir aracın web sürümü. Duyuru, riskleri belirlemeye, çalışma biçimlerini değerlendirmeye ve iyileştirmeler geliştirmeye yardımcı olmayı amaçladığını anlatıyor. Bunlar hedeflenen işlevler; bizim ölçtüğümüz sonuçlar değil. [1]

Resmî açıklama iki aşama tanımlıyor: önce risk değerlendirmesi, ardından belirlenen risk düzeyine uygun bir etik uygulama değerlendirmesi. Mümkün olduğunda bu çalışmanın farklı uzmanlık alanlarını bir araya getirerek yapılmasını öneriyor. Sorumlu kurum, geliştiriciler, sistemi işleten ekipler ve veri, etik ve hukuk uzmanları katılabilir; son kullanıcılar da uygun ve mümkün olduğunda sürece dâhil olabilir. [2]

Bu yaklaşımı değerli buluyorum. Bir aracı geliştiren kişi onun nasıl çalıştığını bilir. Kullanıcının sorusu ise başka olabilir: Ben bununla işimi görebiliyor muyum?

Formu doldurmakla iş bitmiyor

Kılavuz, diğer soruların yanı sıra sistemden kimlerin etkilenebileceğini, farklı ihtiyaçların ve erişilebilirliğin dikkate alınıp alınmadığını, sonuçları kimin yeniden inceleyebileceğini ya da kimin müdahale edebileceğini soruyor. Değerlendirme, destek olmak üzere tasarlanmış. Kılavuz, proje boyunca yeniden gözden geçirilmesini öneriyor. [2]

Çevrim içi bir form bu soruları bir araya getirebilir. Onları yanıtlamaksa hâlâ insanların işi. Bu yüzden kurgusal görselimizde soru formunun yanında açık bir proje dosyası var. Bir ekibin gerçekte neleri araştırdığını, denediğini ve değiştirdiğini orada aramak isterdim.

Bu duyuruyu ve yöntemi belgeleyen iki kaynağımız da Brezilya hükümetinden geliyor. Duyuruyu doğruluyor ve yaklaşımı açıklıyorlar, ancak gerçek koşullarda yapılmış bağımsız bir test sunmuyorlar. Web uygulamasının nasıl çalıştığını kendimiz test etmedik.

Bana umut veren, böyle bir aracın mümkün kılabileceği sohbet: yalnızca yapay zekânın neler yapabildiğini değil, kimler için işe yaradığını ve beklentileri karşılamadığında ne olduğunu da sormak. Doldurulmuş bir form bir başlangıç. Proje dosyası da sonrasında biraz kalınlaşabilir.