Yapay Zekânın Hatası, Kimin Hesabı?

Navigasyon uygulamaları yanlış bir sokağa soktuğunda çoğumuz önce cihaza kızarız. Ses ‘Sağa dönün’ demiştir, biz de dönmüşüzdür. Sonra geriye bakınca direksiyonun başında bizin olduğumuzu, ama kararın sanki bize ait olmadığını hissederiz. Bu küçük durum bana büyük sorunun bir minyatürü gibi geliyor: Bir yapay zekâ yanlış bir sonuç verdiğinde, hesabın kime sorulacağı konusunda içimizde hazır bir kaçış yolu vardır.

Sorumluluğu geliştiriciye ya da sisteme yıkmak, kararın elimizden çıkmasını kolaylaştırır. Yapay zekâ kendini savunamayan, hesap veremeyen bir özne değildir. Bu yüzden hesap sorabileceğimiz yer, sonucu kabul edip kullanan insanın kendisidir. Ama bunu söylemek, kullanıcıya hatanın bütün yükünü yüklemek anlamına gelmez. Kullanıcı, güven vermek için tasarlanmış bir arayüzle karşılaşır ve hataların her zaman görünür olmadığı bir ortamda hareket eder.

Bence sorumluluk tek bir yere düşmez, ama paydaşlar aynı ağırlıkta da değildir. Üreticinin payı, güveni kuran tasarım kararlarıyla ölçülür. Kullanıcının payı ise sonucu sorgulamadan benimsememekle. Asıl mesele, bu iki payın nerede birleştiği ve sınırın kimin tarafında açıkça söylenmesi gerektiğidir.