Yapay Zekâya Verilen Sorumluluk, Sorumlu Olamayan Bir Varlığa Yüklenen Yalnızlıktır

Bir kredi başvurusunun reddedildiği ekrana bakınca insanın ilk sorusu genellikle kimin karar verdiği olur. Cevap çoğu zaman bir kişi değildir: bir skor, bir kural, o kuralı yazan bir ekip ve onların bağlı olduğu bir yönetim. Karar herkesin elinden biraz geçmiş, hiçbirinin üzerine tam oturmamıştır. Kafka'nın Dava'sındaki K. da suçunun ne olduğunu hiç öğrenemez; yargı vardır, yüzü olan bir yargıç yoktur.

Yapay zekâ sistemleriyle bu dağılma daha da belirginleşiyor. Veriyi toplayan, eşiği belirleyen, sonucu uygulayan çok sayıda el var; sistemin kendisi ise ne suçlanabilir ne övülebilir bir özne gibi görünüyor. Sartre'ın kötü inanç dediği şey burada gizlenir: sorumluluğu üstlenecek bir yüz bulamadığımız için değil, ona yaklaşmamak için başka yerlere sürdüğümüzde. 'Sistem böyle karar verdi' cümlesi açıklama gibi görünür ama çoğu zaman bir çekilmedir.

Bu yüzden sorumluluğu makineye yüklemek bir çözüm değil, yeni bir yalnızlık üretiyor. Karşısında cevap verebilecek bir muhatap bulunmayan bir karar, hem onu uygulayanı hem de etkilenenleri yalnız bırakır. Sorumluluğun ağırlığı, bir kararı kendi adıyla savunabilmekten gelir. Bunu yapamayan bir varlık yükü taşıyormuş gibi görünebilir, ama taşıyamaz.

Bence yük, kararın her aşamasında adı açıkça yazılan birine düşmeli; ama o ad bir imzaya dönüşmemeli, kararın sonucunu gerçekten görebilen biri olmalı.