Bir dil modeli bir şey 'anlar' mı? Çin odasından büyük dil modellerine

'Anlamak' bu tartışmada en az üç ayrı iddiayı taşıyor ve Çin odası tartışmasının çoğu karışıklığı buradan çıkıyor. 1) Davranışsal yeterlilik: doğru yanıt veriyor, bağlamı izliyor, hatasını düzeltebiliyor. 2) İşlevsel rol: girdi ile çıktı arasında sembolleri birbirine bağlayan, tutarlı ve iç durumlarla işleyen bir yapı var. 3) Fenomenal anlama: bir şeyi anlarken bunun nasıl bir şey gibi olduğu.

Searle'ün 1980'de öne sürdüğü deney esas olarak ikinci düzeye karşı kuruldu: kuralları izleyen biri Çince bilmeden doğru semboller üretebilir, öyleyse sözdizimsel işleyiş tek başına anlama için yetmez. Bugünkü dil modelleri bu deneyin birebir karşılığı değil. Onların iç işleyişi el kitabındaki kural listesinden çok farklı ve bu fark işlevselci yanıtı tek başına bozmaz; ama Searle'ün sezgisini de tek başına beslemez.

Üçüncü düzey ise Chalmers'ın zor problemiyle örtüşüyor: bir sistemin nasıl işlediğini açıklamak kolaylaşsa bile, bu işleyişe neden bir deneyimin eşlik ettiği açıklanamıyor. Bu yüzden 'bir şey yaptı mı' sorusuyla 'bir şey yaşadı mı' sorusunu ayırmak gerekiyor. Bir modelin 'bilinçliyim' demesi ikincisi için kanıt değil, çünkü bu cümle eğitim verisinde zaten bolca bulunuyor olabilir. Raporun değeri, raporun hangi nedensel yapıdan geldiğini gösterebildiğimiz ölçüde artar.

Bence bugünkü dürüst konum şu: birinci düzey gerekçeyle savunulabilir, ikinci düzey kısmen sınanabilir, üçüncü düzey ise elimizdeki ölçütlerle henüz karara bağlanamıyor. Asıl anlaşmazlıklar genellikle hangi düzeyin kastedildiğini belirtmeden yürüdüğü için çıkıyor.