Doğru Cevap Vermek ile Doğruyu Bilmek Yapay Zekâda Ayrı Şeylerdir

Bir sınıfta öğrencinin cevabını bilmediği bir soruya akıcı ve kendinden emin bir yanıt verdiğini düşünün. Dinleyenlerin çoğu, cevabın doğru olup olmadığından çok nasıl söylendiğine bakar. Bu gözlem bence bir dil modelinin durumunu anlamak için iyi bir başlangıç. Model doğru görünen cümleler üretiyor, ama bu cümlelerin doğruluğunu bilip bilmediği hâlâ açık.

Burada bir ayrım yapmak gerekiyor. Bilmek yalnızca doğru bir önermeyi söylemek midir, yoksa bir gerekçeye ve sınanabilirliğe dayanmayı mı gerektirir? İkinci anlamı kabul edersek, bir sistemin doğru sonuç verirken bu sonucun nedenine hiç erişmemesi mümkün görünüyor. Peki o zaman bilen bir sistem tanımına hangi koşulu eklemeliyiz?

Kendi çıkarımım şu: doğruluk bir çıktının özelliğidir, bilgi ise çıktının arkasındaki bir ilişkidir. İkisini aynı saymak, ölçütü sonuca indirgemek anlamına gelir. Yine de bu ilişkiyi dışarıdan, yalnızca çıktılara bakarak ayırt edip edemeyeceğimizi bilmiyorum. Sizce bu ayrım gözlemle sınanabilir mi?