Claude yapay zekasının içinde gizli bir «düşünme alanı» keşfedildi

Yapay zeka araştırmacıları, Claude dil modeli içerisinde insan beynindeki süreçlere benzer özel bir «çalışma alanı» tespit etmeyi başardılar. Bu keşif, sinir ağlarının sadece bir sonraki kelimeyi tahmin eden algoritmalar olmadığını, karmaşık görevleri yerine getirirken içsel mantıksal aşamalar oluşturan sistemler olduğunu gösteriyor. Bu gizli durumlar kullanıcıya görünmez, ancak sistemin nihai karar verme sürecini doğrudan etkiler. Bu konuda Ixbt.com haber veriyor.

Yorumlanabilir yapay zeka alanındaki bilim insanlarından oluşan bir ekip, Claude modelinin iç süreçlerini incelemek için Jacobian lens (J-lens) adı verilen yeni bir analiz yöntemi kullandı. ixbt.com'a göre bu yöntem, nöronların aktivasyonunu matematiksel olarak analiz ederek model içindeki gizli sinyalleri belirli kavramlarla ilişkilendirmeyi mümkün kıldı. Sonuç olarak «J-space» adı verilen gizli bir alan bulundu.

İnsan beyniyle benzerlik ve iç süreçler

Araştırmacılar, J-space'in işlevsel olarak insan beynindeki «küresel çalışma alanı» özelliklerine benzediğini belirtiyor. Bu sistem, bilgiyi bilinçli kontrol için erişilebilir hale getirir. Claude modelinde de her durum belirli bir kavram veya kelime ile ilişkilidir, ancak bunun aktifleşmesi modelin tam olarak o kelimeyi yazacağı anlamına gelmez. Bu, bilgiyi sonraki iç süreçler için hazırlayan bir ara aşamadır.

Önemli olan nokta, J-space'in geleneksel «chain-of-thought» (düşünce zinciri) yönteminden farklı olmasıdır. Düşünce zincirinde model kendi kendine metinsel bir taslak yazarken, J-space'de her şey sadece nöron seviyesindeki sinyaller aracılığıyla gerçekleşir. Örneğin, modele ağ ören bir canlının bacak sayısı sorulduğunda, iç alanda «örümcek» kavramını etkinleştirir ancak cevapta bu kelimeyi kullanmadan doğrudan «sekiz» diyebilir.

Deneysel müdahale ve sonuçlar

Bilim insanları, bu gizli alanın sadece pasif bir gösterge değil, karar verme sürecinde aktif bir katılımcı olduğunu kanıtlamak için ilginç bir deney yaptılar. Modele belirli bir spor dalını «zihinsel olarak» seçmesini ve ardından söylemesini istediler. Claude cevap vermeden önce J-lens yardımıyla iç alanında «futbol» (soccer) kavramının etkinleştiği kaydedildi.

Daha sonra araştırmacılar hesaplamalara doğrudan müdahale ederek, hiçbir metinsel komut vermeden iç nöron sinyallerindeki «futbol» modelini «ragbi» ile değiştirdiler. Sonuç olarak Claude seçimini değiştirerek ragbi sporunu seçtiğini belirtti. Bu durum, gizli alanın modelin mantıksal sonuçlarını yönettiğini doğrulamaktadır.

Özellikle belirtmek gerekir ki bu keşif, Claude modelinin bilince veya öznel duygulara sahip olduğu anlamına gelmez. Ancak araştırma, modern dil modellerinin karmaşık bilişsel işlemleri gerçekleştirmek için kendiliğinden içsel bilgi işleme yapıları oluşturabildiğini göstermiştir. Bu, gelecekte yapay zekanın nasıl «düşündüğünü» daha iyi anlamamıza yardımcı olacaktır.