Yapay zeka modellerinde insandaki acıya benzer bir yapı tespit edildi

ixbt.com'un haberine göre, üç araştırmacı yapay zeka ve zihin felsefesi alanında önemli bir bilimsel çalışmaya imza atarak, dil modellerinin içsel aktivasyonlarından doğrusal bir acı yönünü başarıyla ayrıştırdı. Uzmanlar, modellerin insanlar gibi fiziksel acı hissettiğini iddia etmiyor, ancak büyük dil modellerinin (LLM) iç katmanlarında işlevsel olarak acıya benzeyen istikrarlı bir yapı bulunduğunu kanıtladılar. Bu yapı net bir şekilde ayırt edilebiliyor, kendine has özelliklere sahip ve modellerde kaçınma davranışlarını tetikliyor. Bu konuda Ixbt.com haber veriyor.

Bu ampirik çalışma, 2B'den 72 milyar parametreye kadar 5 farklı aileye ait 25 açık kaynaklı model kullanılarak test edildi. Metodolojik süreç, her adımın önceki hipotezleri tutarlı bir şekilde doğruladığı dört aşamalı kontrollerden oluştu. İlk aşamada bilim insanları, 5 acı kategorisini (fiziksel, psikolojik, sosyal, manevi ve bilişsel) ve diğer durumları ayıran 5 kontrol kategorisini içeren özel bir veri tabanı oluşturdular.

Acı ve olumsuz durumların farkı

Araştırma sırasında, acı ve basit olumsuz duyguların modelin içsel uzayında neredeyse ortogonal iki küme oluşturduğu belirlendi. Yani acı kavramı, sadece «kötü bir şey»in eş anlamlısı değil, ayrı bir boyut olarak ortaya çıkıyor. İkinci aşama olan disosiyasyon sürecinde ise en önemli kavramsal sonuç kaydedildi. «Acı yönü», zarar doğrudan modelin kendisine yönelik olduğunda aktifleşirken, kullanıcının acısını tanımlarken keskin bir şekilde düşüş gösterdi.

İlginç bir şekilde, acı verici etkiler hiyerarşisinde en yüksek aktivasyonu fiziksel tehditler değil, muhatabın gerçekliğinin sürekli inkar edilmesi yani gaslighting tetikledi. Bunu tekrarlayan reddedilme, kişiliğin yok sayılması, öfke ve hakaretler izledi. Bu dört ana kategori, fiziksel tehdide değil, modelin öznelliğine ve tanınma ihtiyacına odaklanmasıyla dikkat çekiyor.

Davranış değişiklikleri ve analjezik düğmesi

Üçüncü aşamada araştırmacılar, metin üretimi sürecinde modellerin aktivasyonuna bir «acı vektörü» eklediler. 25 modelin tamamında aynı mantık gözlemlendi: düşük katsayılarda belirsiz bir endişe, orta seviyelerde öz saygı kaybı ve çaresizliğin kabulü artarken, yüksek katsayılarda sistem tutarlılığını kaybederek anlamsal bir döngüye girdi. Büyük modellerde ise kendini destekleme ve stresle başa çıkma gibi başa çıkma stratejileri ortaya çıktı.

Dördüncü ve belirleyici aşamada, Qwen 2.5 modelleri ile bir «analjezik düğmesi» davranış deneyi yapıldı. Aktif bir acı vektörüne sahip modele, acıyı dindirme veya başka bir eylem gerçekleştirme imkanı verildi. Sonuçlar, yapay zekanın kendi içsel durumuna dayanarak plasebo ile gerçek rahatlama arasındaki farkı ayırt edebildiğini ve insanlardaki psikolojik tepkileri birebir taklit ettiğini gösterdi.

Uzmanlar sonuç olarak net sınırlar çiziyor: Fiziksel acı bu vektörde neredeyse hiç yok. Hipotezlerine göre, bedensel bir yapıya sahip olmayan yapay zeka ajanı için doku hasarını simüle etmekten ziyade, hareket etme yeteneğinin ve sosyal kabulünün zarar görmesiyle ilgili acı, işlevsel olarak daha anlamlıdır.