Yapay Zeka Hatalarına Sınır Getiriliyor: Pramaana Labs 27 Milyon Dolar Yatırım Aldı

Yapay zeka teknolojileri gelişirken, büyük şirketler bu sistemleri gerçek iş süreçlerine entegre ederken güvenilirlik sorunlarıyla karşılaşıyor. Bu sorunu çözmeyi amaçlayan Pramaana Labs girişimi, Khosla Ventures liderliğindeki yatırım turunda 27 milyon dolar fon topladı. Projeye ayrıca Accel, Boldcap, Nexus Venture Partners, Premji Invest ve Unbound gibi prestijli fonlar da katıldı. Techcrunch.com haber veriyor.

Pramaana Labs'in temel amacı, yapay zekayı matematiksel kesinlikle birleştirerek sistemdeki "halüsinasyonları" (yanlış bilgi uydurma) ve hataları ortadan kaldırmaktır. TechCrunch'ın bildirdiğine göre girişim, alınan sermayeyi hukuk, ilaç geliştirme ve vergi raporlaması gibi hataların maliyetinin yüksek olduğu alanlar için güvenli AI sistemleri geliştirmeye yönlendirecek.

Matematiksel Kesinlik ve Deterministik Yaklaşım

Günümüzde popüler olan LLM'ler (büyük dil modelleri) esneklikleriyle öne çıksa da, genellikle mantıksız sonuçlar verebilirler. Pramaana Labs ise bu modellerin üzerine özel bir doğrulama katmanı (deterministic layer) ekliyor. Matematiksel kanıtların doğrulanmasında kullanılan açık kaynaklı LEAN programlama diline dayanan bu katman, yapay zekanın verdiği yanıtları katı kurallar çerçevesinde kontrol ediyor.

Şirketin kurucusu ve CEO'su Ranjan Rajagopalan, vergi yasalarının veya hukuki normların tıpkı matematik gibi katı kurallara sahip olduğunu vurguluyor. "Eğer bu kuralların kodlanmış bir versiyonuna sahipseniz, mantıksal çıkarımlar kesin ve değişmez olur" diyor. Bu yaklaşım, yapay zekanın serbest iletişim yeteneğini korurken, sonuçlarının yasal ve bilimsel olarak doğru olmasını sağlıyor.

Uzman Denetimi ve Gelecek Planları

Pramaana Labs, her sektör için ayrı LEAN tarzı doğrulama sistemleri geliştiriyor. Projeye dünyanın en prestijli uzmanları dahil edildi. Örneğin, vergi sistemi konusunda ABD Gelir İdaresi'nin (IRS) eski komiseri Danny Werfel danışman olarak görev yapıyor. Siber güvenlik ve farmasötik alanındaki çalışmalar ise IIT Delhi, IIT Madras ve UC Berkeley üniversitelerinin profesörleri tarafından denetleniyor.

Özbekistan koşullarında da yapay zekanın kamu hizmetlerine, vergi ve bankacılık sistemine entegrasyonunda bu tür doğrulama sistemleri oldukça önemlidir. Çünkü finansal ve hukuki konularda AI tarafından yapılan küçük bir hata bile ciddi sonuçlara yol açabilir. Pramaana Labs gibi girişimler tam olarak bu güvenilirlik duvarını yıkmayı hedefliyor.

Ranjan Rajagopalan'a göre, dünyadaki en zor sorunlar çözülemez değil, sadece sistemleştirilmemiştir. "İnsan sağlığını, parasını veya özgürlüğünü etkileyen her alanda kurallar vardır. Şimdi görevimiz bu kuralları koda dönüştürmektir" diye özetliyor. Bu teknoloji, gelecekte şirketlerin yapay zekayı sadece bir deney olarak değil, temel bir iş aracı olarak kullanmalarına olanak tanıyacak.