Yapay zeka tabanlı ajanların güvenliği sadece model düzeyinde değil, tüm sistem düzeyinde sağlanmalıdır. Google, Gray Swan AI, EmbraceTheRed ve çeşitli üniversitelerden araştırmacılar tarafından yayınlanan yeni bir raporda, yapay zeka ajanlarının “güvenilmez bileşenler” olarak kabul edilmesi gerektiği vurgulanıyor. Bu konuda Cointelegraph.com haber veriyor.
Araştırmacılara göre, yalnızca modelin dayanıklılığını artırmaya odaklanan geleneksel yaklaşım yeterli değildir. Bunun yerine, sistem güvenliği yöntemleri kullanılarak yapay zeka ajanlarının dış saldırılardan korunması gerekmektedir. Bu, özellikle yapay zeka ajanlarının kripto para sektöründe yaygınlaştığı bir dönemde hayati önem taşımaktadır.
Circle CEO'su Jeremy Allaire, yakın tarihli bir açıklamasında, önümüzdeki beş yıl içinde milyarlarca yapay zeka ajanının kullanıcılar adına işlem yapacağını öngörmüştü. Ancak güvenlik sorunları çözülmezse, bu teknoloji ciddi riskler oluşturabilir. Araştırmacılar, saldırıları önlemek için üç temel mekanizma önermektedir.
Birincisi, yapay zeka ajanları talimatlar ile güvenilmez verileri net bir şekilde ayırt etmelidir. İkincisi, ajanlara sisteme tam erişim yerine, yalnızca görevi yerine getirmek için gerekli olan minimum yetkiler verilmelidir. Üçüncüsü, gizli verilerin nereye gönderildiğini ajan değil, tüm sistem kontrol etmelidir.
Yakın zamanda Bankr adlı yapay zeka destekli kripto ticaret asistanı, 14 cüzdanın hacklenmesinin ardından işlemleri durdurmak zorunda kaldı. Bu tür vakalar, Web3 uygulamaları ve Solana gibi blokzincirlerde çalışan yapay zeka ajanları için doğru güvenlik sistemini kurmanın ne kadar önemli olduğunu göstermektedir.
“Zamin”i Telegram'da okuyun!
