Yapay zeka kısıtlamaları siber güvenlik uzmanlarının işini zorlaştırıyor

Yapay zeka (AI) teknolojilerinin gelişmesiyle birlikte büyük teknoloji şirketleri, modellerinin kötü niyetli amaçlarla kullanılmasını önlemek için katı güvenlik sistemleri (guardrails) uygulamaya koyuyor. Ancak, siber saldırıları engellemeyi amaçlayan bu kısıtlamalar artık sadece siber suçlular için değil, aynı zamanda sistemleri koruyan meşru araştırmacılar ve güvenlik mühendisleri için de ciddi sorunlar yaratıyor. Bu konu hakkında Techcrunch.com haber veriyor.

Son aylarda OpenAI ve Anthropic gibi önde gelen şirketler, modellerini güvende tutmak amacıyla özel denetim programları başlattı. Örneğin, Anthropic şirketinin Mythos ve Fable modelleri, siber saldırılarda kullanılabileceği endişesiyle ABD hükümeti tarafından ihracat kontrolüne alınmıştı. Bu kısıtlamalar daha sonra kısmen hafifletilse de, siber güvenlik uzmanları bu yaklaşımın savunma sistemlerini zayıflattığını belirtiyor.

Savunma ve saldırı arasındaki ince çizgi

Siber güvenlik araştırmacıları, sistemlerdeki açıkları tespit etmek ve kapatmak için genellikle hackerlar gibi düşünmek ve buna uygun araçlar kullanmak zorundadır. TechCrunch'ın haberine göre, birçok uzman AI modellerine kod analizi yapmaları ve hataları bulmaları için talimat verdiğinde, sistem bunu "tehlikeli bir eylem" olarak değerlendirip yanıt vermeyi reddediyor.

NCC Group şirketinin baş bilim sorumlusu Chris Anley, bir yazılım kodunu "düzeltme" komutunun hem savunma hem de saldırı için kullanılabileceğini açıklıyor. Uzman, "Aynı araç hem saldırı hem de savunma silahı görevi görür ve bunları birbirinden ayırmak imkansızdır. Eğer AI modeli kod analizini reddederse, bu durum savunmacıların işini zorlaştırır" diyor.

Şirketlerin öznel kararları

Tanınmış güvenlik araştırmacısı Mark Dowd'a göre, özel şirketlerin neyin güvenli neyin tehlikeli olduğunu bağımsız olarak belirlemesi sektörün gelişimini olumsuz etkiliyor. Dowd, büyük teknoloji devlerinin siber güvenliğin karmaşık yönlerini dikkate almadan keyfi kısıtlamalar getirdiğini vurguluyor.

Şu anda OpenAI, Trusted Access for Cyber; Anthropic ise Cyber Verification Program programları aracılığıyla yalnızca özel denetimden geçmiş kuruluşların kısıtlamaları azaltılmış modellere erişmesine izin veriyor. Ancak bu "kapalı kapılar" politikası, bağımsız araştırmacıların imkanlarını kısıtlıyor.

Özbekistan'da da siber güvenlik giderek daha güncel bir konu haline geliyor. Yerel uzmanların küresel AI modellerini kullanırken bu tür engellerle karşılaşması, ülkedeki bilgi sistemlerini koruma sürecini yavaşlatabilir. Çünkü modern siber saldırılara karşı koymak için uzmanların en gelişmiş entelektüel araçlara tam erişim sağlaması şarttır.