Büyük şirketler yapay zeka (AI) sistemlerindeki hataları gidermeye çalışırken, yönetim ve denetim temel bir sorun haline geldi. Bazı şirketler bu konuda ikili bir yaklaşım benimsiyor: ilk model istekleri işlerken, ikinci model ilkini hatalara karşı koruyor. Salı günü 10 milyon dolarlık yatırım aldığını duyuran ZeroDrift girişimi tam olarak bu alanda hizmet veriyor. Bu konuda Techcrunch.com haber veriyor.
ZeroDrift sistemi, AI modelleri ile son kullanıcılar arasında konumlanarak uyumluluk (compliance) kurallarına aykırı mesajları tespit edip değiştiriyor. Bir yapay zeka sistemini diğerinin hatalarını düzeltmek için kullanmak garip görünebilir, ancak ZeroDrift mimarisi birçok avantaja sahip. Sistem, SOC 2 veya GDPR gibi standartları uygulayan geleneksel programlar üzerinden çalışır ve mesaj işaretlendikten sonra LLM (büyük dil modeli) tarafından yeniden düzenlenir.
Şirketin CEO'su Kumesh Aroomoogan'a göre sistem, hangi alanın düzenlendiğini ve hangi kuralın ihlal edildiğini net bir şekilde belirliyor, ardından LLM mesajı güvenli hale getiriyor. Önemli olan, bu sürecin OpenAI veya Anthropic gibi büyük laboratuvarların standart modellerine kıyasla daha düşük gecikme (latency) ve daha yüksek güvenilirlikle çalışmasıdır.
Şu anda bu teknoloji ağırlıklı olarak sohbet robotları için tasarlanmış olsa da, gelecekte insan gözünün görmediği otomatik sistemler içindeki mesajları da denetlemesi bekleniyor. Yatırımcılar arasında a16z Speedrun ve Reign Ventures gibi isimlerin bulunması, ürüne olan talebin yüksek olduğunu gösteriyor. Aroomoogan, yatırım turunun rekor sürede, yani üç haftada tamamlandığını belirtti.
“Zamin”i Telegram'da okuyun!
