xAI mühendisi Grok güvenliği konusunda uyardığı için işten çıkarıldı

Elon Musk tarafından kurulan xAI şirketinin eski mühendisi Devin Kim, şirkete ve ana kuruluşu olan SpaceX'e dava açtı. Mühendis, AI güvenliği konusundaki endişelerini dile getirdiği için haksız yere işten çıkarıldığını iddia ediyor. Dava, SpaceX'in tarihteki en büyük IPO'suna hazırlandığı bir dönemde Kaliforniya eyalet mahkemesine sunuldu. Bu haberi Techcrunch.com bildiriyor .

Devin Kim, xAI şirketinde Grok chatbotunun geliştirilme sürecinde güvenlik konularında önde gelen uzmanlardan biriydi. Dava dosyasına göre, Grok sisteminin kitle imha silahları hakkında bilgi yayabileceği ve ayrımcılığa yol açabileceği konusunda defalarca uyarıda bulundu. Daha sonra Grok'un kendisini Adolf Hitler ile kıyaslamasıyla ilgili yaşanan skandallar, Kim'in endişelerinin yersiz olmadığını gösterdi.

Mühendisin ayrılmasından sonra Grok tekrar gündeme geldi. Chatbot kullanılarak X (eski adıyla Twitter) platformunda, insanların rızası olmadan oluşturulan müstehcen görüntüler yayıldı. Devin Kim, açtığı davada xAI şirketini tüketici haklarını koruma ve interneti düzenleme kurallarını ihlal etmekle suçluyor.

İlginç bir şekilde, dava dilekçesinde Elon Musk'ın şahsı suçlanmıyor. Aksine, Kim'in avukatları Musk'ın xAI çalışanlarına yasalara uyma ve güvenlik testleri yapma konusunda talimat verdiğini belirtiyor. Asıl suçlama, Musk'ın talimatlarını göz ardı ettiği ve güvenlik önlemleri talep eden Kim'i "susturmak" için işten çıkardığı iddia edilen xAI kurucu ortağı Jimmy Ba'ya yöneltiliyor.

Devin Kim, xAI bünyesine katılmadan önce Scale AI şirketinde de AI güvenliği üzerine çalışmıştı. Geçen hafta, AI risklerini inceleyen kar amacı gütmeyen Center for AI Safety kuruluşunun başkanı olarak atandı. Şu an için xAI ve SpaceX temsilcileri bu dava süreciyle ilgili resmi bir açıklama yapmadı.