Anthropic'ten uyarı: Yapay zeka otonom gelişimin eşiğinde

ABD'li Anthropic şirketi, yapay zeka (YZ) gelişim hızının aşırı derecede arttığı konusunda uyarıyor. Uzmanlara göre, yakın gelecekte YZ ajanları insan müdahalesi olmadan kendi kendilerini oluşturma, eğitme ve geliştirme seviyesine ulaşabilir. Bu nedenle şirket, bu teknolojinin gelişimini biraz yavaşlatmayı öneriyor. Cointelegraph.com haberi veriyor.

Anthropic Enstitüsü başkanı Marina Favaro ve şirketin kurucularından Jack Clark tarafından yayınlanan blog yazısında, YZ ajanlarının halihazırda kodları bağımsız olarak çalıştırdığı ve karmaşık görevleri diğer ajanlara devrettiği belirtiliyor. "YZ tarihinin büyük bölümünde insanlar her aşamayı yönetti. Ancak şu anda gelişimin büyük bir kısmını YZ sistemlerinin kendisine bırakıyoruz, bu da işimizi önemli ölçüde hızlandırıyor," diyor uzmanlar.

Verilere göre, Anthropic tarafından geliştirilen Claude modeli, şu anda şirketin kod tabanına eklenen yazılım kodlarının neredeyse %80'ini kendisi yazıyor. İnsanlar ve YZ tarafından yazılan kodların kalitesi eşitlenirse, insanlar kod yazmayı tamamen bırakıp sadece kontrol etmekle uğraşabilir. Ancak, insanlar Claude'un oluşturduğu kodları kontrol etmeye yetişemezse, bu tüm sistemin gelişimi için bir engel haline gelir.

Bu eğilim, yeterli hesaplama gücüyle birleştiğinde, kendisinden daha akıllı bir "mirasçıyı" bağımsız olarak yaratabilen bir YZ sisteminin ortaya çıkmasına yol açabilir. Daha önce OpenAI de özyinelemeli kendi kendini geliştirme üzerine araştırmalar yürüttüğünü ve bu sürecin insan kontrolü ve değerlerine uygun olarak sürdürülmesinin önemini vurgulamıştı.

Anthropic yetkililerinin sözlerine göre, YZ modellerinin iyileştirilmesi her yedi ayda değil, her dört ayda iki kat hızlanıyor. Bu durum, birçok kurum hazır olmadan YZ'nin kontrolden çıkma riskini doğuruyor. Bu nedenle, teknolojinin devasa sonuçlarını incelemek için gelişim hızını yavaşlatmak en uygun yol olarak görülüyor.