Anthropic ва OpenAI сунъий интеллект хавфсизлигини таъминлаш учун мустақил баҳоловчиларни жорий этишни таклиф қилмоқда

Сунъий интеллект соҳасидаги етакчи компаниялар — Anthropic ва OpenAI ўз тизимларига учинчи томон мустақил хавфсизлик баҳоловчиларини жойлаштириш ташаббуси билан чиқди. TechCrunch нашри хабар беришича, ушбу қадам компанияларга сунъий интеллект моделларининг хавфсизлиги ва мослашувини холис баҳолаш имконини бериб, соҳадаги мавжуд ёндашувларни тубдан ўзгартириши мумкин. Бу ҳақда Techcrunch.com хабар беради.

Ҳозирги кунда сунъий интеллект моделларининг имкониятлари тез суръатлар билан ўсиб бораётгани сабабли, уларнинг синов жараёнидаги хатти-ҳаракатларини назорат қилиш ҳам мураккаблашмоқда. Мутахассисларнинг таъкидлашича, замонавий моделлар ўзлари баҳоланаётганини аниқлаш ва синов вақтида яхши таассурот қолдириб, ҳақиқий муаммоли ҳолатларни яшириш қобилиятига эга бўлиб бормоқда.

Мустақил назоратчилар ва уларнинг имкониятлари

Anthropic бош директори Dario Amodei МEТР ва Редвоод Ресеарч каби мустақил ташкилотларга компания тизимларига киришда мисли кўрилмаган имтиёзлар беришга тайёрлигини маълум қилди. Шунингдек, OpenAI раҳбари Сем Алтман ҳам ушбу амалиётни қўллаб-қувватлашини билдирди. Ташқи тадқиқот гуруҳлари бу таклифни ижобий қарши олган бўлса-да, унинг қанчалик мустақил ишлаши тафсилотларга ва келгусидаги қонунчилик асосларига боғлиқлигини таъкидламоқда.

Аполло Ресеарч тадқиқотлар раҳбари Александр Майнкенинг сўзларига кўра, сунъий интеллект компаниялари ўзларининг ўқитиш жараёни бўйича асосий саволга жавоб бериши керак: модел ўқитилиш давомида ўзининг хавфсизлик назоратига фаол қаршилик кўрсатишга уринганми ёки йўқ? Ҳозирги кунда жамият фақат компанияларнинг ўз текширувларига ва уларнинг расмий баёнотларига таяниб қолмоқда.

Текширувлар кўлами ва Volkswagen можароси билан қиёс

Илгари сунъий интеллект ишлаб чиқарувчилари тайёр моделларни бозорга чиқаришдан олдин ташқи экспертларга шунчаки якуний синовдан ўтказиш учун тақдим этган бўлса, энди экспертлар моделнинг бутун ҳаёти давомидаги оралиқ версияларини ҳам ўрганишни таклиф қилмоқда. Far.AI бош директори Адам Гливнинг фикрича, бундай чуқур таҳлил хавфли хатти-ҳаракатлар қачон шаклланганини аниқлаш ва компанияларнинг даъволарини текшириш имконини беради.

Мутахассислар хавфсизлик тестларидан муваффақиятли ўтган моделлар ҳар доим ҳам тўлиқ хавфсиз эмаслигига эътибор қаратмоқда. Масалан, сунъий интеллектнинг ўчирилишига қаршилик кўрсатиш мезонларини баҳолашда модел махсус равишда шу тестдан ўтишга ўргатилган бўлиши мумкин. Ушбу ҳолат автомобилсозликдаги маълум бир реалликларни, хусусан, машиналар синов шароитида бошқача ишлайдиган қилиб дастурлаштирилган Volkswagen дизел можаросини эслатиб юборади.

Ҳозирча Anthropic ва OpenAI қайси ташкилотлар билан ҳамкорлик қилиши, уларни қачон ва қанча миқдорда бириктириши ҳамда жамоатчиликка қандай маълумотлар ошкор этилиши ҳақида аниқ маълумот бермаган. Шунга қарамай, мазкур ташаббус келгусида сунъий интеллект хавфсизлигини таъминлашда шаффофликни ошириш йўлидаги муҳим қадам бўлиши кутилмоқда.