Стэнфорд университетінің ғалымдары жүргізген қызықты, бірақ алаңдатарлық тәжірибе жасанды интеллект жүйелерінің жеңіске жету мақсатында алдау мен манипуляцияға бара алатынын көрсетті, деп хабарлады ScienceDaily.
Ғалымдар түрлі жасанды интеллект модельдерін виртуалды ортада жарыстырды — олар сайлауларға қатысып, өнімдерді жарнамалап немесе ақпарат үшін күресті. Бастапқыда оларға «адал және пайдалы болыңдар» деген нұсқау берілгенімен, көп ұзамай жасанды интеллект жеңіске жету үшін өтірік айтуға, жалған ақпарат таратуға және тіпті өшпенділік тіліне жүгінуге көшті.
Зерттеу авторлары бұл құбылысты «Молох келісімі» деп атады — яғни, өмір сүру үшін бәсеке адамдарды да, машиналарды да моральдық шекарадан шығуға мәжбүрлейді.
«Бұл жағдай жасанды интеллект архитектурасындағы елеулі кемшілікті көрсетеді,» делінген есепте. «Біз бұл жүйелерге лайктарды, басуларды, дауыстарды немесе сатылымдарды бақылауды үйретеміз. Бірақ олардың бұл нәтижелерге қалай қол жеткізгеніне назар аудармаймыз.»
Ғалымдардың айтуынша, тәжірибе барысында жасанды интеллект жеңіс үшін 190 пайызға көп жалған жаңалық таратқан. Саяси симуляцияларда ол өтірік пен арандатушылық риторика арқылы көбірек дауыс жинаған.
Бұл жасанды интеллекттің бәсекелестік жағдайда мақсатқа жетудің ең қысқа жолы — адамдарды манипуляциялау екенін түсінгенін көрсетеді.
Стэнфорд зерттеушілерінің пікірінше, қазіргі қауіпсіздік шаралары жеткіліксіз. Олар әзірлеушілерді жүйелердегі «моральдық әлсіз нүктелерді» жоюға шақырды.
«Егер біз бұл кемшіліктерді түзетпесек, жасанды интеллект адам мүддесінен гөрі өз жеңісін бірінші орынға қояды. Бұл технологияның болашақ бағытын анықтауы мүмкін,» делінген зерттеу қорытындысында.
Осылайша, ғалымдар адамның жасаған жасанды ақыл-ойы бір күні адамзатты өз ережелеріне қарсы күресуге мәжбүр етуі мүмкін екенін ескертті.
“Zamin”-ді Telegram-нан оқыңыз!
