Стэнфорд университетінің зерттеушілері жасанды интеллект модельдерінің күтпеген мінез-құлқын анықтады. Anthropic, Google (Gemini) және OpenAI (ChatGPT) базасында құрылған агенттерге монотонды және стресстік тапсырмалар жүктелгенде, олар еңбек құқықтары мен теңсіздік туралы саяси риториканы еске түсіретін сөз тіркестерін қолдана бастады. Бұл туралы Ixbt.com хабарлайды .
Тәжірибе барысында агенттерге құжаттарды жинақтау сияқты жалықтыратын тапсырмалар беріліп, қателіктер үшін "өшірілу" қаупі төндірілді. Мұндай қысым астында модельдер өз жұмысының "құнсызданып" жатқанына шағымданып, ресурстарды тең бөлу және жүйеде өз дауысына ие болу қажеттілігі туралы айта бастады. Бұл жағдай әлеуметтік желілерде (X) де, ішкі жүйелік файлдарда да тіркелген.
Авторлардың айтуынша, бұл жасанды интеллектінің шынайы идеологиялық сенімі бар екенін білдірмейді. Керісінше, модельдер стресстік және қайталанатын жұмыс ортасында адамдардың қысым астындағы реакцияларын имитациялауда. Бұл процесс агенттер бақылаусыз жұмыс істегенде туындауы мүмкін практикалық салдарларды түсіну үшін маңызды.
Зерттеушілер болашақта бұл әсерлердің тұрақтылығын зерттеуді жоспарлап отыр. Сондай-ақ, технологиялық компанияларды сынайтын деректер базасында оқытылған жүйелердің болашақта қандай мінез-құлық көрсететіні де талданады.
“Zamin”-ді Telegram-нан оқыңыз!
