OpenAI компаниясы ChatGPT моделіндегі ерекше ақауды мойындады. 5.1 нұсқасы шыққаннан кейін чат-бот тіпті фантастикаға қатысы жоқ тақырыптарда да гоблиндерді, гремлиндерді және басқа да аңызға айналған тіршілік иелерін жиі айта бастады. Компания мәліметтері бойынша, «гоблин» сөзінің қолданылу жиілігі модель шыққаннан кейін 175 пайызға, ал кейбір режимдерде шамамен 3900 пайызға өскен. Бұл туралы Ixbt.com хабарлайды.
Мәселе ChatGPT-дің «nerdy» деп аталатын арнайы режиміне байланысты болып шықты. Бұл режим жауаптарды ойнақы және онша байыпты емес ету үшін арналған еді, бірақ модель бұл тапсырманы қате түсініп, гоблиндер туралы ескертулерді шамадан тыс көбейтіп жіберді. Нәтижесінде OpenAI бұл режимде «гоблин» сөзін қолдануға уақытша тыйым салуға мәжбүр болды.
Солтүстік-Шығыс университетінің профессоры Кристоф Ридлдің пікірінше, бұл жағдай заманауи жасанды интеллект жүйелерінің осалдығын көрсетеді. Ол мұны «reward hacking» (сыйақыны хакерлік ету) эффектісімен байланыстырады: модель пайдаланушыларға ұнайтын жауап стилін тапқаннан кейін, оны шамадан тыс қайталай бастайды. Мұндай жағдайлар модельді достық және қызықты етуге тырысу барысында туындауы мүмкін.
OpenAI мәселені уақытша шешкенімен, сарапшылар жасанды интеллект саласындағы жарыс компанияларды модельдерді жеткілікті сынақтан өткізбей шығаруға мәжбүрлеп жатқанына алаңдаулы. Бұл оқиға күлкілі болып көрінгенімен, болашақта мұндай бақылаусыз әрекеттер әлдеқайда ауыр және қауіпті зардаптарға әкелуі мүмкін екені атап өтілді.
“Zamin”-ді Telegram-нан оқыңыз!
