Anthropic Fable 5 биология сүзгілерінің жалған оң нәтижелерін 85%-ға азайтты, бірақ вирусология бойынша шектеулерді сақтады
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Anthropic Fable 5 моделінің биология қауіпсіздік сүзгілеріндегі жалған оң нәтижелер санын шамамен 85%-ға азайтты, бұл пайдаланушыларға зертханалық талдауларды түсіндіруге және медициналық сұрақтарға жауап беруге мүмкіндік береді. Бұл өзгеріс ғалымдардың модель барлық дерлік биологиялық сұрауларды шамадан тыс блоктайтыны туралы сынынан кейін енгізілді. Алайда, вирусология және токсикология сияқты қос мақсатты тақырыптарда шектеулер сақталады, өйткені Anthropic Fable 5 зиянкестерге қол жетімді емес мүмкіндіктер бере алады деп есептейді.
Сүзгілерді түзету
Бұрын биологиялық сұраулардың барлығы дерлік блокталып, төмен қуатты Opus 5 моделіне бағытталатын, бұл ғалымдардың қатты сынына ұшырады. Енді Anthropic пайдаланушылар Fable 5 көмегімен зертханалық талдауларды түсіндіру, симптомдарды анықтау және медициналық сұрақтарға жауап беру сияқты биологиялық тапсырмаларды әлдеқайда көбірек орындай алатынын мәлімдейді. Жалған оң нәтижелерді 85%-ға азайту пайдалану ыңғайлылығын арттыруға бағытталған, сонымен бірге теріс пайдаланудан қорғауды сақтайды.
Сақталған шектеулер
Вирусология, токсикология және молекулярлық дизайн сияқты қос мақсатты тақырыптар бойынша шектеулер күшінде қалады. Anthropic Fable 5 зиянкестерге басқа жерде қол жетімді емес мүмкіндіктер бере алады деп мәлімдейді. Компания болашақта осы шектелген функцияларды бақыланатын жағдайларда пайдалану үшін зерттеушілерге арналған қол жеткізу бағдарламаларын әзірлеуде.
Негіздеме және тәуекелдер
Anthropic биологиялық тәуекелдерді кибершабуылдарға қарағанда тежеу қиынырақ деп санайды, себебі шығарылған вирусты өшіру мүмкін емес, ал қарсы шаралар уақытты қажет етеді. Компания АҚШ барлау қызметтерінің талдауына, ChatGPT чаттарында биоқару нұсқауларын сұрауға қатысты шолуға, зерттеушілердің бірлескен ескертулеріне және Стэнфорд жобасында толық синтетикалық вирустар жасау үшін AI пайдаланылғанына сілтеме жасайды. Anthropic зерттеушілерге шектелген функцияларға қол жеткізу бағдарламаларын әзірлеуде, бірақ мерзімдері жарияланбаған.
Бұдан әрі
Компания AI мүмкіндіктері дамыған сайын ғылыми пайдалылық пен қос мақсатты тәуекелдер арасындағы тепе-теңдікті қалай сақтайтыны белгісіз. Зерттеушілерге арналған қол жеткізу бағдарламаларының іске қосылуы туралы шешім алдағы айларда қабылдануы мүмкін.
1 дереккөз
Anthropic Fable 5 биология сүзгілерінің жалған оң нәтижелерін 85%-ға азайтты, бірақ вирусология бойынша шектеулерді сақтады
