Жетекші ЖИ зерттеушілері зерттеулерді автоматтандырудың экстремалды қауіптері туралы ескертеді
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Джеффри Хинтон, Йошуа Бенжио және OpenAI зерттеу жетекшісі Якуб Пачоцкийді қоса алғанда 20-дан астам жетекші ЖИ зерттеушісі ЖИ зерттеулерін автоматтандыру экстремалды қауіптермен «интеллект жарылысын» тудыруы мүмкін деп ескертеді. Жаңа мақалада олар мүмкіндіктердің өсуі қоғамның бейімделу қабілетінен әлдеқайда жылдамдауы мүмкін, адамзат аса адамдық ЖИ жүйелеріне бақылауды жоғалтуы мүмкін, ал тежемелік және тепе-теңдік жүйесі бұзылуы мүмкін деп мәлімдейді. Зерттеушілер саясаткерлерді осындай жарылысты басқару және шектеу жолдарын әзірлеуге және қоғамды оның салдарына дайындауға шақырады.
Негізгі фактілер
- Джеффри Хинтон, Йошуа Бенжио және OpenAI зерттеу жетекшісі Якуб Пачоцкийді қоса алғанда 20-дан астам ЖИ зерттеушісі ЖИ зерттеулерін автоматтандырудың экстремалды қауіптері туралы ескертетін мақалаға қол қойды.
- Мақалада ЖИ жүйелері өздерін жасайтын компанияларда кодтың көп бөлігін қазірдің өзінде жазатыны және бірнеше жыл ішінде ЖИ зерттеулерінің бүкіл циклін автоматтандыруы мүмкін екені айтылады.
- Зерттеушілер әдетте жылдарға созылатын прогресс айлар ішінде болуы мүмкін екенін және қоғам бейімделуге үлгермеуі мүмкін екенін ескертеді.
- Мақала саясаткерлерді ЖИ зерттеулерінің қалай автоматтандырылатыны туралы әлдеқайда көп ақпарат алуға және интеллект жарылысын басқару мен шектеу жолдарын әзірлеуге шақырады.
- Мақала өсіп келе жатқан ескертулер тізімін толықтырады, соның ішінде 42 жетекші математиктің ЖИ экзистенциалды қауіптеріне көбірек назар аударуға шақырған жақындағы үндеуі бар.
Ескерту
Джеффри Хинтон, Йошуа Бенжио және OpenAI зерттеу жетекшісі Якуб Пачоцкийді қоса алғанда 20-дан астам ЖИ зерттеушісі жаңа зерттеу мақаласында өзін-өзі жетілдіретін ЖИ тудыруы мүмкін «интеллект жарылысы» туралы ескертеді. Мақалада: «Үлкен белгісіздік сақталғанымен, ЖИ зерттеулерін автоматтандыру жақын арада оны тудыруы мүмкін» делінген. Зерттеуге сәйкес, ЖИ жүйелері өздерін жасайтын компанияларда кодтың көп бөлігін қазірдің өзінде жазады және бірнеше жыл ішінде ЖИ зерттеулерінің бүкіл циклін автоматтандыруы мүмкін. Әдетте жылдарға созылатын прогресс айлар ішінде болуы мүмкін.
Қоғамға төнетін қауіптер
Авторлар қоғам үлгермеуі мүмкін екенін, аса адамдық ЖИ-ге бақылау жоғалуы мүмкін екенін, ал мемлекеттер, компаниялар мен үкіметтер арасындағы күш тепе-теңдігі бұзылуы мүмкін екенін ескертеді. Мақалада «мүмкіндіктердің өсуі қоғамның бейімделу қабілетінен әлдеқайда жылдамдауы мүмкін, адамзат аса адамдық ЖИ жүйелеріне бақылауды жоғалтуы мүмкін, ал мемлекеттер, компаниялар мен билік тармақтары ішіндегі және арасындағы тежемелік және тепе-теңдік жүйесі айтарлықтай бұзылуы мүмкін» делінген. Олар саясаткерлерді ЖИ зерттеулерінің қалай автоматтандырылатыны туралы әлдеқайда көп ақпарат алуға шақырады.
Саясаткерлерге арналған ұсыныстар
Мақалада саясаткерлер интеллект жарылысын басқару және шектеу жолдарын әзірлеп, қоғамды оның салдарына дайындауы керек делінген. Мақала өсіп келе жатқан ескертулер тізімін толықтырады, соның ішінде 42 жетекші математиктің ЖИ экзистенциалды қауіптеріне көбірек назар аударуға шақырған жақындағы үндеуі бар. Бірнеше ЖИ зертханасының қызметкерлері ЖИ адамзатты жойып жіберуі мүмкін деген алаңдаушылық білдірді, ал Пачоцкийдің өзі ешбір зертхана теңестіру мәселесін «ұзақ уақыт бойы максималды жылдамдықпен жауапкершілікпен кеңейтуді жалғастыру үшін» жеткілікті түрде шешпегенін айтты. Anthropic-тің кейбір қызметкерлері, хабарламаларға сәйкес, ЖИ бақылаудан шығып кеткен жағдайға арналған қауіпсіз баспаналарды қазірдің өзінде іздеп жатыр.
2 дереккөз
Уақыт · артта қалуы