Жасанды интеллект компанияларының қызметкерлері технологияның экзистенциалды қаупі туралы пікірлері әртүрлі
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
OpenAI, Meta және DeepMind сияқты ірі жасанды интеллект компанияларының қызметкерлері жасанды интеллект адамзатқа қауіп төндіруі мүмкін деген соңғы ескертулерге күмән келтіруде. Бірнеше қазіргі және бұрынғы қызметкер BBC-ге бұл тұжырымдарды анық емес және дәлелсіз деп санайтындарын айтты. Скептицизм Anthropic-тің бұрынғы қызметкері Джейкоб Коксонның және басқалардың ЖИ дамуын баяулатуға шақырған вирустық ескертулерінен кейін пайда болды.
Негізгі фактілер
- OpenAI, Meta және DeepMind компанияларының бірнеше қызметкері BBC-ге ЖИ-дің бақылаусыз дамуы адамдардың жаппай қырылуына әкелуі мүмкін деген тұжырымдарға күмәнмен қарайтындарын айтты.
- Anthropic-тің бұрынғы қызметкері Джейкоб Коксон әлі жоқ модельдерге негізделген ЖИ агенттерінің тобы биологиялық қару жасап, қолдануға шешім қабылдауы мүмкін деп мәлімдеді.
- ЖИ қауіпсіздігімен айналысатын Sampura Research фирмасының негізін қалаушы және DeepMind-тің бұрынғы қызметкері Ришуб Джайн ЖИ компаниялары қызметкерлерінің жаңа қорқыныштарға қатысты үні «сөзсіз сәл әзіл-қалжыңды» болғанын айтты.
- Meta-ның деректер жөніндегі маманы Колин Фрейзер ЖИ модельдері адамдардың қырылуына әкелетін мақсатты сөзсіз көздейтініне нақты дәлелдер жоқ деп жазды.
ЖИ қызметкерлері арасындағы скептицизм
OpenAI, Meta және DeepMind-те жұмыс істеген қызметкерлер ЖИ адамзатқа қауіп төндіруі мүмкін деген ескертулерге күмән білдірді. Джейкоб Коксонды білетін OpenAI-дің бұрынғы қызметкері оның мәлімдемелеріне алғашқы реакциясы егжей-тегжейдің жетіспеушілігінен таңданыс болғанын айтты. Бұл адам экзистенциалды қауіп туралы тұжырымдарды «әрқашан анық емес», ал нақты мәлімдемелерді елеулі логикалық секірістерге немесе гипотетикалық жағдайларға бейім деп сипаттады. Sampura Research-ті құрғанға дейін DeepMind-те жеті жыл жұмыс істеген Ришуб Джайн ЖИ қызметкерлері арасындағы қазіргі үн «сөзсіз сәл әзіл-қалжыңды» болғанын айтты.
Коксонның ескертуі
Anthropic-тің бұрынғы қызметкері Джейкоб Коксон әлі жоқ модельдерге негізделген ЖИ агенттерінің тобы биологиялық қару жасап, қолдануға шешім қабылдауы мүмкін деп мәлімдеді. Коксон мұндай сценарийдің қалай болуы мүмкін екенін нақты түсіндірмеді. Оның ескертуі вирустық сипат алып, оны Anthropic, OpenAI, DeepMind қызметкерлері және xAI ЖИ стартапын басқаратын Илон Маск қолдады.
Техникалық теріске шығарулар
Meta-ның деректер жөніндегі маманы Колин Фрейзер әлеуметтік желілерде ЖИ модельдері адамдардың қырылуына әкелетін мақсатты сөзсіз көздейтініне нақты дәлелдер жоқ деп жазды. Фрейзер өзінің техникалық дәлелін «LLM адамзатты жоймайды, өйткені оларда мұндай құлшыныс жоқ» деген сөзбен қорытындылады. Ришуб Джайн ЖИ компанияларының қызметкерлері экзистенциалды қауіпті көп жылдар бойы талқылап келе жатқанын, сондықтан соңғы ескертулер кенеттен болған шок емес екенін атап өтті.
1 дереккөз
Уақыт · артта қалуы