Anthropic зерттеушісі жұмыстан кетіп, ЖИ 2030 жылға қарай адамзатты жоя алады деп ескертті
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Anthropic зерттеушісі Джейкоб Коксон жұмыстан кетіп, бұрынғы жұмыс берушілерін суперзияткерлік ЖИ-ге ұмтылу арқылы адам өмірімен ойнады деп айыптады. Оның X-те 100 миллионнан астам қаралым жинаған жазбалары сенатор Берни Сандерс пен әнші Шерил Кроудың реакциясын тудырды. Отставка OpenAI мен Nvidia басшылары AGI-дің жаңа дәуірін жариялап жатқан кезде болды.
Негізгі фактілер
- Джейкоб Коксон Anthropic-тен жұмыстан кетіп, Anthropic пен OpenAI-ді суперзияткерлік ЖИ-ге ұмтылу арқылы «біздің өмірімізбен ойнады» деп айыптады.
- Коксонның жазбалары X-те 100 миллионнан астам қаралым жинап, сенатор Берни Сандерс пен әнші Шерил Кроудың реакциясын тудырды.
- Anthropic зерттеушілерінің бірі алдағы онжылдықта ЖИ-дің барлық адамдарды жою ықтималдығы 10%-дан асады деп санайтынын мәлімдеді.
- ЖИ қауіпсіздігі зерттеушісі және АҚШ үкіметінің кеңесшісі, осы аптада OpenAI-дің коммерциялық емес кеңесіне тағайындалған Пол Кристиано жақын арада бақылаудың апатты жоғалу қаупі айтарлықтай екенін мәлімдеді.
- Шілде айының соңында ірі ЖИ компанияларының 1000-нан астам қызметкері ЖИ даму қарқынын бәсеңдету тетігін құруды талап ететін петицияға қол қойды.
Отставка және вирустық ескерту
Джейкоб Коксон, Anthropic-тің қатардағы қызметкері, жұмыстан кетіп, бұрынғы жұмыс берушілері — Anthropic пен OpenAI-ді «суперзияткерлік ЖИ-ге ұмтылу» арқылы «біздің өмірімізбен ойнады» деп айыптады. Коксон ЖИ жасаушылар оның «онжылдықтың соңына қарай бәрімізді өлтіруі мүмкін» деп сенетінін мәлімдеді, бұл көзқарасты кейін желіде компанияның басқа қызметкерлері де қолдады. Оның жазбалары X-те 100 миллионнан астам қаралым жинап, сенатор Берни Сандерстен поп-әнші Шерил Кроуға дейінгі реакциялар легін тудырды. Оның жұмыстан кету туралы мәлімдемесі әртүрлі ЖИ компанияларының қызметкерлері, соның ішінде бірнеше бұрынғы әріптестері тарапынан қолдау толқынымен қарсы алынды.
Индустриядағы алаңдаушылық және AGI дәуірі
Соңғы күндері OpenAI мен Nvidia басшылары адаммен теңесе алатын немесе көптеген тапсырмаларда одан асып түсетін жасанды жалпы интеллектіні білдіретін жаңа «AGI дәуірінің» басталғанын жариялады. ЖИ қауіпсіздігі зерттеушісі және АҚШ үкіметінің кеңесшісі, осы аптада OpenAI-дің коммерциялық емес кеңесіне тағайындалған Пол Кристиано ЖИ мүмкіндіктерінің жылдам жеделдеуі жақын арада бақылаудың апатты және қайтымсыз жоғалуына әкелу қаупі айтарлықтай деп санайтынын мәлімдеді. Кристиано ЖИ индустриясы, соның ішінде OpenAI, қазіргі уақытта бұл қауіпті қолайлы деңгейге дейін төмендету жолында емес деп санайтынын қосты. Шілде айының соңында барлық ірі ЖИ компанияларының 1000-нан астам қызметкері ЖИ даму қарқынын бәсеңдету тетігін құруды талап ететін петицияға қол қойды. Соңғы айларда ЖИ қауіпсіздігімен айналысатын бірнеше қызметкер ірі зертханалардан жұмыстан кетті.
2 дереккөз
Уақыт · артта қалуы