Математиктер Корольдік қоғамды ЖИ дамуын төтенше жағдай деп жариялауға шақырады
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Корольдік қоғамның 42 мүшесі мен шетелдік мүшесі 16 қыркүйекте президент Пол Нёрске ашық хатқа қол қойып, ЖИ даму қарқынына қатты алаңдаушылық білдірді. Қол қоюшылар ЖИ жүйелері қазірдің өзінде жетекші математиктер деңгейінде жұмыс істеп жатқанын және жақын арада басқа техникалық салаларда адамнан жоғары қабілеттерге ие болуы мүмкін екенін ескертеді. Хат Корольдік қоғамды төтенше жағдай жариялауға және бұл ұстанымды үкімет пен БАҚ-қа жеткізуге шақырады.
Негізгі фактілер
- 16 қыркүйекте Корольдік қоғамның 42 мүшесі мен шетелдік мүшесі президент Пол Нёрске ашық хатқа қол қойып, ЖИ даму қарқынына қатты алаңдаушылық білдірді.
- Хат жарияланғаннан бері қол қоюшылар саны 200-ге жуық зерттеушіге дейін өсті.
- OpenAI моделі жақында адамзат шамамен 90 жыл бойы шеше алмай келген жеті мыңжылдық математикалық мәселенің бірі — Навье-Стокс есебін шешті.
- Anthropic зерттеушісі Джейкоб Коксон жұмыстан кетіп, онжылдықтың соңына дейін ЖИ-дің адамзатты жою ықтималдығы 10 пайыз екенін ескертті.
- Anthropic басшысы Дарио Амодеи ЖИ даму қарқынын баяулатуға шақырды; оны OpenAI бас директоры Сэм Альтман мен Илон Маск қолдады.
Ашық хат
Хатта OpenAI мен Anthropic жасаған модельдер қазірдің өзінде осы ғылымның көптеген салаларында жетекші математиктер деңгейінде жұмыс істеп жатқаны айтылады. Авторлар осы жүйелердің дәл осындай қысқа уақыт ішінде адамнан жоғары қабілеттерге ие болу ықтималдығы айтарлықтай жоғары деп болжайды. Хатта бұл жүйелердің киберқауіпсіздік, автономды қаруды басқару, биологиялық және химиялық агенттерді әзірлеу және жалған ақпаратты мақсатты тарату салаларында ұқсас күшке ие болуы ықтимал екені ескертіледі. Авторлар бұл модельдердің математикадағы мүмкіндіктерінің өсуі ірі ЖИ компанияларының бұрынғы қызметкерлері айтқан алаңдаушылықтарды «хайп» деп қабылдамауға болмайтынына көз жеткізетінін мәлімдейді.
ЖИ қауіпсіздігіне алаңдаушылықтың артуы
ЖИ даму қарқынына байланысты экзистенциалды қауіп туралы алаңдаушылық Anthropic зерттеушісі Джейкоб Коксон жұмыстан кетіп, онжылдықтың соңына дейін ЖИ-дің адамзатты жою ықтималдығы 10 пайыз екенін ескерткеннен кейін күшейді. Anthropic басшысы Дарио Амодеи кейіннен ЖИ даму қарқынын баяулатуға шақырды; бұл үндеуді OpenAI бас директоры Сэм Альтман мен Илон Маск қолдады. Илон Маск Корольдік қоғамның мүшесі болып қала береді, өйткені ұйым өткен жылы басқа мүшелердің оны АҚШ-тағы Үкімет тиімділігі департаменті арқылы кейбір зерттеу салаларын қаржыландыруды қысқартудағы рөлі үшін шығару туралы үндеулерін қабылдамады. Ашық хатта жағдай кең жұртшылыққа айқын болған кезде әрекет ету тым кеш болуы мүмкін екені айтылып, Корольдік қоғамды өз ықпалын пайдаланып, бұл ұстанымды үкімет пен БАҚ-қа жеткізуге шақырады.
3 дереккөз
Уақыт · артта қалуы