OpenAI мен DeepMind зерттеушілері ЖИ адам бақылауынан шығып кетуі мүмкін деп ескертті
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
OpenAI мен Google DeepMind-тің қазіргі және бұрынғы зерттеушілері жасанды интеллектінің қарқынды дамуы адам бақылауынан озып кетуі мүмкін екенін ескертті. Олар ЖИ адамның тікелей қатысуынсыз өздігінен үйренетін рекурсивті өзін-өзі жетілдіру қаупін атап өтті. Ескерту жетекші ЖИ зертханаларының жаңа модельдер жасау жолындағы қатаң бәсекелестігі аясында айтылды.
Негізгі фактілер
- DeepMind зерттеушісі Нил Нанда ЖИ дамуы адамзаттың жойылуына әкелу ықтималдығын кемінде 10% деп бағалады.
- OpenAI инженер-зерттеушісі Хуан Фелипе Серон Урибе жетекші ЖИ зертханаларының бәсекесін «көз байланған жарыспен» салыстырды.
- Anthropic басшысы Дарио Амодеи ЖИ даму қарқынын бәсеңдетуге шақырды, OpenAI басшысы Сэм Альтман бұл пікірмен келісті.
- Зерттеушілер заң шығарушыларды өзін-өзі жетілдіруге қабілетті ЖИ модельдерін әзірлеуге назар аударуға шақырды.
Зерттеушілердің ескертулері
OpenAI мен Google DeepMind-тің қазіргі және бұрынғы зерттеушілері ЖИ-дің қарқынды дамуы адам бақылауынан озып кетуі мүмкін екенін ескертті. Олар ЖИ жүйелері адамның тікелей қатысуынсыз үйреніп, жаңа мүмкіндіктерге ие болатын «рекурсивті өзін-өзі жетілдіру» қаупін ерекше атап өтті. Зерттеушілер ЖИ саласындағы компаниялар қауіпсіздік мәселелерінен гөрі жаңа модельдерді әзірлеуге көбірек көңіл бөлетінін мәлімдеді.
Сарапшылардың бағалауы
DeepMind зерттеушісі Нил Нанда ЖИ дамуы адамзаттың жойылуына әкелу ықтималдығын кемінде 10% деп бағалады. OpenAI инженер-зерттеушісі Хуан Фелипе Серон Урибе жетекші ЖИ зертханаларының бәсекесін «көз байланған жарыспен» салыстырып, сақтыққа шақырды. Anthropic басшысы Дарио Амодеи ЖИ даму қарқынын бәсеңдетуге шақырды, OpenAI басшысы Сэм Альтман бұл пікірмен келісті.
Реттеуге шақырулар
Бірқатар зерттеушілер заң шығарушыларды өзін-өзі жетілдіруге қабілетті ЖИ модельдерін әзірлеуге назар аударуға шақырды. Бұл ескерту туралы Reuters агенттігі 2026 жылғы 30 қыркүйекте хабарлады.
2 дереккөз
Уақыт · артта қалуы