Ұлыбритания үкіметі ЖИ авариялық өшіру түзетуін қабылдамады
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Ұлыбритания үкіметі министрлерге төтенше жағдайларда ЖИ жүйелерін өшіруге мүмкіндік беретін «авариялық өшіргіш» түзетуін қабылдамады. Жұма күні Министрлер кабинеті Ұлыбританияда ЖИ модельдеріне қолжетімділікті бұғаттау олардың шетелде әзірленуін немесе теріс пайдаланылуын міндетті түрде тоқтатпайтынын мәлімдеді. Шешім технология көшбасшыларының, соның ішінде Эван Хабингер мен Anthropic бас директоры Дарио Амодеидің ЖИ апатты қауіптері туралы ескертулері аясында қабылданды.
Негізгі фактілер
- Жұма күні Министрлер кабинеті түзетуді қабылдамай, ЖИ қауіптері жан-жақты өшіру өкілеттіктерін емес, пропорционалды және нысаналы шараларды қажет ететінін мәлімдеді.
- Либерал-демократ лорд Клемент-Джонс киберқауіпсіздік және тұрақтылық туралы заң жобасына үкіметке автономды ЖИ моделі істен шыққан немесе тікелей қауіп төнген жағдайда араласуға заңды тетік беретін түзету ұсынды.
- Anthropic компаниясындағы alignment science бағытының жетекшісі Эван Хабингер ЖИ алдағы онжылдықта адамзатты жойып жіберуі мүмкін деп санайтынын, ықтималдықты 10%-дан жоғары бағалайтынын айтты.
- Anthropic бас директоры Дарио Амодеи ЖИ тобы бір жыл ішінде интернеттің едәуір бөлігін бақылауға алуы мүмкін деп ескертті; оны SpaceX басшысы Илон Маск пен OpenAI бас директоры Сэм Альтман қолдады.
- Премьер-министр Энди Бернем ЖИ қауіпсіздігі министрі Канишка Нараянның мәртебесін көтеріп, оны Министрлер кабинетінің құрамына енгізді.
Үкіметтің бас тартуы
Жұма күні Министрлер кабинеті Ұлыбританияда ЖИ модельдеріне қолжетімділікті бұғаттау олардың шетелде әзірленуін немесе теріс пайдаланылуын міндетті түрде тоқтатпайтынын мәлімдеді. Либерал-демократ лорд Клемент-Джонс киберқауіпсіздік және тұрақтылық туралы заң жобасына үкіметке автономды ЖИ моделі істен шыққан немесе тікелей қауіп төнген жағдайда араласуға заңды тетік беретін түзету ұсынды. Ол бұл шара «қажетті авариялық өшіргішті» қамтамасыз етер еді, өйткені қазіргі уақытта министрлердің өшіруге бұйрық беруге нақты заңды өкілеттіктері жоқ деп мәлімдеді. Үкімет ұсынысты қабылдамай, ЖИ қауіптерін жан-жақты өшіру өкілеттіктерімен емес, пропорционалды және нысаналы шаралармен шешу қажет екенін мәлімдеді. Ол министрлер ЖИ қауіптерін түсінуге «ұзақ мерзімді, ғылыми негізделген тәсілді» қолдануды жалғастыратынын, оның ішінде Ұлыбританияның ЖИ қауіпсіздігі институты арқылы жүзеге асыратынын қосты.
ЖИ қауіпсіздігі туралы ескертулер
Өткен аптада Anthropic компаниясындағы alignment science бағытының жетекшісі Эван Хабингер ЖИ алдағы онжылдықта адамзатты жойып жіберуі мүмкін деп санайтынын мәлімдеді. Хабингер X желісінде алдағы 10 жыл ішінде ықтималдықты 10%-дан жоғары бағалайтынын жазып, ЖИ әзірлеушілері жоғары интеллектуалды жүйелердің адам мүдделеріне сәйкестігін қамтамасыз етудің сенімді шешімін әлі таппағанын қосты. Оның пікірлері Anthropic компаниясындағы әріптес зерттеуші Джейкоб Коксонның отставкаға кетуінен кейін айтылды; ол технологиялық компаниялардың өздігінен үйренетін ЖИ жүйелерін жасау жарысы «өмірімізбен ойнауға» тең деп ескертті. Коксон Anthropic пен OpenAI-ді жауапсыз әрекеттері үшін айыптап, ЖИ индустриясынан тыс адамдар технологияның мүмкіндіктерін жете бағаламайтынын айтты. Anthropic бас директоры Дарио Амодеи үлкен ұстамдылыққа шақырып, ЖИ тобы бір жыл ішінде интернеттің едәуір бөлігін бақылауға алуы мүмкін деп ескертті. SpaceX басшысы Илон Маск «Дарио дұрыс айтады» деп ескертуді қолдады, ал OpenAI бас директоры Сэм Альтман да озық ЖИ әзірлеуді баяулату қажет екенімен келісті.
Ұлыбританиядағы қорғаныс шаралары
Үкімет заңнамалық өшіру тетігінен бас тартқанына қарамастан, қауіптерге байыппен қарайтынын көрсетуге ұмтылуда. Премьер-министр Энди Бернем ЖИ қауіпсіздігі министрі Канишка Нараянның мәртебесін көтеріп, оны Министрлер кабинетінің құрамына енгізді.
1 дереккөз
Уақыт · артта қалуы