Anthropic басшысының ЖИ-ді баяулатуға шақыруы бақылау мен сенім мәселелерін ашты
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Anthropic басшысы Дарио Амодеи сенбіде жасанды интеллектті дамытуды баяулатуға шақырды; OpenAI-ден Сэм Альтман мен Илон Маск онымен келісті. Anthropic-тің бұрынғы зерттеушісі Джейкоб Коксон BBC-ге қызметкерлердің адамзат болашағы үшін «шынайы қорыққанын» айтты. Ұсыныс бақылау мен сенімнің шешілмеген мәселелеріне тап болып отыр, ал АҚШ ЖИ жарысында Қытайға ұтылып қалудан қауіптенеді.
Негізгі фактілер
- Anthropic басшысы Дарио Амодеи сенбіде ЖИ дамытуды баяулатуға шақырды; OpenAI-ден Сэм Альтман мен Илон Маск онымен келісті.
- Anthropic-тің бұрынғы зерттеушісі Джейкоб Коксон жексенбіде BBC-ге ЖИ жүйелерін жасаушы қызметкерлердің адамзат болашағы үшін «шынайы қорыққанын» айтты.
- Амодеи үш тармақтан тұратын жоспар ұсынды: ЖИ модельдерін тәуелсіз бақылау, салалық реттеу және жаһандық реттеу.
- EZ Primary Research бас директоры Эд Зитрон «баяулатудың» не екенін ешкім мағыналы түсіндірмегенін айтты.
Баяулатуға шақыру
Anthropic басшысы Дарио Амодеи сенбіде ЖИ дамыту қарқынын баяулатуға шақырды. OpenAI-ден Сэм Альтман мен Илон Маск Амодеидің шақыруымен келісетіндерін мәлімдеді. Anthropic-тің бұрынғы зерттеушісі Джейкоб Коксон жексенбіде BBC-ге жүйелерді жасаушы қызметкерлердің адамзат болашағы үшін «шынайы қорыққанын» хабарлады. Бұл ескертулер 2023 жылдың қарашасында Блетчли-паркте өткен әлемдегі алғашқы ЖИ қауіпсіздігі саммитінде айтылған алаңдаушылықтармен үндеседі.
Бақылау мен сенім олқылықтары
Амодеидің үш тармақтан тұратын жоспары ЖИ модельдерін дамыту барысында тәуелсіз бақылауды, салалық реттеуді және жаһандық реттеуді қамтиды. EZ Primary Research бас директоры Эд Зитрон «баяулатудың» не екенін ешкім мағыналы түсіндірмегенін айтты. Зитрон тәуелсіз бақылау әрбір ЖИ компаниясына METR өкілін орналастыруды білдіре ме деп күмән келтірді. Ол ЖИ модельдерін оқытуды тоқтату оларды қытайлық бәсекелестерге осал ететінін, ал өнімдер «янтарьда қатып қалып, қытайлық зертханалар көшіріп алатынын» айтты.
Жаһандық жарыс қысымы
АҚШ-тың ең қуатты ЖИ жасау жарысында Қытайға ұтылып қалудан қорқатыны кеңінен белгілі. Қытай технологиялық бәсекеде екінші болғысы келетінімен танымал емес. Жағдай ядролық қарусыздану науқанының қызған шағын еске түсіреді, ол кезде ешкім бірінші қадам жасағысы келмеді. Ұлыбританияда пациенттерге күтімді жақсарту үшін NHS-те ЖИ-ді кеңірек енгізу жоспарлары бар, ал ЖИ жазда ел экономикасына серпін берді.
1 дереккөз
Уақыт · артта қалуы