Anthropic тең құрылтайшысы ЖИ үшін міндетті «апаттық ажыратқышты» енгізуге шақырды
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Anthropic тең құрылтайшысы Джек Кларк ЖИ компаниялары үшін үшінші тарап тексеретін міндетті «апаттық ажыратқыш» қажет болуы мүмкін екенін мәлімдеді. BBC-ге берген сұхбатында Кларк ЖИ тым қауіпті болып кетсе, оны өшіру ережелерін қабылдау қажеттігін атап өтті. Оның мәлімдемесі АҚШ Конгресінде президент Дональд Трамп қабылдамай отырған «Апаттық ажыратқыш туралы заңның» ілгерілеуі аясында жасалды.
Негізгі фактілер
- Anthropic-тің жеті тең құрылтайшысының бірі Джек Кларк ЖИ үшін үшінші тарап тексеретін «апаттық ажыратқыш» міндетті болуы мүмкін екенін мәлімдеді.
- Anthropic ғалымы Эван Хабингер алдағы онжылдықта ЖИ салдарынан адамзаттың жойылу ықтималдығын 10%-дан жоғары деп бағалады.
- Америкалық заң шығарушылар компанияларды проблемалы ЖИ құралдарын өшіру тәсіліне міндеттейтін және мемлекеттік органдарға оларды шектеуді талап ету құқығын беретін «Апаттық ажыратқыш туралы заңды» енгізді.
- АҚШ президенті Дональд Трамп ЖИ-дің адамзатты жою идеясын мистификация деп атап, ЖИ мен деректер орталықтарына қарсы тек Қытайға тиімді қастандық бар екенін мәлімдеді.
Апаттық ажыратқыш туралы ұсыныс
Anthropic-тің жеті тең құрылтайшысының бірі Джек Кларк BBC-ге ЖИ тым қауіпті болған жағдайда оны толық өшіру тәсілі — қоғам уақыт өте келе ережелер қабылдағысы келуі мүмкін мәселе екенін айтты. Кларк Anthropic-ті қоса алғанда, көптеген зертханаларда «ашаны суырудың» әртүрлі тәсілдері бар екенін, бірақ саясаткерлерге мұндай механизмнің болуын міндетті ету қажет болуы мүмкін екенін атап өтті. Оның айтуынша, «апаттық ажыратқышқа» қойылатын талаптар мен үшінші тараптың тексеруі ЖИ төңірегіндегі кеңірек саяси талқылаудың бөлігі болуы тиіс. Кларк ЖИ-дің толық реттелмейтін сала ретінде дамуына жол беру — жаман идея екенін қосып: «Біз орасан зор тәуекелдермен сүйек лақтырып жатырмыз» деді.
Anthropic-тегі қауіпсіздік пікірталасы
2021 жылы OpenAI-дің бұрынғы қызметкерлері құрған Anthropic ЖИ қауіпсіздігі туралы пікірталастың ортасында тұр. Өткен аптада ЖИ адамзатты жойып жіберуі мүмкін деген қауіптен Anthropic-тен кеткен ЖИ зерттеушісінің жазбасы вирусқа айналды. Жауап ретінде Anthropic ғалымы Эван Хабингер алдағы онжылдықта ЖИ салдарынан адамзаттың жойылу ықтималдығын жеке өзі 10%-дан жоғары деп бағалайтынын мәлімдеді. Anthropic басшысы Дарио Амодеи өткен демалыс күндері коммерциялық артықшылықтан бас тартпай, ЖИ даму қарқынын бәсеңдетуге және мониторингті күшейтуге шақырды.
АҚШ саясатындағы алауыздық
Америкалық заң шығарушылар компанияларды проблемалы ЖИ құралдарын өшіру тәсіліне міндеттейтін «Апаттық ажыратқыш туралы заң» деп аталатын заң жобасын енгізді. Заң жобасы белгілі бір мемлекеттік органдарға құралды өшіруді немесе шектеуді талап ету құқығын береді. АҚШ президенті Дональд Трамп ЖИ дамуын бәсеңдету әрекеттерінің бәрін қабылдамай, әлеуметтік желіде ЖИ-дің әлемді жаулап алуы мен адамзатты жоюы — мистификация екенін мәлімдеді. Бөлек жазбада Трамп ЖИ мен деректер орталықтарына қарсы «ауру қастандық» жүріп жатқанын және бұған тек Қытай ғана қуанатынын айтты.
1 дереккөз
Уақыт · артта қалуы