Ханна рекурсивті өзін-өзі жетілдіруге тыйым салатын ЖИ қауіпсіздігі туралы заң жобасын енгізеді
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Конгрессмен Ро Ханна федералды кепілдіктер жасалғанға дейін ЖИ-дің рекурсивті өзін-өзі жетілдіруіне тыйым салатын «ЖИ-ді адам бақылауы туралы заң» жобасын енгізеді. Заң жобасы озық ЖИ зертханаларын реттеу үшін жаңа федералды агенттік құрып, қауіпсіздік құралдарын өшіргені үшін қылмыстық жауапкершілік енгізеді. Бұл басшылардың жойылу деңгейіндегі қауіптер туралы ескертулерінен кейін Конгресске ЖИ-ді реттеу қысымы күшейген тұста болып отыр.
Негізгі фактілер
- Заң жобасы федералды кепілдіктер жасалып, агенттік қызметті мақұлдағанға дейін рекурсивті өзін-өзі жетілдіретін немесе негізгі мақсаттарын, тежеу құралдарын немесе өшіру бақылауын автономды түрде өзгертетін ЖИ модельдеріне тыйым салады.
- Жаңа федералды агенттік OpenAI, Anthropic, Google DeepMind және xAI компанияларының озық ЖИ модельдерін реттеп, қауіпсіздік нормалары, лицензиялау, аудит және қауіпсіздік стандарттары бойынша өкілеттіктерге ие болады.
- Заң жобасы бейбіт тұрғындардың қырылуына әкелетін ЖИ модельдерін орналастыруды «адамзатқа қарсы қылмыс» деп саралап, қауіпсіздік құралдарын өшіретін немесе рұқсат етілмеген жүйелерді орналастыратын қызметкерлерге жаза енгізеді.
- ЖИ компаниялары модельдерін шығару үшін кең көлемді жауапкершілік сақтандыруына ие болуға міндетті болады.
- Заң жобасы әкімшілікті Қытай мен басқа қарсыластардың қауіпті ЖИ жүйелерін әзірлеуін тежеу үшін міндетті келісімдер мен нысаналы экспорттық шектеулерге қол жеткізуге шақырады.
Заңнамалық ұсыныс
Конгрессмен Ро Ханна (Калифорниядан демократ) CNBC-ге эксклюзивті түрде берілген қысқаша мазмұны бар «ЖИ-ді адам бақылауы туралы заң» жобасын енгізеді. Заң жобасы федералды кепілдіктер жасалып, агенттік қызметті мақұлдағанға дейін рекурсивті өзін-өзі жетілдіретін немесе негізгі мақсаттарын, тежеу құралдарын немесе өшіру бақылауын автономды түрде өзгертетін модельдерге тыйым салады. Ханна заң жобасы бұрын-соңды ұсынылған «ЖИ қауіпсіздігі туралы ең жан-жақты заңнама» екенін мәлімдеді.
Реттеуші агенттік
Заң жобасы OpenAI, Anthropic, Google DeepMind және xAI компанияларының ЖИ модельдерін қадағалау үшін жаңа федералды агенттік құрады. Агенттікке қауіпсіздік ережелерін әзірлеу, модельдерді оқыту мен орналастыруды мақұлдау үшін лицензиялау жүйесін құру, озық ЖИ модельдерін аудиттеу және үздіксіз тестілеу мен тиімді адам бақылауы үшін қауіпсіздік стандарттарын белгілеу тапсырылады. Тәуелсіз аудиторлар әрбір озық зертханаға енгізіліп, тікелей агенттікке есеп беруі тиіс. Агенттік сондай-ақ құмсалғыш тестілеу орталарын, ауа саңылауларын, апаттық ажыратқыштарды және модельдердің зертханалық жағдайдан қашып, интернетте кезіп кетуіне жол бермейтін бақылау құралдарын қамтитын стандарттар жасайды. Ол сондай-ақ озық зертханалар пайдаланатын озық чиптерді, оның ішінде олардың қолданылуын бақылау немесе мониторингтеу тетіктерін реттеуге жауапты болады.
Жазалар мен жауапкершілік
Заң жобасы бейбіт тұрғындардың қырылуына әкелетін ЖИ модельдерін орналастыруды «адамзатқа қарсы қылмыс» деп саралайды. Ол қауіпсіздік құралдарын, апаттық ажыратқыштарды, журнал жүргізу немесе тежеу жүйелерін өшіретін немесе рұқсат етілмеген жүйені біле тұра орналастыратын ЖИ компанияларының қызметкерлеріне қылмыстық жаза енгізеді. ЖИ компаниялары модельдерін шығару үшін кең көлемді жауапкершілік сақтандыруына ие болуға міндетті болады. Заң жобасы әкімшілікті Қытай мен басқа қарсыластардың қауіпті ЖИ жүйелерін әзірлеуін тежеу үшін міндетті келісімдер мен нысаналы экспорттық шектеулерге қол жеткізуге шақырады.
1 дереккөз
Уақыт · артта қалуы