ИИ-алыптар IPO алдында қауіпсіздік риторикасын күшейтіп жатыр, дейді сарапшылар
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Anthropic пен OpenAI бас директорлары озық жасанды интеллект жүйелері экзистенциалды қауіп төндіретінін және шығарылым алдында реттеуді қажет ететінін ескертеді. Компаниялар Уолл-стритке шығу алдында қоғамдық мақұлдау мен жаңа капитал алу үшін қауіпсіздік тақырыбын қалыптастыруда. Олардың мақсаттары кейбір инженерлердің әзірлеуді тоқтату туралы үндеулерімен сәйкес келмеуі мүмкін.
Негізгі фактілер
- Anthropic пен OpenAI бас директорлары озық ИИ модельдері қауіпті екенін және шығарылым алдында реттеу мен тәуелсіз тестілеуді қажет ететінін ескертті.
- Компаниялар Уолл-стриттегі күтілетін IPO алдында қоғамдық мақұлдауға ұмтылып, өз қауіпсіздік хаттамаларының шарттарын белгілеуде.
- Anthropic инженері Джейкоб Коксон осы айда жұмыстан кетіп, суперадамдық жүйелердің бақылаудан шығып кетпеуі үшін технологияларды әзірлеуді тоқтатуға шақырды.
- Президент Дональд Трамп ИИ қауіптері туралы ескертулерді Қытайға көмектесуге арналған алдау деп қабылдамады.
- OpenAI өкілі Лиз Буржуа компания жақында ең озық модельдерін оқытуды тоқтатқанын мәлімдеді.
Қауіпсіздік риторикасы және IPO мерзімдері
Anthropic пен OpenAI бас директорлары АҚШ-тың озық модельдері соншалықты қуатты, тіпті қауіпті екенін және шығарылым алдында реттеу мен тәуелсіз тестілеуді қажет ететінін мәлімдеді. Олар эсселерде, әлеуметтік желілердегі жазбаларда және БҰҰ-дағы сөз сөйлеулерінде алаңдатарлық сценарийлерді сипаттады. Сарапшылар, аналитиктер және бұрынғы мемлекеттік бағалаушылар Associated Press-ке компаниялар реттелмейтін нарықта қоғамдық мақұлдауға ұмтылып, өз қауіпсіздік хаттамаларының шарттарын белгілеп жатқанын айтты. Компаниялар инженер Джейкоб Коксонның жұмыстан кетуі туралы жазбасын өз қауіпсіздік күш-жігерін атап өту және Уолл-стритке шығу алдында жаңа капитал қажет болған тұста өздерін сақ лидерлер ретінде көрсету мүмкіндігі ретінде қабылдады. Anthropic өкілі компания бірнеше жылдан бері реттеуге шақырып келе жатқанын мәлімдеді.
Тәуекелдер туралы пікірталастың ығысуы
Әңгімені дәлелденбеген қауіптерге аудару және деректер орталықтарының қоршаған ортаға әсері, бақыланбайтын хакерлік оқиғалар, ИИ арқылы жаппай бақылау және ИИ-ды әскери іс-қимылдарда қолдану сияқты поляризациялайтын мәселелерден алшақтату Кремний алқабын ыңғайлырақ жағдайға қояды, деді бұрын OpenAI геосаясат тобын басқарған Сара Шокер. Шокер, Калифорния университеті Берклидің тәуекелдер мен қауіпсіздік зертханасының аға ғылыми қызметкері, экзистенциалды тәуекелге назар аудару бүгінгі таңда бар басқа да маңызды қауіпсіздік тәуекелдерін, соның ішінде адамдарды өлтіру үшін қолданылып жүрген әскери ИИ жүйелерін екінші орынға ысыратынын айтты. ИИ компаниялары чат-боттар жасаудан үш өлшемді қабылдауы бар озық әлемдік ИИ модельдеріне көшкен сайын, олардың технологияларын қалай тестілеу керектігі туралы даулар өршіді. Проблемалық оқиғалар жетекші ИИ компанияларының өзін-өзі бақылауға немесе қауіпсіз эксперименттер әзірлеуге қабілетсіз екенін көрсетті.
1 дереккөз
Уақыт · артта қалуы