Anthropic Mythos моделін шектейді, киберқауіпсіздік мәселелерімен
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Anthropic компаниясы Mythos атты жаңа AI моделінің шығарылымын шектеді. Компания модельдің қауіпсіздік осалдықтарын анықтау қабілеті жаһандық бағдарламалық қауіпсіздікке қауіп төндіреді деп мәлімдеді.
Mythos моделінің мүмкіндіктері
Anthropic компаниясының Mythos моделі кеңінен қолданылатын бағдарламалық қамтамасыз етудің қауіпсіздік осалдықтарын анықтауда жоғары қабілетке ие. Компания бұл мүмкіндіктердің зиянды мақсаттарда пайдаланылуы мүмкін екендігінен алаңдаулы, бұл қауіпсіздік бұзушылықтарына әкелуі мүмкін. Осы себепті Anthropic Mythos моделін тек таңдаулы серіктестерге ғана қолжетімді етуді шешті. Бұл шешім компанияның AI енгізудегі сақтық тәсілін көрсетеді.
Өнеркәсіптің реакциясы
Технологиялық индустрия Anthropic шешіміне аралас реакция білдірді. Кейбір сарапшылар, соның ішінде киберқауіпсіздік өкілдері, ықтимал қауіптерді ескере отырып, сақтықпен шығаруды қолдайды. Алайда, басқалары бұл шешімнің нақты қауіпсіздік мәселелерінен гөрі ішкі проблемаларға байланысты емес пе деген күмән келтіреді. Дебаттар AI дамуының инновация мен қауіпсіздік арасындағы жалғасып жатқан шиеленісті көрсетеді.
Бұдан әрі
Anthropic алдағы айларда Mythos мүмкіндіктерін сыртқы сарапшылармен қайта қарауды жоспарлап отыр. Бұл AI және қауіпсіздік саясатының кең ауқымына қалай әсер ететіні әлі белгісіз.
1 дереккөз
Anthropic Mythos моделін шектейді, киберқауіпсіздік мәселелерімен
