Тюбинген мен Snyk ғалымдары OpenAI, Anthropic және Google модельдерінің жасырын пайымдауларын шығарды
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Тюбинген университеті мен Snyk компаниясының информатика мамандары OpenAI, Anthropic және Google-дың алдыңғы қатарлы ЖИ модельдерінің жасырын пайымдау тізбектерін шығару әдісін ашты. Бұл әдіс парольдер мен API кілттерін қалпына келтіруге мүмкіндік бергенімен, бұл осалдық түзетілді, сондай-ақ Kimi K3 сияқты қытайлық модельдердің америкалық модельдердің пайымдауларын дистилляциялау арқылы үйретілгеніне дәлелдер табылды. Негізгі осалдық — API арқылы пайымдаулардың ашылуы — сыналған барлық провайдерлерде әлі жойылмаған.
Шығару әдісі
Тюбинген университеті, Макс Планк Институты, MATS Research және Snyk компаниясының ғалымдары тапсырмаларды шешу кезінде ЖИ модельдері жасайтын ішкі мәтін — жасырын пайымдау тізбектерін API арқылы қалпына келтіруге болатынын көрсетті. Бұл осалдық OpenAI, Anthropic және Google-дың алдыңғы қатарлы модельдеріне әсер етеді. Тюбинген университетінен Александр Панфиловтың айтуынша, барлық тексерілген ірі провайдерлер бұл мәселеге ұшыраған, бұл қаскөйлерге модельдердің пайымдау қабілеттерін ауқымды түрде көшіруге жол ашуы мүмкін.
Дистилляция белгілері және деректер ағып кетуі
Зерттеушілер Moonshot AI компаниясының қытайлық Kimi K3 моделінің жауаптары белгілі бір сұраныстар бойынша Claude Opus 4.8 және GPT 5.6 Sol модельдерінің жасырын пайымдауларымен таңқаларлықтай сәйкес келетінін анықтады, бұл дистилляцияның ықтимал белгісі. Алайда авторлар бұл нақты дәлел емес екенін атап өтеді, ал DeepSeek немесе Inkling-те мұндай ұқсастықтар байқалмаған. Сонымен қатар, әдіс бойынша модельдердің пайымдауларынан парольдер мен API кілттері сияқты жеке ақпараттар шығарылды, бірақ бұл осалдықты провайдерлер жойған. OpenAI мен Anthropic бұған дейін қытайлық компанияларды жүйелі дистилляциялаумен айыптаған еді.
Бұдан әрі
API провайдерлері пайымдауларды жасыру үшін құрылымдық өзгерістер енгізе ме, әлде реттеуші органдар рұқсатсыз дистилляцияны шектеу үшін араласа ма, әзірге белгісіз. Негізгі осалдықтың жойылмауы зияткерлік меншікті қорғау мен жүзеге асырылған модельдердің қауіпсіздігіне қатысты алаңдаушылық тудыруын жалғастыруда.
1 дереккөз
Тюбинген мен Snyk ғалымдары OpenAI, Anthropic және Google модельдерінің жасырын пайымдауларын шығарды
