Hacktron AI зерттеушілері Anthropic компаниясының Claude моделін пайдаланып OpenAI жүйелерін бұзды
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Hacktron AI компаниясының үш зерттеушісі OpenAI қоғамдастық форумындағы осалдықты және Anthropic компаниясының Claude моделін пайдаланып, компанияның ішкі жүйелерін бұзды. Олар ChatGPT қызметіндегі қызметкер аккаунтына қол жеткізіп, құпия кодты көрді, бұл үшін OpenAI оларға $6500 сыйақы төледі. OpenAI осалдықтардың жойылғанын растады.
Негізгі фактілер
- Hacktron AI осалдықты тапқаны үшін OpenAI-ден $6500 сыйақы алды.
- Зерттеушілер OpenAI қоғамдастық форумындағы осалдықты пайдаланып, ішкі тіркелгі деректеріне және ChatGPT қызметіндегі қызметкер аккаунтына қол жеткізді.
- Эксплойт жазу үшін Anthropic компаниясының Claude моделі қолданылды.
- OpenAI осалдықтардың жойылғанын мәлімдеді.
- Anthropic Claude моделінің зерттеу және әзірлеу жобаларының 26%-ына көмектесетінін хабарлады, наурызда бұл көрсеткіш 1% болған.
Бұзу
Hacktron AI компаниясының үш зерттеушісі ішкі тіркелгі деректерін алу үшін OpenAI қоғамдастық форумындағы осалдықты пайдаланды. Содан кейін олар GitHub арқылы ішкі кодқа қол жеткізе алатын OpenAI қызметкерінің ChatGPT аккаунтына кірді. Зерттеушілер эксплойт кодын жазу үшін Anthropic компаниясының Claude Opus 4.8 мамандандырылған нұсқасын қолданды. OpenAI зерттеушілерге $6500 сыйақы төлеп, осалдықтардың жойылғанын растады.
Anthropic-тегі AI дамуы
Anthropic Claude моделінің енді зерттеу және әзірлеу саласындағы жобалардың 26%-ына көмектесетінін ашты, наурызда бұл көрсеткіш 1% болған. Компания бұл деректерді жұртшылыққа әлемнің AI-дың рекурсивті өзін-өзі жетілдіру кезеңіне қаншалықты жақын екенін түсінуге көмектесу үшін бөлісті. Anthropic AI-дың 90% тапсырмада автономды әрекет етпей, адаммен бірлесіп жұмыс істейтінін атап өтті.
18 дереккөз
Уақыт · артта қалуы