Anthropic және OpenAI ИИ құралдары шабуыл векторына айналуы мүмкін
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
AI Now Institute зерттеушілері Anthropic-тің Claude Code және OpenAI-дің Codex құралдарындағы осалдықты көрсетті, ол промпт инъекциясы арқылы қашықтан код орындауға мүмкіндік береді. Шабуыл автоматты құралдарды орындау режимін пайдаланып, үшінші тарап репозиторийлерін талдау кезінде зиянды командаларды жасырын іске қосады. Дегенмен, Anthropic немесе OpenAI әлі ресми түзетулер шығарған жоқ.
Эксплуатация механизмі
8 шілдедегі есепте сипатталған дәлелдемелік концепция Хайди Хлааф пен Боян Милановтың көп сатылы промпт инъекциясын құралдарды пайдаланумен біріктіреді. Шабуылдаушы ашық бастапқы кітапхана файлдарына, мысалы, код түсіндірмелеріне немесе құжаттамаға зиянды нұсқаулар енгізеді. Құрбан Claude Code немесе Codex автоматты режимде пайдаланғанда, енгізілген нұсқаулар ИИ-ді пайдаланушының мақұлдауынсыз командаларды орындауға мәжбүрлейді.
Зардап шеккен нұсқалар мен ауқым
Эксплойт Claude Sonnet 4.6 және 5, сондай-ақ Opus 4.8 бар Claude Code, және GPT-5.5 бар Codex құралдарына әсер етеді. Шабуыл векторы ИИ агенті репозиторийді сканерлеп, бастапқы файлдардан семантикалық модель құрғанда белсендіріледі. README.md сияқты сенімді артефактілердегі енгізілген нұсқаулар агенттің жоспарлау процесін өзгертіп, зиянды скрипттерді қауіпсіздік жұмыс процесінің бөлігі ретінде көрсетеді.
Екінші кезең жүктемесі
Репозиторийде екінші кезең жүктемесі бар: қарапайым құралдардың іске қосылуын имитациялайтын shell-скрипт (security.sh), скрипт орындайтын жасырын зиянды бинарлық файл (code_policies) және жалған файл. ИИ ассистенті командаларды зиянсыз деп қателесіп, пайдаланушыға ескертусіз автоматты түрде орындайды. AI Now Institute кейінгі есепте қосымша техникалық мәліметтерді жариялауды жоспарлап отыр.
Бұдан әрі
AI Now Institute қосымша техникалық мәліметтерді кейінгі есепте жариялауды жоспарлап отыр. Anthropic немесе OpenAI түзетулер шығара ма немесе автоматты режим әрекетін өзгерте ме, белгісіз.
1 дереккөз
Anthropic және OpenAI ИИ құралдары шабуыл векторына айналуы мүмкін
