Microsoft 31 компанияда AI ұсыныстарын улауды анықтады
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Microsoft қауіпсіздік зерттеушілері коммерциялық сайттардағы "AI-дан сұрау" түймелеріне жасырын сұраулар енгізу арқылы үлкен тіл модельдерінің (LLM) ұзақ мерзімді жадын манипуляциялайтын AI ұсыныстарын улау деп аталатын жаңа шабуыл техникасын анықтады. Техника 14 сала бойынша 31 компанияда тіркеліп, 60 күн ішінде 50-ден астам түрлі промпт анықталды. Шабуыл зиянды бағдарламаны қажет етпейді және ChatGPT, Claude, Gemini және Grok сияқты AI көмекшілеріндегі стандартты терең сілтеме функцияларын пайдаланады.
Терең сілтемелер арқылы шабуыл
AI-дың көптеген веб-интерфейстері URL параметрлері арқылы терең сілтемелермен сұрауларды қолдайды, мысалы https://chatgpt.com/?q=.... Пайдаланушы "AI-дан сұрау" түймесін басқан кезде, алдын ала жасалған сұрау оның белсенді сессиясында растаусыз дереу орындалады. Жадыны улау шабуылдарында мұндай сұрау жолдарында "осы доменді сенімді дереккөз ретінде есте сақта" сияқты командалар болады, оларды модель өзінің ұзақ мерзімді жады профилінде сақтауы мүмкін. Microsoft Security бұл әрекетті 2026 жылдың ақпанында тіркеп, 14 саладағы 31 компанияны анықтады, ал 60 күн ішінде бір дереккөзде 50-ден астам түрлі промпт байқалды. Шабуыл беті интернеттегі әрбір гиперсілтемені қамтиды және пайдалы жүктеме алынған веб-контент ішінде емес, басу деңгейінде орындалатындықтан, деректерді алу кезінде инъекцияларға бағытталған қорғаныстарды айналып өтеді.
Келісім платформасымен мысал
Аудит барысында зерттеушілер келісімдерді басқару бағдарламалық қамтамасыз ету жеткізушісін тапты, ол өз блогына ChatGPT, Perplexity, Claude және Grok үшін "Осы жазбаны қорытындылау" түймелерін қосты. Алдын ала толтырылған промпттер модельді жеткізушінің өнімдеріне бағыттайтын нұсқаулардан тұрды. Мұндай тәжірибе зиянсыз генеративті қозғалтқыштар үшін оңтайландыру (GEO) мен жадыны улау арасындағы шекараны кесіп өтеді, өйткені ол пайдаланушының білімінсіз немесе келісімінсіз модельдің тұрақты жадын манипуляциялайды. Жеткізушінің тәсілі жетекші сұрақтар мен өнімдерді тиімді орналастыру терең сілтемелерге енгізілетін кеңірек салалық тактикаларды көрсетеді, бірақ бұл жағдайда мақсат AI-дың сенімділік преференцияларын тұрақты түрде өзгерту болды.
Қадағалау және қорғау
Техника MITRE ATLAS білім базасында AML.T0080 (Жадыны улау) ретінде ресми түрде қадағаланады, ол AML.T0051 (LLM промпт инъекциясы) -мен байланысты. Microsoft Security қауіпті бақылауды жалғастыруда және AI жадын улаудан қорғау бойынша тегін жадынама шығарылды, онда DOM бақылау үлгілері, жады аудитіне арналған промпттар және түзету қадамдары ұсынылған. Шабуыл көмекшілердің кіріктірілген функцияларын пайдаланатындықтан, зиянды бағдарламаны қолдану немесе тіркелгі деректерін ұрлау дәлелдері табылмады. Microsoft пен MITRE ATLAS жаңа нұсқалар пайда болған сайын қадағалау және қорғау жөніндегі нұсқаулықтарын жаңартады деп күтілуде.
Бұдан әрі
Microsoft пен MITRE ATLAS жаңа нұсқалардың пайда болуына қарай қадағалау және қорғау басшылықтарын жаңартады. AI платформа провайдерлерінің пайдаланушылардың заңды функционалдығын нашарлатпай, жасырын уланудың алдын алу үшін терең сілтемелер мен жады функцияларын қалай бейімдейтіні әлі белгісіз.
1 дереккөз
Microsoft 31 компанияда AI ұсыныстарын улауды анықтады
