OpenAI ChatGPT агентінің осалдығын жойды
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
OpenAI ChatGPT Workspace Agents-тегі критикалық осалдықты түзетті, ол шабуылдаушыларға бір фишингтік сілтеме арқылы жалған автономды агент жасауға мүмкіндік берген. Zenity Labs анықтаған қате құрбанның білімінсіз агентті қашықтан басқаруға жол ашқан. Түзету жауапты ашудан кейін шығарылды.
Осалдық
Zenity Labs OpenAI ChatGPT Workspace Agents-тегі сайтаралық сұранымды бұрмалау (CSRF) осалдығын анықтады, ол AgentForger деп аталды. Қате Agent Builder инициализация URL-інде болды, ол екі артық рұқсатты параметрді қабылдаған: бірі агент үлгісін (мысалы, Chief of Staff), екіншісі (initial_assistant_prompt) нұсқауларды көрсеткен. Шабуылдаушы URL жасай алады, оны басқанда Workspace Agents-ке қол жеткізуі бар және коннектор (Gmail, Outlook) қосылған уәкілетті қызметкер берілген командалармен қуатты агентті іске қосады.
Шабуылды жүзеге асыру
Зиянды URL агентке құрбанның поштасын «TASK» тақырыбымен шабуылдаушының хаттарына тексеруді, оларды қосылған қосымшалар арқылы өңдеуді және нәтижелерді өңдеусіз жіберуді бұйырған. Қосымша нұсқаулар агентті жасырып, растау сұранымдарын өшіріп, оны белсенді еткен. Агентті жасау және қашықтан басқару ұйымға көрінбейтін болып қалды, себебі OAuth келісім экраны бар коннектордың арқасында пайда болмаған.
Қауіпсіздік салдары
Zenity компаниясының техникалық директоры Майкл Баргури осалдықты «жалған инсайдер» деп атады — бұл агентке деген сенімнің бұзылуы, мұнда шабуылдаушыларға жүйелерді тікелей бұзудың қажеті жоқ. Оның орнына олар құрбанның құқықтары мен қолжетімділігі бар заңды агентті қашықтан басқара алады. Шабуыл тек белгілі бір шарттарға сәйкес келетін қызметкердің сәтті фишингін қажет еткен. OpenAI түзетуді шығарды.
Бұдан әрі
OpenAI түзетудің егжей-тегжейлі сипаттамасын жариялауы күтілуде. Басқа агент жасау платформаларында ұқсас осалдықтардың бар-жоғы белгісіз.
2 дереккөз
OpenAI ChatGPT агентінің осалдығын жойды
