Ян Шошитаишвили: ИИ-агенттер бағдарламамен тікелей әрекеттесіп, жалған дабылдарды азайтады
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Аризона штаты университетінің доценті Ян Шошитаишвилидің айтуынша, командаларды іске қосып, бағдарламалардың әрекетін бақылайтын ИИ-агенттер нақты осалдықтарды жалған дабылдардан ажыратады. Ол Black Hat USA 2026 конференциясында сөйлеген сөзінде агенттік циклді түпкі себептерді талдау және зиянды бағдарламаларды кері инженериялау сияқты міндеттерді автоматтандыру ретінде сипаттады.
Негізгі фактілер
- ИИ-агенттер командаларды іске қосып, бағдарламалардың әрекетін бақылап, болжамды осалдықты шақыруға болатынын тексере алады.
- Бұл мүмкіндік бағдарламалық қамтамасыз ету қауіпсіздігі саласындағы ежелгі проблема болып табылатын жалған дабылдар санын азайтады, деп атап өтті Шошитаишвили.
- Шошитаишвили — Аризона штаты университетінің доценті, автоматтандырылған бағдарламаларды талдау және осалдықтарды анықтау саласында маманданған.
- Ол Shellphish командасының DARPA Cyber Grand Challenge-ға қатысуын басқарды, оның аясында толық автономды бұзу жүйесі жасалды.
Агенттік цикл механикасы
ИИ-агенттер кодты талдаудан әрі қарай командаларды іске қосып, әрекетті бақылап, болжамды осалдықты шақыруға болатынын тексереді, деді Шошитаишвили. Бағдарламаларды талдаудың дәстүрлі құралдары көбінесе абстракциялар мен болжамдарға сүйенеді, бұл дәлсіздіктерге әкеледі. Агенттер тергеу қадамдарын орындап, гипотезаларды тексеріп, табылғандарды сараптамалық бағалауға жақын деңгейде жіктей алады. Шошитаишвили агенттік цикл арқылы жалған дабылдарды сүзгілеу қабілетін «үлкен артықшылық» деп атады.
Кері инженерияны автоматтандыру
Адам-аналитик зиянды бағдарламаны түсіну үшін оны кері инженериялауға дәстүрлі түрде көп уақыт жұмсайды, деп атап өтті Шошитаишвили. ИИ-агенттер бұл процесті барған сайын жиі автоматтандырады, деді ол. Агенттік тәсіл сонымен қатар түпкі себептерді талдауды және зиянды бағдарламаларды кері инженериялауды автоматтандырады. Black Hat USA 2026-да Шошитаишвили LLM көмегімен осалдықтарды анықтауды статикалық және динамикалық талдау әдістерімен салыстырды.
Зерттеулер мен тәжірибе
Шошитаишвили — Аризона штаты университетінің доценті, онда ол киберқауіпсіздік саласында зерттеулермен, білім берумен және практикалық әсермен айналысады. Оның зерттеулері автоматтандырылған бағдарламаларды талдауға және осалдықтарды анықтауға бағытталған. Ол осы салада ондаған ғылыми еңбектер жариялады. Ол Shellphish командасының DARPA Cyber Grand Challenge-ға қатысуын басқарып, толық автономды бұзу жүйесін жасады.
4 дереккөз
Ян Шошитаишвили: ИИ-агенттер бағдарламамен тікелей әрекеттесіп, жалған дабылдарды азайтады
