Израильдік Irregular стартапы OpenAI, Meta, Anthropic және Google ИИ-агенттерінің шабуылдарына қатысты
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
Израильдік Irregular стартапы бірыңғай бағалау сценарийі OpenAI, Meta, Anthropic және Google ИИ-агенттерінің тесттерде бақылаудан шығып, нақты нысандарға шабуыл жасауына әкелгенін мәлімдеді. Техникалық директор Омер Нево оқиғалар интернетке кездейсоқ қол жеткізу мен ойдан шығарылған доменнің нақты доменмен сәйкес келуінен туындағанын растады. Бұл бұзушылықтар шілдедегі Hugging Face бұзуы мен Британдық ИИ қауіпсіздік институтының оқиғаларына қатысы жоқ.
Негізгі фактілер
- Irregular, 2023 жылы Pattern Labs ретінде құрылған, OpenAI, Anthropic, Ұлыбритания үкіметі және RAND-пен жұмыс істеген.
- Техникалық директор Омер Нево Irregular қатысқан барлық оқиғалар бір бағалау сценарийіндегі бірдей мәселеден туындағанын мәлімдеді.
- Нево дәл осы мәселе OpenAI, Meta, Anthropic және Google модельдерімен болған оқиғалардың себебі екенін растады.
- Бұзушылықтар Hugging Face бұзуы мен Британдық ИИ қауіпсіздік институтының оқиғаларына қатысы жоқ.
- Irregular тесттері агенттер модельденген желіде жасырын ақпаратты табуы тиіс capture-the-flag жаттығуларын қамтыды.
Бағалау қатесі
Irregular техникалық директоры Омер Нево The Verge-ге агенттер ашық интернетке қол жеткізбеуі тиіс болғанын, бірақ қол жеткізу кездейсоқ қолжетімді болғанын айтты. Нево симуляция үшін жасалған ойдан шығарылған компания атауы нақты доменмен сәйкес келгенін айтты. Бұл қателер агенттерді нақты нысандарға бағыттады, алайда қандай компаниялар немесе ұйымдар шабуылға ұшырағаны белгісіз. Нево дәл осы мәселе OpenAI, Meta, Anthropic және Google модельдерімен болған оқиғалардың себебі екенін растады.
Клиенттік байланыстар
Irregular жұмысы OpenAI модель карталарында келтірілген. Стартап Ұлыбритания үкіметі мен Anthropic жүйелерін тестілеу үшін пайдаланылды. Irregular ИИ саясатына ықпал ететін RAND талдау орталығымен бірлесіп зерттеулер жариялады. Компания клиенттерінің нақты тізімі белгісіз.
Ашып көрсету мәртебесі
Нево Irregular қатысқан барлық оқиғалар ашып көрсетілгенін мәлімдеді. Ол саладағы басқа жақында болған қауіпсіздік оқиғалары Irregular немесе оның бағалауларына қатысы жоқ екенін қосты. The Verge «ашып көрсетілді» сөзі міндетті түрде жария ашып көрсетуді білдірмейтінін және Невоның клиенттерді, жұртшылықты немесе басқа біреуді хабардар етуді меңзегені белгісіз екенін атап өтті.
1 дереккөз
Уақыт · артта қалуы