Flock бақылау тізімі қала камераларын сипаттама бойынша сканерлейді, қорғаныс теріс пайдалануды тіркейді, бірақ тоқтатпайды
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
WIRED-тың Flock Safety-дің жаңа бағдарламалық жасақтамасын талдауы полиция қызметкерінің жазбаша сипаттамасына сәйкес келетін адамдарды қала камералары арқылы үздіксіз іздейтін ИИ бақылау тізімін анықтады. Кодты шолуға сәйкес, қорғаныс механизмдері теріс пайдалануды болдырмауы және тіркеуі мүмкін, бірақ оларды тоқтатпайды. Соңғы бір жылда Flock келісімшарттардың бұзылуына және Конгресстің назарына тап болды.
Негізгі фактілер
- Flock-тың ИИ бақылау тізімі полиция қызметкеріне қала ауданын қоршауға және жазбаша сипаттамаға сәйкес келетін адамдарды үздіксіз автоматты түрде іздеуге мүмкіндік береді.
- WIRED-тың кодты талдауы Flock-тың қорғаныс механизмдері теріс пайдалануды болдырмауы және тіркеуі мүмкін екенін, бірақ оларды тоқтатпайтынын көрсетті.
- Техас шерифінің орынбасары 83 000-нан астам камера арқылы аборт жасаған әйелді іздеді, бұл Конгресстің екі мүшесін бас директор Гаррет Лэнглиге хат жазуға итермеледі.
- Иллинойс билігі Flock федералды иммиграциялық агенттерге штат заңын бұза отырып, штат камераларының деректеріне қол жеткізгенін анықтады.
- Flock жүйесі жазбаша сипаттамаларды нәсіл мен дінді қоса алғанда, бірнеше сезімтал мазмұн санаттары бойынша бағалайды, бірақ «саяси, әлеуметтік және мәдени өзін-өзі көрсету» — іздеуді тоқтатпайтын жалғыз санат.
ИИ бақылау тізімінің мүмкіндіктері
Flock Safety-дің жаңа іздеу құралдары полицияға адамдарды камералардан табудың бірнеше жолын береді, тек олардың көліктерінің нөмірлерін ғана емес. Құралдардың ішінде полиция қызметкеріне қала ауданын қоршауға және ішіндегі камераларды жазбаша сипаттамаға сәйкес келетін адамдарды үздіксіз автоматты түрде іздеуге мәжбүрлейтін ИИ бақылау тізімі бар. WIRED Flock полиция қызметкерінің браузеріне жіберетін бағдарламалық жасақтаманы жинап, талдап, қызметкерлер жүйемен өзара әрекеттескенде көретін нәрсенің макетін жасады. Іздеуді басқаратын нәрсенің көп бөлігі Flock серверлерінде, құралды пайдаланатын бөлімшенің көз алдынан тыс жерде жүреді.
Қорғаныс механизмдері мен шектеулер
Тамыз айында Flock сынға жауап ретінде деректерді сақтау мерзімін әдепкі бойынша қысқартатын, әрбір іздеу үшін іс кодтарын талап ететін және құралды теріс пайдаланатын қызметкерлерді анықтау үшін автоматты аудит қосатын өзгерістер пакетімен жауап берді. WIRED талдауы Flock-тың қорғаныс механизмдері кейбір теріс пайдалануды болдырмауы және тіркеуі мүмкін екенін, бірақ оларды тоқтатпайтынын көрсетті. Автоматтандырылған скрининг пен полиция технологияларын зерттейтін сарапшылар Flock өзінің ИИ-іне ешбір технология сенімді орындай алмайтын жұмысты тапсырғанын айтады. Flock жүйесі оны пайдаланатын бөлімшенің көз алдынан тыс жерде қызметкер қандай адам сипаттамаларын іздей алатынын шешеді, және мұндай ауқымдағы ешбір скрининг дәл емес, дейді сарапшылар. Компания қызметкерлерге нәтижелер дәл емес немесе толық емес болуы мүмкін екенін және оларға жалғыз дереккөз ретінде сенбеу керектігін ескертеді, бірақ «кез келген дәлсіздік тәуекелін» іздеуді орындайтын қызметкерге жүктейді.
Сезімтал мазмұнды бағалау
Flock жүйесі қызметкердің жазбаша сипаттамасын нәсіл мен дінді қоса алғанда, бірнеше сезімтал мазмұн санаттары бойынша бағалайды. «Саяси, әлеуметтік және мәдени өзін-өзі көрсету» санаты — іздеуді тоқтатпайтын жалғыз санат. Демократия және технологиялар орталығының қауіпсіздік және бақылау жобасының заң кеңесшісі Том Боуман Flock толық тоқтатудың орнына «жатқан полицеймен» қорғайтын жалғыз сезімтал санат — соттар ең қатаң қорғайтын санат екенін айтады.
1 дереккөз
Уақыт · артта қалуы