OpenAI пресекает мошенническую сеть в Камбодже, использовавшую ChatGPT для афер
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
OpenAI сообщила о пресечении деятельности координированной сети аккаунтов ChatGPT, базировавшейся в Пойпете, Камбоджа, и занимавшейся инвестиционными, романтическими, игорными аферами и выдачей себя за правоохранителей. Сеть использовала чат-бот для создания фальшивых профилей, перевода сообщений и рекламных материалов для вербовки жертв. Операция проведена совместно с принадлежащим Meta мессенджером WhatsApp.
Структура сети
Операция базировалась в Пойпете, камбоджийском городе, известном мошенническими компаундами и торговлей людьми. OpenAI заблокировала кластер аккаунтов, предположительно управляемых из Юго-Восточной Азии и использовавших ChatGPT для широкого спектра мошеннических действий. Сеть распространяла в соцсетях объявления о найме «чатеров», ориентированные на пользователей из Бангладеш и Индии, с зарплатой $800 в месяц, бонусами, перелётом и проживанием. Некоторые аккаунты также применяли ChatGPT для внутренних задач, включая составление объявлений, перевод сообщений и учёт долгов сотрудников и просрочек виз.
Методы мошенничества
Мошенники одновременно вели несколько схем, комбинируя тактики для повышения успеха. Инвестиционные аферы строились на завоевании доверия через фальшивые знакомства с последующим завлечением на поддельные платформы торговли криптовалютой и золотом. Романтические мошенничества включали длительные переписки с использованием синтетических личностей. В схемах с азартными играми обещались фальшивые бонусы, а при выдаче себя за правоохранителей жертв запугивали штрафами за вымышленные преступления. Сеть также генерировала изображения поддельных паспортов, юридических уведомлений и подтверждений покупки акций.
Роль ИИ в аферах
Совместное расследование OpenAI и WhatsApp (Meta) показало, как сеть использовала ChatGPT для масштабирования операций. ИИ применялся для генерации и перевода сообщений, создания рекламных объявлений и выполнения повседневных задач. Этот случай отражает растущую тенденцию организованной преступности по внедрению генеративного ИИ для обманных схем.
Что дальше
OpenAI заявила, что продолжит совершенствовать системы обнаружения для противодействия таким угрозам, однако адаптивность транснациональных мошеннических сетей представляет постоянную проблему. Остаётся неясным, сколько пострадало жертв и не возникнут ли эти группировки под новыми личинами.
3 источника
OpenAI пресекает мошенническую сеть в Камбодже, использовавшую ChatGPT для афер
