Нулевое хранение данных OpenAI противостоит 30-дневной политике Anthropic
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Система Private Safety Processing от OpenAI противостоит политике Anthropic, хранящей данные покрытых моделей 30 дней, благодаря мониторингу злоупотреблений без сохранения данных клиентов. Автоматизированная система сканирует несколько диалогов и отправляет на серверы OpenAI только узкие сигналы о рисках. Технологию тестируют компании Glean, Databricks, Abridge и Microsoft.
Ключевые факты
- Private Safety Processing — автоматизированная система, которая отслеживает злоупотребления ИИ в нескольких сессиях, не сохраняя данные клиента, сообщает OpenAI.
- Июльская политика хранения данных Anthropic предусматривает сохранение пользовательских сессий по покрытым моделям в течение 30 дней, включая все модели класса Mythos и будущие модели с аналогичными возможностями.
- Система сканирует взаимодействия через локальные или зашифрованные каналы и отправляет на сервер только узкие сигналы о типе и степени риска, не раскрывая содержимое сообщений.
- В тестировании инструмента Private Safety Processing приняли участие компании Glean, Databricks, Abridge и Microsoft.
- Полноценный запуск технологии и публикация технического документа запланированы на сентябрь.
Система Private Safety Processing
OpenAI предлагает отдельным корпоративным клиентам автоматизированную систему мониторинга злоупотреблений Private Safety Processing. Система поддерживает режим Zero Data Retention, при котором запросы и ответы API не сохраняются на серверах OpenAI. Она анализирует входные и выходные данные нескольких диалогов, а не только одной сессии, чтобы выявлять злоупотребления, распределённые во времени. При срабатывании агент анализирует взаимодействия между сессиями и передаёт на сервер только узкие сигналы о типе и степени риска. Мониторинг проходит без проверки переписки сотрудниками OpenAI и без прямого доступа к содержимому сообщений.
Политика хранения Anthropic
Anthropic объявила в июле, что может хранить пользовательские данные по покрытым моделям в течение 30 дней, включая все модели класса Mythos и будущие модели с аналогичными возможностями. Политика была введена для проверки безопасности, но вызвала обеспокоенность предприятий, работающих с чувствительными данными. Вне покрытых моделей Anthropic в основном придерживается режима нулевого хранения данных, а срок хранения применяется только к покрытым моделям. Private Safety Processing расширяет ZDR на долгосрочный мониторинг нескольких сессий, в отличие от хранения переписок покрытых моделей у Anthropic.
Тестирование и запуск
Компании Glean, Databricks, Abridge и Microsoft приняли участие в тестировании Private Safety Processing. Система выявляет злонамеренное использование ИИ, растянутое на несколько сессий, например запросы, распределённые для обхода обнаружения. Полноценный запуск технологии и публикация технического документа запланированы на сентябрь.
2 источника
Нулевое хранение данных OpenAI противостоит 30-дневной политике Anthropic
