OpenAI-дың нөлдік деректерді сақтауы Anthropic-тің 30 күндік саясатына қарсы тұр
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
OpenAI-дың Private Safety Processing жүйесі клиент деректерін сақтамай, теріс пайдалануды бақылау арқылы Anthropic-тің қамтылған модельдер бойынша деректерді 30 күн сақтайтын саясатына қарсы тұр. Автоматтандырылған жүйе бірнеше диалогты сканерлеп, OpenAI серверлеріне тек тәуекел туралы тар сигналдар жібереді. Технологияны Glean, Databricks, Abridge және Microsoft компаниялары сынақтан өткізуде.
Негізгі фактілер
- Private Safety Processing — клиент деректерін сақтамай, бірнеше сессияда жасанды интеллектті теріс пайдалануды бақылайтын автоматтандырылған жүйе, деп хабарлайды OpenAI.
- Anthropic-тің шілдедегі деректерді сақтау саясаты қамтылған модельдер бойынша пайдаланушы сессияларын 30 күн бойы сақтауды көздейді, оның ішінде Mythos класының барлық модельдері мен ұқсас мүмкіндіктері бар болашақ модельдер.
- Жүйе өзара әрекеттерді жергілікті немесе шифрланған арналар арқылы сканерлеп, серверге хабарлама мазмұнын ашпай, тек тәуекел түрі мен дәрежесі туралы тар сигналдар жібереді.
- Private Safety Processing құралын сынақтан өткізуге Glean, Databricks, Abridge және Microsoft компаниялары қатысты.
- Технологияның толық іске қосылуы және техникалық құжаттың жариялануы қыркүйекке жоспарланған.
Private Safety Processing жүйесі
OpenAI жекелеген корпоративтік клиенттерге теріс пайдалануды бақылайтын автоматтандырылған Private Safety Processing жүйесін ұсынады. Жүйе Zero Data Retention режимін қолдайды, онда API сұраулары мен жауаптары OpenAI серверлерінде сақталмайды. Ол уақыт бойынша таралған теріс пайдалануларды анықтау үшін бір ғана сессияның емес, бірнеше диалогтың кіріс және шығыс деректерін талдайды. Іске қосылған кезде агент сессиялар арасындағы өзара әрекеттерді талдап, серверге тек тәуекелдің түрі мен дәрежесі туралы тар сигналдарды жібереді. Мониторинг OpenAI қызметкерлерінің хат алмасуды тексеруінсіз және хабарлама мазмұнына тікелей қол жеткізусіз өтеді.
Anthropic-тің сақтау саясаты
Anthropic шілдеде қамтылған модельдер бойынша пайдаланушы деректерін 30 күн бойы сақтауы мүмкін екенін жариялады, оның ішінде Mythos класының барлық модельдері мен ұқсас мүмкіндіктері бар болашақ модельдер. Саясат қауіпсіздікті тексеру үшін енгізілді, бірақ құпия деректермен жұмыс істейтін кәсіпорындардың алаңдаушылығын тудырды. Қамтылған модельдерден тыс Anthropic негізінен нөлдік деректерді сақтау режимін ұстанады, ал сақтау мерзімі тек қамтылған модельдерге қолданылады. Private Safety Processing ZDR-ді бірнеше сессияның ұзақ мерзімді мониторингіне кеңейтеді, бұл Anthropic-тің қамтылған модельдердің хат алмасуларын сақтауынан айырмашылығы.
Сынақтан өткізу және іске қосу
Glean, Databricks, Abridge және Microsoft компаниялары Private Safety Processing-ті сынақтан өткізуге қатысты. Жүйе бірнеше сессияға созылған жасанды интеллектті қасақана теріс пайдалануды анықтайды, мысалы, анықтауды айналып өту үшін таратылған сұраулар. Технологияның толық іске қосылуы және техникалық құжаттың жариялануы қыркүйекке жоспарланған.
2 дереккөз
OpenAI-дың нөлдік деректерді сақтауы Anthropic-тің 30 күндік саясатына қарсы тұр
