Правительство Великобритании отозвало лицензию Anthropic на развёртывание ИИ
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Правительство Великобритании в пятницу отозвало лицензию Anthropic на развёртывание её самой мощной модели ИИ, сославшись на потенциальную уязвимость для взлома. Компания публично выразила несогласие, утверждая, что недостаток был узким и касался модели, используемой сотнями миллионов людей.
Отзыв лицензии
Правительство Великобритании в пятницу отозвало лицензию Anthropic на развёртывание её самой мощной модели ИИ, сославшись на потенциальную уязвимость для взлома. Решение было принято после проверки безопасности, выявившей узкий недостаток, который мог позволить злоумышленникам обойти защиту модели. Anthropic, развернувшая модель для сотен миллионов пользователей, получила предписание немедленно прекратить коммерческое использование.
Реакция компании
Anthropic публично выразила несогласие с решением, утверждая, что недостаток был узким и не требовал полного отзыва. В блоге компания заявила: «Мы не согласны с тем, что обнаружение узкого потенциального взлома должно быть причиной для отзыва коммерческой модели, развёрнутой для сотен миллионов людей». Компания выразила разочарование, отметив, что решение может подорвать доверие к процессам безопасности ИИ.
Конфликт Пентагона из-за Claude
Министерство обороны США находится в споре с Anthropic по поводу контроля над своей моделью ИИ Claude, которая работает внутри секретных систем Пентагона через Palantir Technologies. Министр обороны Пит Хегсет требует ослабления мер безопасности, что вызывает опасения по поводу безопасности боевого ИИ.
Утечка исходного кода Claude Code
Anthropic случайно опубликовала исходный код Claude Code, своего ИИ-помощника по программированию. Утечка включала невыпущенные функции, такие как "Скрытый режим" и "Детектор разочарования".
Что дальше
Ожидается, что Anthropic подаст апелляцию на отзыв лицензии в ближайшие недели. Остаётся неясным, введёт ли правительство дополнительные ограничения на другие модели ИИ или пересмотрит свою систему проверки безопасности.
3 источника
Правительство Великобритании отозвало лицензию Anthropic на развёртывание ИИ
