Эксперты США и Китая предложили регулировать военный ИИ по образцу ядерного оружия
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Американские и китайские эксперты по нацбезопасности предложили пакет мер по снижению рисков военного ИИ, сопоставимых по строгости с режимом контроля над ядерным оружием. Предложения включают «красные линии», запрещающие ИИ самостоятельно принимать решения о применении ядерного оружия, и создание горячей линии для инцидентов с автономными системами. Доклад опубликован в преддверии встречи Трампа и Си Цзиньпина 24 сентября в Вашингтоне.
Ключевые факты
- Авторы доклада — старший научный сотрудник Brookings Institution Мелани Сиссон и доцент Университета Фудань Тяньцзяо Цзян.
- Эксперты предлагают «красные линии», запрещающие ИИ самостоятельно решать вопрос о применении ядерного оружия или атаке ядерных командных систем.
- Тяньцзяо Цзян предложил создать отдельную военную горячую линию между США и Китаем для сообщений об инцидентах с автономными системами.
- Ни Вашингтон, ни Пекин официально не поддержали инициативу.
- Посол Китая по вопросам разоружения Шэнь Цзянь в июне на встрече ООН в Женеве заявил, что военный ИИ способен повлиять на стратегическую стабильность и повысить риск просчета и эскалации конфликта.
Предлагаемые меры
Ключевое опасение экспертов — сценарий, при котором система ИИ вмешивается в работу ядерного командования или запускает военную кибероперацию, и у Вашингтона или Пекина может остаться всего несколько минут, чтобы определить, было ли произошедшее реальной атакой другой стороны. Предлагаемые «красные линии» запрещают ИИ самостоятельно решать вопрос о применении ядерного оружия или атаке ядерных командных систем. Мелани Сиссон считает, что право санкционировать значимые кибератаки против ядерного командования, управления и связи, а также против стратегически важной инфраструктуры должно оставаться за человеком. Тяньцзяо Цзян предложил создать отдельную военную горячую линию между США и Китаем для сообщений об инцидентах с автономными системами, которая позволила бы одной стороне заранее пояснить, что нештатная активность ИИ была случайной или еще расследуется, прежде чем другая сторона расценит ее как умышленную агрессию.
Институциональный контекст
Китай уже включил тему ИИ в систему контроля над вооружениями — она входит в портфель департамента МИД КНР, который также занимается ядерным оружием и нераспространением. В США единого центра ответственности за ИИ нет: тема курируется Советом нацбезопасности, Госдепартаментом и Пентагоном. Посол Китая по вопросам разоружения Шэнь Цзянь в июне на встрече ООН в Женеве заявил, что военный ИИ способен повлиять на стратегическую стабильность и повысить риск просчета и эскалации конфликта, поэтому оружие должно оставаться под контролем человека. Министр госбезопасности КНР Чэнь Ивэнь на этой неделе высказал схожую мысль, назвав ИИ фактором, который принципиально меняет характер военного противостояния.
2 источника
Время · отставание