Военные США едва не высадились на китайское судно из-за ложных данных ИИ о ядерном грузе
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Ложная оценка, сгенерированная ИИ, едва не привела к высадке американских военных на китайское судно во время конфликта с Ираном. Вооружённые силы готовились к перехвату судна, прежде чем официальные лица обнаружили, что идентификация груза была полностью ложной. Инцидент произошёл на фоне расширения использования ИИ в военных операциях Пентагона.
Ключевые факты
- Вооружённые силы готовились к высадке на китайское судно, прежде чем официальные лица обнаружили, что оценка груза, сгенерированная ИИ, была ложной.
- Аналитик использовал чат-бота для интерпретации судового манифеста, объединив общедоступные материалы с засекреченными данными радиоэлектронной разведки.
- Министр обороны Пит Хегсет в январе объявил стратегию ИИ для ускорения внедрения военного ИИ.
- Более 1,3 миллиона сотрудников использовали GenAI.mil, сгенерировав десятки миллионов запросов за пять месяцев.
Ложная оценка
Аналитик, изучавший судовой манифест, использовал чат-бота для интерпретации разведданных, и система объединила общедоступные материалы с засекреченными данными радиоэлектронной разведки. Чат-бот выдал неверную оценку груза судна, которую аналитик затем оформил с помощью ИИ и распространил среди военных чиновников. Официальные лица изучили исходную информацию лишь незадолго до запланированной операции, выявив, что идентификация груза была ошибочной. Один источник назвал оценку «полностью ложной», а другой сообщил CNN, что она «чуть не начала войну».
Расширение военного ИИ
Пентагон расширяет использование ИИ в разведке, операциях, административной работе и принятии решений на поле боя. В январе министр обороны Пит Хегсет объявил стратегию ИИ для ускорения внедрения в военные миссии и организационные функции. Хегсет заявил, что ведомство «развяжет эксперименты, устранит бюрократические барьеры, сосредоточит инвестиции и продемонстрирует подход к исполнению, необходимый для лидерства в военном ИИ». Стратегия включает программы для разведывательной работы, оперативного планирования, корпоративных функций и более широкого доступа к генеративным системам ИИ. Позднее ведомство сообщило, что более 1,3 миллиона сотрудников использовали GenAI.mil, сгенерировав десятки миллионов запросов за пять месяцев.
1 источник
Время · отставание