Инженеры китайского J-36 предупреждают: ИИ может фабриковать данные радаров и вооружений
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Инженеры AVIC Chengdu Aircraft Research and Design Institute, организации, стоящей за китайскими программами истребителей J-20 и нового поколения J-36, предупредили, что большие языковые модели могут генерировать крайне правдоподобные, но ложные данные о радарах, вооружениях и боевых действиях. Предупреждение прозвучало в статье от 20 июня в журнале Information Studies: Theory & Application, издаваемом государственной оборонной компанией Norinco. Сфабрикованные данные могут исказить проектные решения по истребителям и оценки военной разведки.
Ключевые факты
- Предупреждение было опубликовано 20 июня в журнале Information Studies: Theory & Application, издаваемом государственной оборонной компанией Norinco.
- Инженер Чжан Сяньчжэ, связанный с чэндуской организацией по проектированию самолетов, заявил, что большие языковые модели могут выдавать крайне правдоподобную, но несуществующую информацию.
- Ошибки, генерируемые ИИ, могут включать вымышленные размеры истребителя, грузоподъемность, возможности вооружения, максимальную скорость, боевой радиус, дальность сканирования радара и частотные диапазоны.
- Чжан рекомендовал ограничивать модели надежными военными данными, создавать доступные для поиска базы знаний, использовать более четкие команды и перекрестно проверять результаты с помощью разных ИИ-систем.
Предупреждение
Инженеры AVIC Chengdu Aircraft Research and Design Institute, организации, стоящей за истребителем J-20 и программой нового поколения J-36, выступили с предупреждением. Оценка появилась в статье от 20 июня в журнале Information Studies: Theory & Application, издаваемом государственной оборонной компанией Norinco. Инженер Чжан Сяньчжэ, связанный с чэндуской организацией по проектированию самолетов, заявил, что большие языковые модели могут генерировать крайне правдоподобную, но несуществующую информацию.
Риски для проектирования и разведки
При разработке истребителя конструкторы должны анализировать зоны покрытия радаров противника, рабочие частоты, зоны поражения ракет, возможности радиоэлектронной борьбы, позиции самолетов дальнего радиолокационного обнаружения и наземную ПВО. Эти данные определяют ключевые проектные решения, такие как характеристики малозаметности, сенсоры, маневренность и боевой радиус. Чжан отметил, что ИИ может выдумывать размеры истребителя, грузоподъемность, возможности вооружения, максимальную скорость или боевой радиус, а также дальность сканирования радара и частотные диапазоны. Поскольку выводы ИИ выглядят технически согласованными, аналитики или инженеры могут принять ложную информацию за подлинные разведывательные данные. Чжан также предупредил, что ИИ может рекомендовать материалы без достаточной прочности, проектировать аэродинамически невозможные маневры или готовить планы миссий, превышающие эксплуатационную дальность самолета.
Меры по снижению рисков
В военной разведке ИИ может создавать несуществующие базы, подразделения и передвижения войск, что при переносе в симуляции может привести к полностью ошибочным оценкам военного потенциала противника. Принятие окончательных решений людьми-аналитиками может снизить риск, но по мере роста объема информации, генерируемой ИИ, детальная проверка каждого результата становится все труднее. Чжан рекомендовал оборонным организациям ограничивать модели надежными военными данными и создавать доступные для поиска базы знаний, где информацию можно проверять. Использование более четких и точных команд может снизить вероятность неоднозначных интерпретаций моделью. Чжан также предложил перекрестно проверять выводы ИИ с помощью разных ИИ-систем, которые ставят под сомнение ошибки в результатах друг друга.
1 источник
Время · отставание