Ханна вносит законопроект о безопасности ИИ с запретом рекурсивного самоулучшения до создания гарантий
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Конгрессмен Ро Ханна внесёт законопроект «Закон о контроле человека над ИИ», запрещающий рекурсивное самоулучшение ИИ до создания федеральных гарантий. Законопроект создаёт новое федеральное агентство для регулирования передовых ИИ-лабораторий и вводит уголовную ответственность за отключение средств безопасности. Это происходит на фоне давления на Конгресс с требованием регулировать ИИ после предупреждений руководителей о рисках уровня вымирания.
Ключевые факты
- Законопроект запрещает модели ИИ, которые рекурсивно самоулучшаются или автономно изменяют свои основные цели, средства сдерживания или контроля отключения, до создания федеральных гарантий и одобрения деятельности агентством.
- Новое федеральное агентство будет регулировать передовые модели ИИ от OpenAI, Anthropic, Google DeepMind и xAI, с полномочиями по нормам безопасности, лицензированию, аудиту и стандартам безопасности.
- Законопроект квалифицирует развёртывание моделей ИИ, приводящее к уничтожению гражданского населения, как «преступления против человечности» и вводит наказания для сотрудников, отключающих средства защиты или развёртывающих несанкционированные системы.
- ИИ-компании будут обязаны иметь обширное страхование ответственности для выпуска своих моделей.
- Законопроект призывает администрацию добиваться обязательных соглашений и целевых экспортных ограничений для сдерживания Китая и других противников от разработки опасных систем ИИ.
Законодательное предложение
Конгрессмен Ро Ханна (демократ от Калифорнии) внесёт законопроект «Закон о контроле человека над ИИ», краткое содержание которого было предоставлено эксклюзивно CNBC. Законопроект запрещает модели, которые рекурсивно самоулучшаются или автономно изменяют свои основные цели, средства сдерживания или контроля отключения, до создания федеральных гарантий и одобрения деятельности агентством. Ханна заявил, что законопроект представляет собой «самое всеобъемлющее законодательство о безопасности ИИ» из когда-либо предложенных.
Регулирующее агентство
Законопроект создаёт новое федеральное агентство для надзора за моделями ИИ от OpenAI, Anthropic, Google DeepMind и xAI. Агентству будет поручено разрабатывать правила безопасности, систему лицензирования для одобрения обучения и развёртывания моделей, аудит передовых моделей ИИ и устанавливать стандарты безопасности для непрерывного тестирования и эффективного контроля со стороны человека. Независимые аудиторы должны быть встроены в каждую передовую лабораторию и отчитываться непосредственно перед агентством. Агентство также создаст стандарты, охватывающие среды тестирования-песочницы, воздушные зазоры, аварийные выключатели и средства контроля, предотвращающие побег моделей из лабораторных условий и их блуждание в Интернете. Оно также будет отвечать за регулирование передовых чипов, используемых передовыми лабораториями, включая механизмы мониторинга или контроля их использования.
Наказания и ответственность
Законопроект квалифицирует развёртывание моделей ИИ, приводящее к уничтожению гражданского населения, как «преступления против человечности». Он вводит уголовные наказания для сотрудников ИИ-компаний, которые отключают средства защиты, аварийные выключатели, системы журналирования или сдерживания, либо сознательно развёртывают несанкционированную систему. ИИ-компании также будут обязаны иметь обширное страхование ответственности для выпуска своих моделей. Законопроект призывает администрацию добиваться обязательных соглашений и целевых экспортных ограничений для сдерживания Китая и других противников от разработки опасных систем ИИ.
1 источник
Время · отставание