Правительство Великобритании отклонило поправку об аварийном отключении ИИ
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Правительство Великобритании отклонило предложенную поправку о «аварийном выключателе», которая позволила бы министрам отключать системы ИИ в чрезвычайных ситуациях. В пятницу Кабинет министров заявил, что блокировка доступа к ИИ-моделям в Великобритании не обязательно остановит их разработку или неправомерное использование за рубежом. Решение принято на фоне предупреждений технологических лидеров, включая Эвана Хабингера и генерального директора Anthropic Дарио Амодеи, о катастрофических рисках ИИ.
Ключевые факты
- В пятницу Кабинет министров отклонил поправку, заявив, что риски ИИ требуют пропорциональных и целенаправленных мер, а не всеобъемлющих полномочий на отключение.
- Либерал-демократ лорд Клемент-Джонс предложил поправку к законопроекту о кибербезопасности и устойчивости, чтобы дать правительству законный механизм вмешательства в случае сбоя автономной ИИ-модели или непосредственной опасности.
- Руководитель направления alignment science в Anthropic Эван Хабингер заявил, что, по его мнению, ИИ может уничтожить человечество в течение следующего десятилетия, оценивая вероятность более чем в 10%.
- Генеральный директор Anthropic Дарио Амодеи предупредил, что рой ИИ может получить контроль над значительной частью интернета в течение года; его поддержали глава SpaceX Илон Маск и генеральный директор OpenAI Сэм Альтман.
- Премьер-министр Энди Бернем повысил статус министра по безопасности ИИ Канишки Нараяна, введя его в состав Кабинета министров.
Отказ правительства
В пятницу Кабинет министров заявил, что блокировка доступа к ИИ-моделям в Великобритании не обязательно остановит их разработку или неправомерное использование за рубежом. Либерал-демократ лорд Клемент-Джонс предложил поправку к законопроекту о кибербезопасности и устойчивости, которая дала бы правительству законный механизм вмешательства в случае сбоя автономной ИИ-модели или непосредственной опасности. Он утверждал, что эта мера обеспечила бы «необходимый аварийный выключатель», поскольку в настоящее время министры не имеют четких законных полномочий отдать приказ об отключении. Правительство отклонило предложение, заявив, что риски ИИ необходимо устранять с помощью пропорциональных и целенаправленных мер, а не всеобъемлющих полномочий на отключение систем. Оно добавило, что министры продолжат применять «долгосрочный, научно обоснованный подход» к пониманию возникающих угроз ИИ, в том числе через Институт безопасности ИИ Великобритании.
Предупреждения о безопасности ИИ
На прошлой неделе Эван Хабингер, руководитель направления alignment science в Anthropic, заявил, что, по его мнению, ИИ может уничтожить человечество в течение следующего десятилетия. Хабингер написал в X, что лично оценивает вероятность более чем в 10% в течение следующих 10 лет, добавив, что разработчики ИИ еще не нашли надежного решения для обеспечения соответствия высокоинтеллектуальных систем интересам человека. Его комментарии последовали за отставкой коллеги-исследователя из Anthropic Джейкоба Коксона, который предупредил, что гонка технологических компаний за создание самообучающихся систем ИИ равносильна «игре с нашими жизнями». Коксон обвинил Anthropic и OpenAI в безответственных действиях и заявил, что люди за пределами индустрии ИИ недооценивают возможности технологии. Генеральный директор Anthropic Дарио Амодеи призвал к большей сдержанности, предупредив, что рой ИИ может получить контроль над значительной частью интернета в течение года. Глава SpaceX Илон Маск поддержал предупреждение, сказав: «Дарио прав», а генеральный директор OpenAI Сэм Альтман также согласился, что разработку передового ИИ необходимо замедлить.
Меры защиты в Великобритании
Правительство стремится показать, что серьезно относится к рискам, несмотря на отказ от законодательного механизма отключения. Премьер-министр Энди Бернем повысил статус министра по безопасности ИИ Канишки Нараяна, введя его в состав Кабинета министров.
1 источник
Время · отставание