Призыв главы Anthropic замедлить ИИ вскрыл проблемы контроля и доверия
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Глава Anthropic Дарио Амодеи в субботу призвал замедлить разработку ИИ; Сэм Альтман из OpenAI и Илон Маск согласились с ним. Бывший исследователь Anthropic Джейкоб Коксон заявил BBC, что сотрудники «искренне напуганы» за будущее человечества. Предложение сталкивается с нерешёнными вопросами контроля и доверия, в то время как США опасаются проиграть гонку ИИ Китаю.
Ключевые факты
- Глава Anthropic Дарио Амодеи в субботу призвал замедлить разработку ИИ; Сэм Альтман из OpenAI и Илон Маск согласились с ним.
- Бывший исследователь Anthropic Джейкоб Коксон заявил BBC в воскресенье, что сотрудники, разрабатывающие системы ИИ, «искренне напуганы» за будущее человечества.
- Амодеи предложил план из трёх пунктов: независимый мониторинг моделей ИИ, отраслевое регулирование и глобальное регулирование.
- Эд Зитрон, генеральный директор EZ Primary Research, заявил, что никто не дал содержательного объяснения, что означает «замедление».
Призыв к замедлению
Глава Anthropic Дарио Амодеи в субботу призвал замедлить темпы разработки ИИ. Сэм Альтман из OpenAI и Илон Маск заявили, что согласны с призывом Амодеи. Бывший исследователь Anthropic Джейкоб Коксон сообщил BBC в воскресенье, что сотрудники, разрабатывающие системы, «искренне напуганы» за будущее человечества. Эти предупреждения перекликаются с опасениями, высказанными на первом в мире саммите по безопасности ИИ в Блетчли-парке в ноябре 2023 года.
Пробелы контроля и доверия
План Амодеи из трёх пунктов включает независимый мониторинг моделей ИИ по мере их разработки, отраслевое регулирование и глобальное регулирование. Эд Зитрон, генеральный директор EZ Primary Research, заявил, что никто не дал содержательного объяснения, что означает «замедление». Зитрон усомнился, будет ли независимый мониторинг означать размещение представителя METR в каждой ИИ-компании. Он сказал, что остановка обучения моделей ИИ сделает их уязвимыми для китайских конкурентов, а продукты будут «застывшими в янтаре и скопированными китайскими лабораториями».
Давление глобальной гонки
США, как широко известно, боятся проиграть Китаю гонку за создание самого мощного ИИ. Китай не известен желанием быть вторым в технологическом соревновании. Ситуация напоминает разгар кампании за ядерное разоружение, когда никто не хотел делать первый шаг. В Великобритании существуют планы более широкого внедрения ИИ в NHS для улучшения ухода за пациентами, и ИИ дал экономике страны импульс летом.
1 источник
Время · отставание