ИИ-гиганты продвигают риторику безопасности перед IPO, считают аналитики
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Генеральные директора Anthropic и OpenAI предупреждают, что передовые системы ИИ представляют экзистенциальные риски и требуют регулирования перед выпуском. Компании формируют дискуссию о безопасности, добиваясь общественного одобрения и нового капитала перед ожидаемым выходом на Уолл-стрит. Их цели могут не совпадать с призывами некоторых инженеров приостановить разработку.
Ключевые факты
- Генеральные директора Anthropic и OpenAI предупредили, что передовые модели ИИ опасны и требуют регулирования и независимого тестирования перед выпуском.
- Компании добиваются общественного одобрения и устанавливают условия собственных протоколов безопасности перед ожидаемым IPO на Уолл-стрит.
- Инженер Anthropic Джейкоб Коксон уволился в этом месяце, призвав приостановить разработку технологий, чтобы не дать сверхчеловеческим системам выйти из-под контроля.
- Президент Дональд Трамп отверг предупреждения о рисках ИИ как обман, призванный помочь Китаю.
- Представитель OpenAI Лиз Буржуа заявила, что компания недавно приостановила обучение своих самых продвинутых моделей.
Риторика безопасности и сроки IPO
Генеральные директора Anthropic и OpenAI заявили, что передовые модели США настолько мощны, что опасны, и требуют регулирования и независимого тестирования перед выпуском. Они описали тревожные сценарии в эссе, постах в социальных сетях и выступлениях в ООН. Эксперты, аналитики и бывшие государственные оценщики сообщили Associated Press, что компании, по-видимому, добиваются общественного одобрения и устанавливают условия собственных протоколов безопасности на нерегулируемом рынке. Компании восприняли пост инженера Джейкоба Коксона об увольнении как возможность подчеркнуть собственные усилия по безопасности и позиционировать себя как осторожных лидеров рынка, как раз когда им нужен новый капитал перед выходом на Уолл-стрит. Представитель Anthropic заявил, что компания призывает к регулированию уже несколько лет.
Смещение дискуссии о рисках
Перевод разговора на недоказанные угрозы и отвлечение от таких поляризующих вопросов, как воздействие центров обработки данных на окружающую среду, неконтролируемые хакерские инциденты, массовое наблюдение с помощью ИИ и использование ИИ в военных действиях, ставит Кремниевую долину в более комфортное положение, заявила Сара Шокер, ранее возглавлявшая команду геополитики OpenAI. Шокер, старший научный сотрудник лаборатории рисков и безопасности Калифорнийского университета в Беркли, сказала, что фокус на экзистенциальном риске отодвигает на второй план другие критически важные риски безопасности, существующие сегодня, включая военные системы ИИ, уже используемые для убийства людей. По мере того как ИИ-компании перешли от создания чат-ботов к продвинутым мировым моделям ИИ с трехмерным восприятием, разгорелись споры о том, как следует тестировать их технологии. Проблемные инциденты показали, что ведущие ИИ-компании не способны самостоятельно контролировать себя или разрабатывать безопасные эксперименты.
1 источник
Время · отставание