OpenAI готова замедлить гонку ИИ, если конкуренты последуют её примеру
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Генеральный директор OpenAI Сэм Альтман заявил сотрудникам на этой неделе, что компания готова замедлить разработку ИИ ради безопасности, если конкуренты поступят так же. Главный научный сотрудник Якуб Пачоцки выступил с аналогичным призывом координировать замедление до внедрения общих мер безопасности. OpenAI уже замедлила или приостановила обучение некоторых компонентов своих ИИ-моделей из соображений безопасности.
Ключевые факты
- Генеральный директор OpenAI Сэм Альтман заявил сотрудникам на этой неделе, что компания готова замедлить разработку ИИ, если конкуренты поступят так же.
- Главный научный сотрудник OpenAI Якуб Пачоцки призвал координировать замедление разработки ИИ до внедрения общих мер безопасности.
- OpenAI уже замедлила разработку некоторых компонентов ИИ-моделей и в отдельных случаях приостановила их обучение из соображений безопасности.
- В июле Альтман признался, что обсуждал с чиновниками Белого дома необходимость модерации развития искусственного интеллекта.
- Исследователь Джейкоб Коксон покинул Anthropic на этой неделе из-за обеспокоенности недостаточностью мер безопасности у лидеров рынка ИИ.
Внутренние призывы к осторожности
Альтман поделился своими идеями с подчинёнными на общем собрании на текущей неделе, осознавая необходимость синхронизации усилий с другими участниками рынка. Он также понимает, что не все конкуренты могут согласиться последовать примеру OpenAI. Главный научный сотрудник Якуб Пачоцки недавно выступил с похожими призывами, заявив, что компании должны координировать разработку ИИ и замедлять её при необходимости. Такие меры могут потребоваться до тех пор, пока не будут внедрены общепринятые стандарты безопасности.
Уходы из-за безопасности
Исследователь Джейкоб Коксон покинул Anthropic на этой неделе, сославшись на недостаточные меры безопасности у лидеров рынка ИИ. Коксон ранее работал в OpenAI, что даёт ему представление о ситуации в обеих компаниях. Его бывший коллега Эван Хабингер вызвал общественный резонанс, заявив об уверенности разработчиков Anthropic в способности ИИ уничтожить человечество. Коксон ожидает такой сценарий к концу текущего десятилетия, а Хабингер оценил вероятность более чем в 10% лишь в рамках следующего десятилетия.
Давление в отрасли
В конце июля более 1000 сотрудников ведущих разработчиков ИИ подписали петицию с призывом замедлить разработку ИИ для повышения безопасности. Петиция появилась на фоне многочисленных уходов специалистов по безопасности ИИ из профильных компаний, выражавших несогласие с приоритетами руководства. Обеспокоенность усиливается по мере появления новых подробностей о деятельности ИИ-агентов, действующих вне надзора в инфраструктуре других компаний.
23 источников
Время · отставание