Anthropic, Google и OpenAI обсуждают создание органа стандартизации ИИ
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Anthropic, Google и OpenAI ведут переговоры о создании органа по выработке отраслевых стандартов в области искусственного интеллекта, сообщили неназванные источники CNN. Обсуждения последовали за июльским предложением соучредителя Google DeepMind Демиса Хассабиса о создании организации по стандартам ИИ под руководством США. Генеральный директор Anthropic Дарио Амодеи 12 сентября опубликовал статью с призывом ограничить темпы разработки ИИ, которую публично поддержали генеральный директор OpenAI Сэм Альтман и Илон Маск.
Ключевые факты
- Anthropic, Google и OpenAI ведут переговоры о создании органа по выработке отраслевых стандартов в области искусственного интеллекта, сообщили неназванные источники CNN.
- Демис Хассабис в июльской статье предложил создать организацию по стандартам ИИ под руководством США, которая тестировала бы передовые модели ИИ до их внедрения.
- Генеральный директор Anthropic Дарио Амодеи 12 сентября опубликовал статью с призывом ограничить темпы разработки ИИ и предоставить узкоспециализированное исключение из антимонопольного законодательства для переговоров между ИИ-компаниями.
- Генеральный директор OpenAI Сэм Альтман и Илон Маск публично поддержали предложение Амодеи, Маск написал в X: «Дарио прав».
- По словам источников, переговоры продолжатся независимо от участия администрации президента США Дональда Трампа.
Переговоры о стандартах
Anthropic, Google и OpenAI рассматривают возможность создания собственного органа для определения отраслевых стандартов в области искусственного интеллекта, сообщили неназванные источники CNN. На переговоры повлияла не столько отставка исследователя Anthropic Джейкоба Коксона, сколько июльская статья Демиса Хассабиса с предложением организации по стандартам ИИ под руководством США. Хассабис предложил, чтобы учреждение под контролем правительства и на основе сотрудничества государственного и частного секторов тестировало передовые модели ИИ до их внедрения в эксплуатацию. Источники отметили, что переговоры продолжаются и будут продолжаться независимо от участия администрации президента США Дональда Трампа, и что лидеры технологического сектора не пришли к единому мнению по контролю над ИИ.
Призыв Амодеи к ограничениям
Генеральный директор Anthropic Дарио Амодеи опубликовал статью 12 сентября после отставки исследователя Джейкоба Коксона, мотивировавшего уход недостаточной ответственностью в вопросах ИИ. Амодеи предупредил, что развитие ИИ с геометрической прогрессией может превзойти способность человека понимать и контролировать эти системы, и предложил замедлить развитие технологии для обеспечения большего контроля. Он также призвал правительство США предоставить узкоспециализированное исключение из антимонопольного законодательства, чтобы позволить ИИ-компаниям вести переговоры друг с другом. В течение нескольких часов идею публично поддержали генеральный директор OpenAI Сэм Альтман, бывший руководитель подразделения ИИ в Google Демис Хассабис и генеральный директор SpaceXAI Илон Маск. Маск написал в X: «Дарио прав», а Альтман отметил, что согласен с предложением и предпримет аналогичные шаги в отношении независимой оценки.
2 источника
Время · отставание