Исследователь Anthropic уволился, предупредив, что ИИ может уничтожить человечество к 2030 году
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Исследователь Anthropic Джейкоб Коксон уволился и обвинил бывших работодателей в том, что они играют с человеческими жизнями, стремясь к сверхразумному ИИ. Его посты, просмотренные более 100 миллионов раз в X, вызвали реакцию сенатора Берни Сандерса и певицы Шерил Кроу. Отставка произошла на фоне того, как руководители OpenAI и Nvidia провозглашают новую эру AGI.
Ключевые факты
- Джейкоб Коксон уволился из Anthropic и обвинил Anthropic и OpenAI в том, что они «играют с нашими жизнями», стремясь к сверхразумному ИИ.
- Посты Коксона просмотрены более 100 миллионов раз в X и вызвали реакцию сенатора Берни Сандерса и певицы Шерил Кроу.
- Один из исследователей Anthropic заявил, что, по его мнению, вероятность уничтожения всех людей ИИ в ближайшее десятилетие превышает 10%.
- Пол Кристиано, исследователь безопасности ИИ и советник правительства США, назначенный на этой неделе в некоммерческий совет OpenAI, заявил о значительном риске катастрофической потери контроля в самом ближайшем будущем.
- В конце июля более 1000 сотрудников крупных ИИ-компаний подписали петицию с требованием создать механизм замедления темпов развития ИИ.
Отставка и вирусное предупреждение
Джейкоб Коксон, рядовой сотрудник Anthropic, уволился и обвинил своих бывших работодателей — Anthropic и OpenAI — в том, что они «играют с нашими жизнями», «стремясь к сверхразумному ИИ». Коксон заявил, что создатели ИИ верят, что он может «убить всех нас к концу десятилетия», и эту точку зрения позже поддержали в сети другие сотрудники компании. Его посты просмотрены более 100 миллионов раз в X и вызвали поток реакций — от сенатора Берни Сандерса до поп-певицы Шерил Кроу. Его заявление об уходе было встречено волной поддержки со стороны сотрудников различных ИИ-компаний, включая нескольких бывших коллег.
Тревога в индустрии и эра AGI
В последние дни руководители OpenAI и Nvidia провозгласили начало новой «эры AGI», имея в виду искусственный общий интеллект, который сможет сравниться с человеком или превзойти его в большинстве задач. Пол Кристиано, исследователь безопасности ИИ и советник правительства США, назначенный на этой неделе в некоммерческий совет OpenAI, заявил, что, по его мнению, существует значительный риск того, что быстрое ускорение возможностей ИИ приведет к катастрофической и необратимой потере контроля в самом ближайшем будущем. Кристиано добавил, что, по его мнению, индустрия ИИ в целом, включая OpenAI, в настоящее время не находится на пути к снижению этого риска до приемлемого уровня. В конце июля более 1000 сотрудников всех крупных ИИ-компаний подписали петицию с требованием создать механизм замедления темпов развития ИИ. Несколько сотрудников, занимающихся безопасностью ИИ, уволились из крупных лабораторий за последние месяцы.
2 источника
Время · отставание