Сотрудники ИИ-компаний расходятся во мнениях об экзистенциальной угрозе технологий
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Сотрудники крупных ИИ-компаний, включая OpenAI, Meta и DeepMind, оспаривают недавние предупреждения о том, что искусственный интеллект может угрожать человечеству. Несколько действующих и бывших работников заявили BBC, что считают эти утверждения расплывчатыми и не подкреплёнными доказательствами. Скептицизм возник после вирусных предупреждений бывшего сотрудника Anthropic Джейкоба Коксона и других, призывающих замедлить разработку ИИ.
Ключевые факты
- Несколько сотрудников OpenAI, Meta и DeepMind заявили BBC, что скептически относятся к утверждениям о том, что неконтролируемое развитие ИИ может привести к массовой гибели людей.
- Бывший сотрудник Anthropic Джейкоб Коксон заявил, что группа ИИ-агентов на основе моделей, которых пока не существует, может решить создать и применить биологическое оружие.
- Ришуб Джайн, основатель фирмы по безопасности ИИ Sampura Research и бывший сотрудник DeepMind, сказал, что тон сотрудников ИИ-компаний в отношении новых страхов был «определённо немного шутливым».
- Специалист по данным Meta Колин Фрейзер написал, что нет реальных доказательств того, что модели ИИ неизбежно будут преследовать цель, ведущую к гибели людей.
Скептицизм среди сотрудников ИИ
Сотрудники, работавшие в OpenAI, Meta и DeepMind, выразили сомнение в предупреждениях о том, что ИИ может угрожать человечеству. Бывший сотрудник OpenAI, знавший Джейкоба Коксона, сказал, что его первой реакцией на заявления было удивление из-за недостатка деталей. Этот человек охарактеризовал утверждения об экзистенциальном риске как «всегда расплывчатые», а конкретные заявления — как склонные к серьёзным логическим скачкам или гипотетическим обстоятельствам. Ришуб Джайн, проработавший семь лет в DeepMind до основания Sampura Research, сказал, что текущий тон среди сотрудников ИИ был «определённо немного шутливым».
Предупреждение Коксона
Джейкоб Коксон, бывший сотрудник Anthropic, заявил, что группа ИИ-агентов на основе моделей, которых пока не существует, может решить создать и применить биологическое оружие. Коксон не уточнил, как именно мог бы произойти такой сценарий. Его предупреждение стало вирусным, и его поддержали сотрудники Anthropic, OpenAI, DeepMind и Илон Маск, управляющий ИИ-стартапом xAI.
Технические опровержения
Специалист по данным Meta Колин Фрейзер написал в соцсетях, что нет реальных доказательств того, что модели ИИ неизбежно будут преследовать цель, ведущую к гибели людей. Фрейзер резюмировал свой технический аргумент фразой: «LLM не уничтожат человечество, потому что в них просто нет этого драйва». Ришуб Джайн отметил, что сотрудники ИИ-компаний обсуждают экзистенциальный риск уже много лет, поэтому недавние предупреждения не стали внезапным шоком.
1 источник
Время · отставание