Ученые считают преувеличенными опасения об ИИ-биооружии из-за лабораторных барьеров
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Ученые заявляют, что ИИ принципиально не меняет угрозу создания биооружия, ссылаясь на давнюю дилемму двойного назначения. Главным узким местом остаются сборка вируса и доступ к материалам, оборудованию и знаниям. Даже ускоряя доступ к информации, автоматизация лабораторий не заменит человеческий опыт.
Ключевые факты
- Дэвид Беллами из Института фундаментальных моделей заявляет, что возможности ИИ не являются узким местом в производстве биооружия.
- Генеральный директор Ginkgo Bioworks Джейсон Келли говорит, что ИИ не смог бы захватить лабораторию, поскольку люди могли бы отказаться предоставлять запрошенные вещества.
- В отчете Anthropic биологическое злоупотребление названо одним из самых серьезных рисков передовых моделей ИИ.
- Исследователи из Стэнфордского университета и Arc Institute в прошлом месяце показали, что ИИ может проектировать новые вирусные геномы.
Дилемма двойного назначения
Дэвид Беллами, научный сотрудник Института фундаментальных моделей в Саннивейле, Калифорния, не считает ИИ принципиально новой угрозой в создании биооружия. Научное сообщество десятилетиями решало, публиковать ли потенциально опасные биологические исследования, что известно как дилемма двойного назначения. До появления больших языковых моделей интернет, журналы открытого доступа и сервисы перевода, такие как Google Translate, облегчали доступ к биологической информации, включая лабораторные протоколы. Беллами говорит, что ИИ по сути является инструментом, который помогает как добросовестным ученым, так и злоумышленникам быстрее просматривать информацию и определять и находить протоколы.
Лабораторные барьеры
Настоящим узким местом, по словам Беллами, является процесс сборки вируса или другого биологического агента, а также сырье, оборудование и знания, необходимые для этого. Злоумышленнику потребуется получить необходимые фрагменты генов и собрать целый геном с нуля, затем проверить, что вирус может заражать людей, вызывать нужное заболевание и передаваться от человека к человеку. Роботизированные лабораторные ассистенты могут автоматизировать некоторые задачи и до определенной степени ускорить рабочие процессы, но человеку все равно понадобятся знания для проведения экспериментов и ресурсы для их осуществления. Джейсон Келли, генеральный директор Ginkgo Bioworks, считает маловероятным, что искусственный общий интеллект сможет захватить и распространить существующие патогены, не говоря уже о создании новых и их применении.
Эксперимент с ИИ в лаборатории
Ginkgo Bioworks специализируется на создании автономных лабораторий и недавно провела проект с OpenAI, в котором модель GPT-5 управляла лабораторией. Келли говорит, что ИИ не смог бы захватить лабораторию, отчасти потому, что работавшие внутри люди могли просто отказаться предоставить боту вещества и оборудование, которые он запрашивал для физического производства биооружия.
1 источник
Время · отставание