Google DeepMind представила водяной знак SynthIDBio для белков, созданных ИИ
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Исследователи Google DeepMind разработали систему водяных знаков SynthIDBio, которая встраивает скрытую статистическую подпись в белки, созданные ИИ, не нарушая их функцию. Метод, описанный в Nature, призван отличать машинно-сгенерированные белки от природных в биологических базах данных. Водяной знак можно удалить, пропустив белок через другой инструмент проектирования, что ограничивает его эффективность как самостоятельной меры защиты.
Ключевые факты
- SynthIDBio встраивает статистическую подпись в аминокислотную последовательность и 3D-структуру белков, созданных ИИ.
- Водяной знак можно удалить, пропустив белок через другой инструмент проектирования, что скрывает его синтетическое происхождение.
- Компании по синтезу ДНК могут использовать систему для выявления белков, созданных ИИ и ускользающих от проверок на основе последовательностей.
- Тесса Алексанян, ранее работавшая в International Biosecurity and Biosafety Initiative for Science, считает водяной знак одним из инструментов многоуровневой биобезопасности.
Технология водяных знаков
SynthIDBio заимствует метод, уже используемый для идентификации контента, созданного ИИ, в изображениях, видео, аудио и тексте. Система вплетает слабый статистический маркер в аминокислотную последовательность и 3D-структуру белков, спроектированных компьютером. Водяной знак не оказывает заметного влияния на функцию белка, согласно статье в Nature.
Применение в биобезопасности
Компании, синтезирующие ДНК на заказ, регулярно проверяют последовательности на известные токсины и белки патогенов. Белки, созданные ИИ с новыми последовательностями, могут избегать скрининга по референсным базам данных, даже если выполняют схожие функции. Стеф Герра, специалист по биобезопасности из RAND, отмечает, что водяные знаки могут поддерживать инновации и воспроизводимость, одновременно обеспечивая преимущество в безопасности.
Ограничения и многоуровневая защита
Молекулярный штамп можно стереть, пропустив помеченный белок через другой инструмент проектирования. Тесса Алексанян описывает водяной знак как один из инструментов многоуровневой системы защиты от биологических угроз. Алексанян и коллеги предлагают проверять не только совпадение последовательностей, но и биологическую функцию.
1 источник
Время · отставание