Исследователи MIT CSAIL обнаружили затухание атрибуции при масштабировании диффузионных моделей
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Исследователи MIT CSAIL обнаружили, что по мере масштабирования диффузионных моделей отдельные обучающие примеры оказывают всё меньше измеримого влияния на результаты; это явление названо «затуханием атрибуции». Результат создаёт проблемы атрибуции для авторского права, аудита и регулирования ИИ.
Ключевые факты
- Исследователи MIT CSAIL называют явление «затуханием атрибуции»: чем больше данных использует диффузионная модель и чем она крупнее, тем меньше влияние отдельных обучающих примеров.
- В экспериментах удаление исходных изображений из обучающих наборов не меняло выходные данные модели при достаточном масштабе.
- Ведущий автор Чжэн Дай отметил в блоге MIT, что если удаление фрагмента данных не меняет результат, значит, этот фрагмент не влиял на результат.
- Stability AI и Midjourney являются ответчиками по продолжающемуся коллективному иску художников в федеральном суде Калифорнии, где утверждается о несанкционированном использовании миллиардов изображений.
- Getty Images частично выиграла претензии по товарным знакам против Stability AI в Высоком суде Англии и Уэльса, поскольку некоторые ИИ-изображения напоминали её работы.
Затухание атрибуции
Исследователи MIT CSAIL провели серию сценариев «что если», заменяя обучающие наборы, чтобы проверить влияние на изображения при полном удалении исходных данных. При достаточном масштабе удаление любого отдельного фрагмента данных не меняло результаты модели. Чем больше данных использует диффузионная модель и чем она крупнее, тем меньше влияние отдельных входных данных — это явление исследователи называют затуханием атрибуции. Ведущий автор Чжэн Дай заявил в блоге MIT, что если удаление фрагмента данных не меняет результат, значит, этот фрагмент не влиял на результат. Современные генеративные диффузионные модели воспроизводят статистические закономерности крупных обучающих наборов для создания изображений, видео и аудио.
Авторские права и судебные иски
Stability AI и Midjourney являются ответчиками по продолжающемуся коллективному иску художников в федеральном суде Калифорнии. Истцы утверждают, что модели без согласия используют миллиарды их защищённых авторским правом изображений. Getty Images подала иски против Stability AI в Высоком суде Англии и Уэльса; эти иски были отклонены, однако Getty частично выиграла претензии по товарным знакам, поскольку некоторые ИИ-изображения напоминали её работы. Исследователи написали, что разработка метода атрибуции результатов влиятельным обучающим данным значительно продвинула бы понимание и регулирование этих моделей.
2 источника
Исследователи MIT CSAIL обнаружили затухание атрибуции при масштабировании диффузионных моделей
