MIT CSAIL зерттеушілері диффузиялық модельдерді масштабтау кезінде атрибуцияның өшуін анықтайды
Материал бірнеше дереккөз негізінде жасанды интеллектпен дайындалды — түпнұсқаларға сілтемелер төменде.
MIT CSAIL зерттеушілері диффузиялық модельдерді ауқымдаған сайын жекелеген оқыту мысалдарының нәтижеге өлшенетін әсері азаятынын анықтады; бұл құбылыс «атрибуцияның өшуі» деп аталды. Бұл нәтиже авторлық құқық, аудит және AI реттеу үшін атрибуция проблемаларын тудырады.
Негізгі фактілер
- MIT CSAIL зерттеушілері бұл құбылысты «атрибуцияның өшуі» деп атайды: диффузиялық модель қаншалықты көп дерек пайдаланса және қаншалықты үлкен болса, жекелеген оқыту мысалдарының әсері соншалықты аз.
- Эксперименттерде оқыту жинақтарынан бастапқы кескіндерді алып тастау жеткілікті ауқымда модельдің шығыс деректерін өзгертпеді.
- Жетекші автор Чжэн Дай MIT блогында егер деректер фрагментін алып тастау нәтижені өзгертпесе, онда бұл фрагмент нәтижеге әсер етпегенін білдіретінін атап өтті.
- Stability AI мен Midjourney Калифорния федералды сотында суретшілердің жалғасып жатқан ұжымдық талап-арызында жауапкер болып табылады, онда миллиардтаған кескіннің рұқсатсыз пайдаланылғаны айтылады.
- Getty Images Англия мен Уэльс Жоғарғы сотында Stability AI-ге қарсы тауар белгілері бойынша талаптарды ішінара жеңіп алды, өйткені кейбір AI-кескіндер оның жұмыстарын еске түсірді.
Атрибуцияның өшуі
MIT CSAIL зерттеушілері бастапқы деректерді толық алып тастаған кезде кескіндерге әсерін тексеру үшін оқыту жинақтарын ауыстырып, «егер не болса» сценарийлерінің сериясын жүргізді. Жеткілікті ауқымда кез келген жеке деректер фрагментін алып тастау модельдің нәтижелерін өзгерткен жоқ. Диффузиялық модель қаншалықты көп дерек пайдаланса және қаншалықты үлкен болса, жеке кіріс деректерінің әсері соншалықты аз — бұл құбылысты зерттеушілер атрибуцияның өшуі деп атайды. Жетекші автор Чжэн Дай MIT блогында егер деректер фрагментін алып тастау нәтижені өзгертпесе, онда бұл фрагмент нәтижеге әсер етпегенін білдіретінін мәлімдеді. Қазіргі генеративті диффузиялық модельдер кескіндер, бейнелер мен аудио жасау үшін үлкен оқыту жинақтарының статистикалық заңдылықтарын қайта жасайды.
Авторлық құқықтар және сот талап-арыздары
Stability AI мен Midjourney Калифорния федералды сотында суретшілердің жалғасып жатқан ұжымдық талап-арызы бойынша жауапкерлер болып табылады. Талапкерлер модельдер олардың авторлық құқықпен қорғалған миллиардтаған кескінін келісімсіз пайдаланады деп мәлімдейді. Getty Images Англия мен Уэльс Жоғарғы сотында Stability AI-ге қарсы талап-арыздар берді; бұл талаптар қабылданбады, алайда Getty тауар белгілері бойынша талаптарды ішінара жеңіп алды, өйткені кейбір AI-кескіндер оның жұмыстарын еске түсірді. Зерттеушілер нәтижелерді ықпалды оқыту деректеріне жатқызу әдісін әзірлеу осы модельдерді түсіну мен реттеуді айтарлықтай ілгерілетер еді деп жазды.
2 дереккөз
MIT CSAIL зерттеушілері диффузиялық модельдерді масштабтау кезінде атрибуцияның өшуін анықтайды
