Введение в DMD
Дистилляция моделей диффузии стала мощной техникой для создания эффективных генераторов с небольшим числом шагов. Среди них выделяются методы, основанные на соответствие распределений (DMD) и их вариации, которые показывают впечатляющие результаты благодаря механизму сопоставления выходного распределения студента с распределением предварительно обученной модели-учителя.
Переосмысление традиционных подходов
В данной работе мы ставим под сомнение общепринятое понимание DMD. Путем тщательного разложения цели обучения DMD мы показываем, что в сложных задачах, таких как генерация изображений по тексту, где обычно требуется CFG для желаемой производительности, основной движущей силой дистилляции с небольшим числом шагов является не соответствие распределений, а ранее не замеченная компонента, которую мы называем Увеличением CFG (CA).
Роль Увеличения CFG
Мы демонстрируем, что этот термин выполняет функцию основного «двигателя» дистилляции, в то время как термин Соответствие Распределений (DM) выступает в роли «регулятора», который обеспечивает стабильность обучения и уменьшает артефакты.
Проверка разделения компонентов
Мы дополнительно подтверждаем это разделение, показывая, что хотя DM является эффективным регулятором, он не является уникальным; более простые непараметрические ограничения или цели, основанные на GAN, могут выполнять ту же функцию.
Материал носит информационный характер и не является профессиональной консультацией. Часть материалов издания готовится с использованием нейросетевых инструментов и проверяется редакцией по первоисточникам — подробнее в пользовательском соглашении. Нашли неточность или считаете, что материал нарушает ваши права — сообщите редакции, обращения рассматриваются в течение суток.