1. Hailuo Minimax
https://hailuoai.video/
2. Kling
https://klingai.com/
3. Sora от OpenAI
https://openai.com/sora/
4. Luma Dream Machine
https://lumalabs.ai/
5. Vidu
https://www.vidu.com/create
6. Pixverse
https://app.pixverse.ai/
7. Pika
https://pika.art/try
8. Runway Gen. 4
https://runwayml.com/
9. Wan от Alibaba
https://wan.video/
10. Veo3 от Google
https://deepmind.google/models/veo/
Сайты, где можно попробовать генерации на разных моделях
https://nim.video/
https://pollo.ai/
https://www.florafauna.ai/
Коллекция ИИ-видео:
https://www.reddit.com/r/aivideo/
Локальные модели
1. Hunyuan от Tencent
https://hunyuanvideoai.com/
https://github.com/Tencent/HunyuanVideo
2. Wan от Alibaba
https://github.com/Wan-Video/Wan2.1
https://github.com/Wan-Video/Wan2.2
3. MAGI-1 от Sand AI
https://sand.ai/magi
https://github.com/SandAI-org/MAGI-1
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Hunyuan Video: https://comfyanonymous.github.io/ComfyUI_examples/hunyuan_video/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Гайд для использования Wan 2.2:
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan 2.1: https://github.com/kijai/ComfyUI-WanVideoWrapper
Квантованные чекпоинты
Hunyuan Video (GGUF): https://huggingface.co/Kijai/SkyReels-V1-Hunyuan_comfy/tree/main
Wan 2.1 (GGUF): https://huggingface.co/city96/Wan2.1-I2V-14B-480P-gguf/tree/main
Wan 2.1 (NF4): https://civitai.com/models/1299436?modelVersionId=1466629
Где брать готовые LoRA
https://civitai.com/models
Hunyuan Video: https://civitai.com/search/models?baseModel=Hunyuan%20Video&sortBy=models_v9
Wan 2.1: https://civitai.com/search/models?baseModel=Wan%20Video&sortBy=models_v9
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Предыдущий тред
>>1329709 (OP)
Порог вхождения заключается в том, что эта хуйня тупо не работает.
Просто сыпет безконечные ошибки, которые никак не гуглятся.
Благо я вроде вдуплил, как в пинокио использовать этот лайтнинг просто в лоры его запихиваешь, и всё. Но надо тестить еще как оно с другими лорами будет работать.
Так что пока нахуй шизомакароны. Сидим дальше на wan2gp
1. Порог вхождения заключается в том что отсеивает таких криворуких как. Которые даже по гайдам не могут все нормально поставить и настроить.
2. Ставишь стендэлоун комфи и все прекрасно работает и не сыпит никакими ошибками. То что ты начал накатывать поверх ускорители и оптимизаторы совсем не разбираясь в теме это только твои проблемы.
3. Уже даже сделали гайд для даунов https://github.com/loscrossos/helper_comfyUI_accel как установить всю сажу с торчами и прочим буквально одной командой. Но нет это же надо базовую теорию знать, "Нахуй оно надо! Буду тыкать рандомные кнопки и обвинять комфи в том что я на нее не могу установить ускоритель своими кривыми пуками."
Да, мне слава богу снова пофигу на твои пидорчи, сам дрочи свои шизо инструкции. Сижу в веб интерфейсе, как белый человек, со всеми новыми лорами.
1. Вы можете мучаться сутки, пытаясь настроить кривое говно, а потом учиться пользоваться макаронами, генерируя видео за 1-2 минуты в отличном качестве с кучей лор.
2. Вы можете пользоваться программой, у которой совершенно нет никаких проблем и наслаждаться генерацией сразу из коробки за 20-30 минут на видео в дефолтном качестве без лор и без нихуя.
Выбор за вами, нервы ваши, интерфейс или говно макароны, получасовая генерация хуйни или минутная генерация того, что вам нужно.
У нас тут правильного ответа нет.
У нас тут только боль.
Приятного! =)
Только вот оказалось что wan2gp поддерживает новые лоры для 2.2.
Там просто нужно в параметрах поставить какой-то говношифр типа 1.0 0.1 и т.д. что бы оно понимало что в первой фазе грузить, что в другой. Случайно на реддите объяснение нашел.
Так что макаронники со своей лапшой соснули опять.
звучит будто соснул ты вводя какие то циферки которые макаронщики ввели месяц назад
Как там на wan2gp с созданием 20 секундных роликов с подключением каждые 5 секунд новой лоры? Как там с цветокоррекцией после каждого перехода?
Как там с созданием роликов когда надо взять из загруженного видео 78 кадр и продолжить генерацию с него? Как там с бесшовными склейками видео когда надо брать не 81 а 80 кадр чтобы кадры не повторялись?
Как там с созданием 100 роликов из 100 изображений, ручками каждое вставлять будешь и кнопочку жать?
Как там с использованием торча для 30хх моделей карт в ван 2.2?
Как там с использованием infinite talk вместе с лорами? Как там с s2v дела обстоят? Как там с tts моделями?
Это уже не говоря про дополнительный функционал в виде генерации картинок, редактирования и склейки видео, генерации множества лиц и эмоций из одного изображения для тренировки лор, генерации текстового описания изображения. И это только первое что в голову пришло. А функционала там до жопы и все это можно комбинировать.
Разобравшись в лапше можно настроить все под себя и потом прогонять видео 1 нажатием кнопки, получая именно то что тебе нужно, а не жрать что дают.
Разобравшись в лапше ты будешь иметь доступ с передовым новинкам индустрии, а не клянчить и ждать когда это запилят в wan2gp.
Я думаю тут понятно кто по факту сосет.
Ну давай. Покажи 20 секундный ролик с подключением новой лоры каждые 5 секунд. Крутой наверно ролик.
Ах да, вот еще пикрелейтед, как там дела с организацией лор?
Я например могу в каждую зайти посмотреть примеры, триггерные слова, быстро обновить если появилось обновление лоры на цивите, перейти на автора и прочее.
Да ни че ты не покажешь. Т.к. там склейки потешные видны между всеми сегментами и мыло. Что я их не видел что ли.
Давайте сделаем неболь просто и все. Боль потому что и те, и те - ждуны когда им зделоют.
Те кто ставил сажу, написали бы словами общий рецепт, по типу "надо чтобы торч совпадал с саже и надо брать тритон из <ссылка>".
Те кто сделал лоры, взяли бы и скинули скриншот из воркфлоу.
У кого работает недавний сетап из коробки, скинули бы откуда ставили.
И все решилось бы.
Вот я по ссылке выше вижу какой-то словесный понос неанглика, который можно свести к простым предложениям:
=== ЗДЕЛОЙТЕ МНЕ САЖУ В КОМФИ (попытка 1) ===
У тебя питон 3.12 и торч 2.8.0+cu129 --- как у всех(?), кто скачал комфи на днях.
Скачай файл:
https://github.com/loscrossos/crossOS_acceleritor/raw/refs/heads/main/acceleritor_python312torch280cu129.txt
Положи его в папку ComfyUI, там же запусти cmd/powershell (shift + правая кнопка по пустому месту в папке).
.venv\Scripts\activate
pip3 show torch
(выведет Version: 2.8.0+cu129, иначе отбой)
pip3 install -r acceleritor_python312torch280cu129.txt
=== вроде зделолось ===
Боль ушла. Все проблемы треда не в сложности области, а в шизоидности методик и мискоммуникации. Я заебись шарю, но и у меня полчаса ушло, чтобы размотать эти простыни галиматьи, которые этот идиот раскидал по трем репам. Идиот потому что нафаршировал своей шизой простой рецепт. Кстати не факт, что с этим его самосборным тритоном/етц на пекарне не начнется самосбор.
Линк поёбло разметкой:
https://github.com/loscrossos/crossOS_acceleritor/raw/refs/heads/main/acceleritor_python312torch280cu129.txt
Господи, слава тебе господи что у меня ван2гп, и мне не надо ни знать какой там питон, тритон, ультрон и человек факел, и не нужно вводить не единой команды в пердоль.
Просто нажимаешь на кнопочку и радуешься видосику. Как же хорошо.
И еще вот это добавить в конфиг
>>1345343
Так это только для ускорения через sage attention. Ей надо тритон, а на винде его официально нет. Если не надо - можно не делать. Мне просто стремно ждать дольше. Вот как раз бенч заканчивается:
640х640, 6 шагов, 65 кадров, 2 видео с холода
Без сажи, сек:
355, 288
С сажей, сек:
304, 236
х0.85, х0.82 времени. Было 4.8 минут, стало 3.9.
Ну ощутимо.
Но ебала, да.
Ясно.. Ну приду домой попробую обычный воркфлоу запустить из враппера.
Но если у он ошибку выдаст, то я больше никогда лапшу в жизни не запущу.
>если у он ошибку выдаст, то я
За это не переживай он после этого сам не запустится
У меня эта пидарасина не запускается, если я делаю в папке моделей линки через "mklink" команду вместо папок. При чем пока не перезагрузишь, она прекрасно видит модели из другой папки. Но стоит перезагрузить и всё. Программа тупо не стартует. Какого хуя ей надо непонятно.
Я щас вынес diffusion_models и loras в корень того же диска, сделал:
cd ComfyUI\models
mklink /J loras F:\loras
mklink /J diffusion_models F:\diffusion_models
Все запустилось, пошла генерация. Причем у меня outputs уже тоже /J линком было, на другой диск. Пробовать переносить модели уж не буду, другие диски не нвме.
Если так:
mklink loras F:\loras
You do not have sufficient privilege to perform this operation.
Надо права админа. Возможно когда создаешь линк под ним, то он наследует права, которых у комфи нет.
На схеме все верно. В логах чо-то может быть. Памяти в системе хватает?
ComfyUI\user\comfyui_8000.log
ComfyUI\user\comfyui_8000.prev.log
ComfyUI\user\comfyui_8000.prev2.log
Да походу оперативы не хватает(16 и 12врам)
OSError: Файл подкачки слишком мал для завершения операции. (os error 1455)
Как обойти?
Купить пеку вместо кофеварки? Для Вана минимум 64 ОЗУ и 16 врам. И это чтоб хоть как-то генерить, чтоб без боли - 96 ОЗУ и 24 врам.
И как твой wan2gp прилепить к этой пинокии ебаной?
А то охуенно выходит в мануалах. В один клик шоб установить и используйте Пиноккио. Все. Конец.
Ну увеличь подкачку. У меня 12 врам, 64 рам, более менее дефолтные воркфлоу жрут 40-50гб рамы включая винду. Но диск может ебаться записью, если переживаешь за такое, то мониторь. Ну и думаю будет медленнее, конечно.
нихуя. на 32 + 16врам тоже работает. или речь идет про ван22 ?
> или речь идет про ван22 ?
Кто-то до сих пор сидит на устаревшем 2.1?
64 честной рамы.
Но я еще фреймпак гонял, вот он уходил в подкачку, тотал в районе 96 показывает.
Надо было 128 брать, хуле пожалел копеек.
Щас все только растет и требования и цены.
>Изначально этой лоры не будет в элементе выбора, т.к. уи даунский. Так что придется открыть сайдбар Models, нажать кнопку обновить, зайти в loras, найти и перетащить нужную лору на две новые ноды. При следующем старте комфи ее уже можно будет менять/выбирать нормально.
Блин, а почему мне достаточно просто нажать на клавиатуре R после того, как я новую лору в папку закинул, и все появляется доступным для выбора? Никакой перезагрузки не нужно. Там же специально эта функция есть чтоб новое увидеть...
Вообще - я не понимаю претензий к comfy в данном треде. Если вам нужен однокнопочный инструмент - так и пользуйтесь таковым. Чего агриться на comfy, который изначально писался для того, чтобы иметь доступ в самые потроха SD генерации и все собирать вручную. Это, блин, самые прямые слова его автора - он изначально делал крайне специализированный инструмент под свой вкус и желания (а хотел он глубоко вникнуть в SD генерацию и разобраться - что там и для чего), а не для широкой публики. Просто оказалось, что таких - не он один. В общем - история как с пингвином. :)
Ныть на комфи за сложность - все равно, что открыть фотошоп, и ныть - что там всего так много, а тебе нужно только фото обрезать. Так для "только обрезать" - куча просмотрщиков с однокнопочным интерфейсом есть. Нахрен тебе фотошоп для этого?
В прочем, я и вертящих нос от других инструментов не понимаю. Вон, кому-то не нужны "макароны" - так это их личное дело. Есть у них другие инструменты, которые им подходят - и хорошо же. Разве нет?
Хуйня какая-то. Требует установить кучу хуйни. Почти все успешно, кроме py. Шо это за хуйня? Как фиксить?
Так я не за сложность ною, мне вся эта сложность понятна. Я на шестом редхате сидел (нет, не рхел). Просто обновление через R или драг дроп это не сложность, а тупняк. Достаточно поставить монитор на папки моделей/нод/инпутов и вызывать код хандлера R самому, это буквально три строки питона на весь проект-миллионник. Мне не надо, чтобы он мне зделол. У меня просто горит от такой тупой херни в 2к25. В однокнопочных тоже это все есть.
Днс уверяет что за 13, щас 15. Ну в целом норм, только про 4 планки пишут есть нюансы.
проебал перекат
Вангую что через пару лет сделают нечто подобное - графон в старых играх будет обрабатываться нейросеткой на лету делая ремастер из любой старой игры. Нвидия и так уже кадры обрабатывает и генерирует на лету, чуток еще осталось.
Блядь, да как вы устанавливаете это говно то? Выбираю этот ебучий ван в этом ебучем Пинокио, постоянно стопарится на 9/13 шагов с этим ебучим py...
> Те кто ставил сажу, написали бы словами общий рецепт
Ну я писал жи.
Там только легче стало.
Просто люди не разбираются, ленятся, игнорируют.
Сложно, да.
cd ComfyUI
python_embeded/python -m pip install triton-windows
python_embeded/python -m pip install ссылка на подходящую версию отсюда: https://github.com/woct0rdho/SageAttention/releases
Я хз, я раньше делал в две команды, но если ща завезли venv в комфи — не шарю, я просто обновляю старую сборку и все окэй работает.
Просто люди же никогда не читают треды, сразу влетают с вопросом и срут на всех, кто им отвечает.
Это база подобных тредов.
>>1345361
> Ей надо тритон, а на винде его официально нет.
Т.е., triton-windows — это не triton на windows, а jaba на linux, или как? Ладно, я не шарю, как ты скажешь.
>>1345487
Ну сделай файл подкачки 96 гигов. Но звучит как будто проще оперативу купить.
>>1345494
Нет, все что ты убавляешь влияет на твой «контекст» — разрешение и количество кадров. Оно всегда в видяхе, там от 4-6 гигов до 16. По сути-то видяхи даже на 6 гигов хватит для маленьких роликов. А вот сама модель весит дохуя.
Ну можешь убавить — качни gguf. Но там чем хуже квантизация, тем хуже качество, сам понимаешь.
>>1345533
У меня 128 чистыми и потребление до 70-80 доходит.
>>1345626
Как хочешь. Хоть въеби прямо в воркфлоу, хоть апскейл отдельным.
Я в прошлых тредах кидал где-то, поищи.
>>1345677
Вот честно — проверять такое вообще не хочется. Но когда я генерил на 32 гигах, там замедление было больше похоже на разницу между видеокарт. Так что, вероятно, не очень сильно скорость упадет.
Но хрен знает.
>>1345715
Майнкрафт такой уже сделали же. Oasis 2.
>>1345773
Зато само работает, из коробки, никаких макарон, видишь как легко и приятно, без багов!..
>>1345822
Первый прогон или повторные? Первый долго модель может грузить. Повторные могут быть быстрее.
Дело было не в бабине. Не клонировался ебучий git ебучего питона. С впн все пошло.
>Майнкрафт такой уже сделали же. Oasis 2.
Нет же, этот оазис это полностью генерируемый видеоролик в нем нет основы. Это отдельная модель тренированная на видеороликах по манкрафту и им же подобным.
А лол не следил они мод для майнкрафта сделали
Я говорю про иной менее затратный подход - Ты запускаешь на компе любую старую игру, открываешь панель нвидия, ставишь галочку AI.Remaster и она начинает на выход давать тебе уже обработанные нейросеткой кадры вместо настоящих. Можно там же в панели будет настроить стили: реалистичный мультяшный, хорор и прочее.
>Первый прогон или повторные?
Повторные. Но у меня и озу всего 32гб
>triton-windows — это не triton на windows, а jaba на linux, или как
Это отдельный чел сам собрал его, потому что его тоже заебала эта мышиная возня политик кто куда что официально собирает. Которой в питонокультуре, и особенно в мл, очень много. Мы по сути доверяем какому-то васяну, пусть он и популярен на реддите. А не самому оригинальному тритону или его версии в оф.репах.
Все строки https://github.com, которые ты видишь в requirements.txt - это пакеты васянов.
О, это классика!
Матерюсь на гит в среднем раз в три недели.
>>1346072
Не, понятное дело.
Еще показывали концепт виара, где твоя квартира стилизуется под текстовое описание — средневековье там, футуризм. Выглядит классно.
Да, что-то такое вполне может быть.
>>1346205
Грустноватое.
А 4-степ лора стоит?
А что за видяха?
>>1346215
Да, доверяем васянам, так и есть. Тут даже и сказать больше нечего, база.
> виара
AR'а, простите
Это pass-through на квесте 3 или аналогах.
> А 4-степ лора стоит?
Стоит. Но на 4 шагах видео превращается в кашу
> А что за видяха?
4070Super
Я вчера в ван2гп тестил эту лору вместе с general-nsfw лорой для 2.2.
И вроде норм получается. На 6 степов без лоры получается каша, и рандомное дерганье, а с ней движения очень четкие, даже не смотря на то, что картинку я закинул очень специфического харатера, и лора нсфв явно не на таких видосах тренилась. Но всё равно оно идею круто подхватывает.
Тот же флоу, но на изображениях работает нормально, так же флоу работает если не прикручивать этап Masking Helper.
4090-24. Что приделать или где прикрутить, чтобы оно типа выгружало в оперативку или ещё какимто образом?
Реактор это кал, сомневаюсь в адекватности результата. Разбивай на отдельные пики, а не батчем весь видос обрабатывай.
А зачем? Тут принято словам верить, чем больше текста, тем сильней вера.
Как именно "пакетные" ребра передают инпуты в ноду? Создается куча параллельных задач по ноде, или нода изначально работает с мульти-инпутами? Если первое, то как их ограничить или заставить выгружать результаты из врама? Если второе, то почему нода внутри не учитывает, что ей может не хватить врама, и сама не выгружает один за другим? Где такие настройки?
Судя по коду маск-ноды на гх, она принимает ровно одну пикчу, а в конце чистит куда кеш, то есть работает как положено. В комфи есть batch и rebatch ноды. Это оно? Типа в них можно сунуть выхлоп экстрактора и они будут по одной пикче кормить реактор-пайплайн?
Где вот это читать? В доках хуй с нихуем, просто какие-то общие концепции для хомяков. Аи вообще нихрена не рубит, во втором посте скатывается. Откуда вот вы это все узнали, что мы якобы ленимся просто прочитать?
The RebatchImages node is designed to reorganize a batch of images into a new batch configuration, adjusting the batch size as specified. This process is essential for managing and optimizing the processing of image data in batch operations, ensuring that images are grouped according to the desired batch size for efficient handling.
Ну ок, очень похоже на оно. А как на это выйти? Не перебором же нод. Есть какой-то дизайн овервью документ по такой херне в комфи?
Конкретного порядка выполнения нод нет. Как попало выполняются ноды, кэшируют свои аутпуты, потом они передаются следующим нодам.
> заставить выгружать результаты из врама
Есть ноды для выгрузки моделей в определённый момент воркфлоу, например перед/после семплера.
> нода внутри не учитывает, что ей может не хватить врама, и сама не выгружает один за другим
Выгружает, но через жопу. Выгрузит только если для весов не хватает памяти. А для выполнения модели он не умеет нормально рассчитывать необходимую память и падает в ООМ.
> Это оно?
Тебе надо "батч в лист", тогда список пикч будет по одной проходиться, но всё от ноды зависит. В худшем случае сохраняй кадры на диск, а потом бери ноду для загрузки циклом по одному пику из папки.
Пожалуйста дайте лору и промт на данные видео.
Так-то бы похуй, но я хочу генерить другие видева параллельно на остальных 3090, если вторую система еще осиливает, то третья уходит в своп и все повисает намертво.
Щас вот поглядел, нашел какую-то ноду Garbage Collector, может поможет.
Еще вопрос, сколько у вас на 3090 генерятся видосики? Я использую Q8 ггуфы, на 30 секунд уходит в среднем 28 минут на паверлимитной до 290 Вт. (44 секунды на первый шаг и по 24 с на остальные с лайтнинг лорами)
> что дальше?
Генерить.
>Как быстро сделоть порно как у вас не разбираясь
Поставь https://www.comfy.org/download
Добейся, что хоть как-то заработал шаблон Video / WAN 2.2 14B Image to Video.
Поставь плагин: File - Manage Extensions - ComfyUI-VideoHelperSuite.
Скачай видео и кинь его мышкой в центр комфи - откроется воркфлоу (вф) из видео.
Внутри найдешь подключенные лоры, типа wan_cumshot_i2v.safetensors, промпты.
99% лор тут https://civitai.com/search/models?baseModel=Wan%20Video&sortBy=models_v9
Положи их в comfyui\models\loras, в комфи нажми слева Models - кнопка обновить.
По примеру вф из видео добавь лоры в свой вф, добавь ключевые фразы в промпт.
Каждую лору надо два раза, в разрыв перед нодами ModelSamplingSD3, для хай и для лоу этапов.
В твоих видео тоже будет вшит вф.
У тебя названия буквально вшиты в видео. Просто перетащи в комфи или ctrl+o. Если ты именно про ссылки, тогда сорян.
>>1347668
>Поставь
>Добейся, что хоть как-то заработал
Проиграл с этого гайда.
>99% лор тут
>цивитопараша с которой удаляют что-либо сексуальное
Гайд уровня нарисуйте круг - дорисуйте сову, только ещё и затянутый. Кто ДОБИЛСЯ, у того итак работает, у кого не работает, это никак не поможет. Ну, чтобы законтроллить наплыв хуесосов и кончеглотов, реально можно сделать один пастебинчик или даже markdown со скринами голой установки.
>ComfyUI-VideoHelperSuite
Без него рили не читает вф из видео?
Странная хуйня, видосы, сохраненные через create-save video не палят метадату даже через сайты экстракторы, но комфи находит в них вф. VHS нода тупо в Comments хранит мету.
https://huggingface.co/ApacheOne/WAN_loRAs
Ля, что нашёл. Что-то есть на civitaiarchive.com. Знаете ещё ссылки куда новое заливают?
> у меня 3090 и все работает в видеопамяти
> wan 2.2
2 модели по 13 гигов в 8 кванте или по 26 в fp16.
Контекст еще вытесняет, если высокое разрешение.
В оперативе лежат обе, чтобы быстро грузить в видяху, а не каждый раз с диска.
Я пишу гайд исходя из пререквизитов. Что комфи установился, что юзер догадался скачать предложенное, что хватает железа. Шаг запуска базового шаблона - воспроизводимый, приводи он к ошибке или успеху. Нет смысла траблшутить его в гайде "как обкончать еотову".
Мне лично гайды полезны для снятия чувства, что что-то не так делаешь. Потому что без этого вектора я как раз таки могу копать до рассвета, хотя проблема была в "у тя не стоит расширение".
Без плагина не читало, как ни пробовал. Так можно вынуть без комфи:
ffprobe -v quiet -show_format -show_streams video.mp4 > video.txt
...
[FORMAT]
...
TAG:comment=<вот это>
[/FORMAT]
Вот нахуй мне это знание
>цивитопараша с которой удаляют что-либо сексуальное
Скинь где не удаляют.
>Ля, что нашёл.
ЖЖ лебедева не нашел? Он кстати датамайнингом занимается. Удачи.
>сколько у вас на 3090 генерятся видосики
сильно зависит от разрешения и воркфлоу, когда вф на длительные ролики то дольше - где то 2 минуты на 3 шага, когда вф на 5 секунд - 1 минута на 3 шага.
>Q8 ггуфы
зачем они нужны на 3090?
Алсо, когда я меняю что-то в ноде, это тоже не обновляется без перезапуска. Чет кто-то мне наврал с три короба про R.
>>1348244
Потому что R - это для обновления списка моделей, а ноды грузятся только раз, при старте. Это же, блин, код - который нужно проверить, и связать с остальным кодом.
А что ты предлагаешь использовать? 8-й квант по качеству почти как fp16, и влезает целиком. Я пробовал fp8 scaled, с ним хуже
>>1347891
Вчера попробовал запускать с --cache-none . Мой самодельный вф внезапно перестал жрать, а вот сабграфовый все равно жретЬ.
Я седня поглядел сабграфовый, там загрузки моделей незнакомыми мне нодами делаются, думаю дело в этом.
>>1348173
Я хз че именно тебе нужно, я юзаю этот по дефолту.
>>1334306 →
Иногда добавляю лор или заменяю на повер ргсри как там его.
fp16 = 4 степа хорошего качества.
При желании сэкономить оперативу, можно установить ComfyUI-GGUF и грузить Q8_0 модели с помощью Unet Loader (GGUF).
Ну вроде все чики-пуки, я хз.
Первое это модуль, превращающий текст, который ты водишь, в понятный для модели форма.
2 и 3 это, грубо говоря, движок все этого.
4 и 5 это моды на движок, которые ускоряют генерацию.
Тут вопрос в том, какая у тебя видеокарта, и если там не 24+гб врам, то тебе нужны иного формата движки.
У меня 3080/10гб и 32рам
Есть список что нужно докачать под такое железо, поделись пожалуйста.
> 10врам
Ух, тяжело будет. В общем, тебе нужны файлы квантованные .gguf формата.
https://huggingface.co/bullerwins/Wan2.2-I2V-A14B-GGUF/tree/main
Вот, к примеру. Можешь попробовать Q3, но там уже обычно заметная деградация, поэтому советуют Q4.
Целиком и не нужно, комфи будет загружать кусками из ОЗУ/свопа.
3090 fp16 должна переварить без особых проблем.
Потести Q8 и fp16, сравни по скорости и качеству - сделай свой выбор.
Зачем ему другие-то?
Он даже fp16 может качать, в видео-нейронках размер видеопамяти на запуск моделей влияет лишь немного по скорости.
От размера зависит только разрешение и количество кадров.
>>1348399
Как я писал выше — лучше или fp16, или Q8_0 GGUF. fp8_scaled по качеству так себе от Комфи.
У тебя оперативы мало — это немного проблема.
А вот 10 врама только большое разрешение не поставишь и все. На остальное пофиг, не парься и не слушай людей, кто говорит иначе.
>>1348434
Да модели вообще можно в оперативе держать. =) Тебе вообще не надо, чтобы модель лезла в видяху, кроме как ради некоторой дополнительной скорости. =)
Ути мой хороший, хоть кто-то знает правильный ответ, душу мою греешь. =3
> или Q8_0 GGUF. fp8_scaled по качеству так себе от Комфи
В чём проблема юзать киджаевский? Зачем отдавать половину производительности на гуфы, которые даже хуже fp8?
>половину
процентов 10-15
>хуже fp8
fp8=Q4(KM)
начиная с Q5 потерь по качеству меньше чем в фп8
Если это сарказм, то я его не выкупил. Если нет - учусь лучшему ИТТ =)
Без лоры генерация 20 минут
С лорой невозможный слоумо кал убивающий весь смысл апгрейда
Хоть опять на 2.1 откатывайся
> процентов 10-15
С фастом fp8 быстрее в два раза.
> fp8=Q4(KM)
Нет, с fp8 только q8 может сравниться, q6 уже дико сосёт, q4 совсем поломаные.
>>1348646
Значит у тебя переключение на лоуноиз-модель слишком поздно или 4-шаговые лоры со слишком низким весом. Либо промпты говно. Наоборот часто приходится бороться со слишком быстрой скоростью и тряской.
Сравниваешь время файла, выкидываешь старую ноду из списка, importlib.reloadишь новую. Модули нод и воркфлоу устроены так, что проблемы нет. Просто тупо не сделано, и все нодописатели ебутся перезагружают комфи каждый раз.
>нужно проверить, и связать
Хендвейвинг несуществующей проблемы. Питон парсит файл, запускает, возвращает объект модуля, как с любым другим импортом. Нет никакой разницы между импортом одного, импортом другого и импортом первого повторно, при условии что модуль не пишет в глобалы/етц. В наихудшем случае можно просто грузить как "имямод_N".
Алсо, хули харкач недоступен
Что это должно сказать нюфагу? По мне так первая строка самое норм.
У тебя только вчера глазки прорезались, нюфаг, бля?
Совсем одебилили уже.
А в чем там разница, на всех видосах одинаковая переконтрастная нейрохуета
Попугай летит, вот и всё движение. Или ты думаешь что ирл попугаи не могут летать по разным траекториям?
Да-да, как же ОХУЕННО он летит на q6. Сам найдешь нужный квадратик?
Нахуй ты так коупишь убого, дегенерат?
Че быкуешь, бля? Себе глаза протри от чо там у тебя налипло.
>По мне так первая строка самое норм
>>1348881
>Да-да, как же ОХУЕННО он летит на q6
>Плот одним сидом
С тебя вопросы сняты
Нет, просто позволяет меньше шагов. Если начинаются блуры или кадры распадаются, играй шагами, например 3+3, 4+2, 4+4.
нормально он летит, просто хариер косплеит, попугай вертикального-взлёта и посадки
Вообще-то там четко видно, что он за пандой крыльями махнул, придал себе ускорение и полетел, так что всё норм.
Разговор был про сравнение обычной и квантованных модели, псина тупорылая. Там показана разница. Хули еще там тебе надо увидеть?
vram не полностью загружается, 65% примерно
Я объясню, чисто ради других анонов. Плот с единичным роллом на разных квантах/файнтюнах почти ни о чем не говорит. Если бы это была заведомая avg выжимка из большего плота с разными сидами и небольшим ходом по весам лор и кфг, то можно было бы делать выводы, даже не проверяя источник. Без этого это просто одноразовый высер. Он может отражать действительность, а может не отражать, особенно сложно это сказать на таких схожих результатах. И также без опыта сложно сказать, на что именно смотреть, потому что у просеров моделей/квантов (vs просто бэд ролов и недотяга параметров) в разных областях бывает свой выраженный профиль. Отсюда и вопрос. Я может новый в i2v, но у меня два года своих лор в t/i2i, и твои клюелесс вихляния выдают непонимание темы.
>Хули еще там тебе надо увидеть?
Стоит ли доверять словам/имплаингам, или списать это в маняанализ.
Я бы подождал до релиза 5070ТиСупер, который будет с 24гб врам. Ориентировочная дата выхода - январь февраль.
12гб это очень мало, честно говоря. А у 5060ти чип слабенький.
В любом случае будешь страдать. На 16 гигах будешь страдать от нехватки памяти и квантов, на 3090 будешь страдать от низкой скорости и тоже нехватки памяти, т.к. на 24 гигах в q8/fp8 всё ещё надо свапаться. Сто раз уже говорили, в Ване жизнь начинается только на 5090. Всё остальное сорта компромиссов и ты выбираешь от чего будешь страдать.
Тут скорее всего использовался один и тот же сид + включены детерминисткие алгоритмы, чтобы протестировать одну и ту же генерацию на разных квантах. Поэтому эталон тут фп16 и надо сравнивать, насколько аутентично другие кванты ему соответствуют. Конкретно тут центральный самый крутой, за ним Q8. e5m2 что-то говнецо, но из fp8 квантов только он доступен для 3090 бомжей, т.к. e4 вычисления только с 4090 работают.
С другой стороны, есть какие-то e5m2 v2, см https://huggingface.co/Kijai/WanVideo_comfy_fp8_scaled
Я сейчас качнул их вместо восьмого кванта, въебал fp16 accumulation и получил 44->31 s/it, 24->17 s/it для шагов без и с лайтнинг лорой соответственно. Без fp16 accumulation 44->37 s/it, 24->20 s/it. Мне кажется, что аккумуляция как-то проебывает точность промта, но еще попробую погонять, конечно. По итогу с аккумуляцией и отключенным кешем видосик генерится 190 секунд (отключаю кеш т.к. на нескольких картах сразу запускаю).
Еще можно компилировать модель, но чет это мне прироста нихуя не дает, кроме затрат на ожидание компиляции, собственно
> e4 вычисления только с 4090 работают
Это с fast. Без него всё работает на старых, потому что fp8 кастится в fp16.
> fp16 accumulation
На блэквеле это говно мало того что качество роняет, так ещё и медленнее чем без него. Оно наверное актуально только на старых картах, максимум на Амперах.
> компилировать
Оно снижает нагрузку на ЦП, если в ЦП не долбится, то ничего и не получишь. Это для XL актуально, где модель мелкая.
>Это с fast. Без него всё работает на старых, потому что fp8 кастится в fp16.
Попробую, спасибо. В общем, сейчас потестил - аккумуляция пидорит мелкие детали вроде рук и глаз, особенно в быстрых движениях. e5 тоже немного пидорит. Так что из всего этого восьмой квант самый хороший. Попробую скачать е4 потом и потестить по сравнению с 8-м.
на масседкомпут а6000 0,41/час, L40 0,65/час, rtx pro 6000 96 gb 1,47/час
заранее всё заготовил, по бырому прогнал, без мозгоебения
>>1330828 →