Устанавливаем модель генерации изображений Stable Diffusion 3 на ComfyUI

Устанавливаем модель генерации изображений Stable Diffusion 3 на ComfyUI

Модель Stable Diffusion 3 вышла вчера, 12 июня, сама модель SD3 Medium и примеры конфигурации были опубликованы в тот же день на Hugging Face. Попробовать модель пока можно только в ComfyUI и вот небольшая инструкция, как это сделать.

  • Устанавливаем ComfyUI по инструкции
  • Регистрируемся на Hugging Face, иначе у вас не будет доступа к репозиторию модели. После этого логинимся, заходим в репозиторий и принимаем пользовательское соглашение.
  • Скачиваем файл модели sd3_medium_incl_clips.safetensors или, если позволяет объем памяти вашей видеокарты, sd3_medium_incl_clips_t5xxlfp8.safetensors. Разница между моделями в том, что первая содержит в себе сразу два текстовых энкодера (OpenCLIP-ViT/G, CLIP-ViT/L), а вторая дополнительно содержит третий энкодер (T5-xxl). Его можно добавить позднее, положим в папку ComfyUI\models\clip, но можно обойтись и без него только первыми двумя.
  • Кладем .safetensors файл в папку ComfyUI\models\checkpoints.
  • Загружаем пример потока генерации для ComfyUI sd3_medium_example_workflow_basic.json. Вы также можете загрузить пример с мультипромптом и ресайзом изображения.
  • Запускаем ComfyUI,
  • Нажав на Load, загружаем json файл с примером workflow.
  • Отсоединяем линки от блока TripleCLIPLoader.
Устанавливаем модель генерации изображений Stable Diffusion 3 на ComfyUI
  • Щелкнув на желтую точку clip у CLIP Text Encode (Prompt) и CLIP Text Encode (Negative Prompt) тянем от них линию и подключаем линк к точке CLIP у Load Checkpoint.
Устанавливаем модель генерации изображений Stable Diffusion 3 на ComfyUI
  • В Load Checkpoint выбираем модель sd3_medium_incl_clips.safetensors.

  • В Seed ставим Control after generate в randomize, вводим промпт, нажимаем на Queue Prompt и наслаждаемся возможностями новой модели.

На моей домашней Nvidia RTX 4060 с 8 Гб видеопамяти генерация идет со скоростью 1.35 - 1.4 итераций в секунду и на картинку 1024x1024 с 30 итерациями уходит около 25 секунд.

Начать дискуссию