这个系列的评论区被问得最多的不是数据,是“怎么跑起来”。之前的文章给了性能数字:单卡 4 步 LoRA 口径 768p/5s 只要 75 秒,双卡满血口径一条 5s 约 9.3 分钟——但数字背后的复现路径散落在不同文档里。
这篇把它们收拢成一个可直接动手的手册:模型权重在哪下、容器镜像怎么选、双卡启动命令长什么样、turbo 工作流怎么提交,全部给出实测跑通的配置。跟着做,你能在自己的环境里复现这个系列的全部数字。
H3 的部署有两条技术路线,速度和质量取舍不同,先确认你要哪条:
项 | 口径一 · 4 步 LoRA turbo | 口径二 · 50 步完整去噪 |
|---|---|---|
采样步数 | 4 步(LoRA 加速) | 50 步,原生完整链路 |
部署框架 | ComfyUI | sglang 原生服务化 |
模型形态 | int8 量化 DiT + turbo LoRA | BF16 全量权重 |
单卡 768p/5s | 75 s | 只能勉强承载,10s 起 OOM |
适用场景 | 批量出片、速度优先 | 质量优先、多卡满血 |
质量优先选口径二,注意满血链路下多卡是刚需;速度优先选口径一。两条路线的权重和镜像下面分别给。
组件 | 说明 | 获取渠道 |
|---|---|---|
H3 全量权重(口径二) | BF16 全量,约 41 GB,含 transformer / 文本编码器 / 双 VAE | |
H3 ComfyUI 生态版 | VDN 打包版,DiT / VAE / 文本编码器齐备 | |
turbo 4-step LoRA | fl2va 用 v1.0 版;ref2va 用 v0.1 版,勿混用 | HuggingFace,各镜像 loras/ 目录已内置 |
文本编码器 | qwen3vl NVFP4/AWQ,约 15.7 GB | 镜像内置 |
FlashVSR 超分 | v1.1(Wan2.1-1.3B DiT + TCDecoder),bf16 |
镜像托管在共绩算力镜像仓库(harbor.suanleme.cn),按场景选:
镜像 tag | 精度 / 环境 | 适用场景 |
|---|---|---|
h3-comfyui-max-bf16:20260904-cu129-rc1 | BF16 / CUDA 12.9 | 质量优先满血版,ref2va 场景 |
h3-comfyui-pro:20260902-cu129-rc1 | int8 / CUDA 12.9 | 速度优先:720p/15s 约 250s |
flashvsr:1.1-5090-fat | bf16 / 5090×2 | FlashVSR API (FastAPI :8000) |
h3vsr-merge:0.1.4-5090 | int8 turbo + RTX VSR | 合并镜像:单卡跑通 768p→2K 全链路 |
通用配置:ComfyUI API 端口 8188,comfyui-api 接口层端口 3000,启动命令 python main.py --listen 0.0.0.0 --enable-cors-header "*",健康检查与队列状态接口已内置。
官方在 2×RTX 5090 上的容量优先配置实测通过:TP2 张量并行、20 个 DiT 常驻层、50 步,5s 视频总耗时约 559.67 秒,采样峰值约 26.3 GiB/卡。主机内存建议 384 GiB 级(实测 377 GiB 承载权重共享):
export MODEL_DIR=/mnt/nvme1/models/MiniMax-H3export CUDA_VISIBLE_DEVICES=0,1
sglang serve \ --model-path "$MODEL_DIR" \ --model-variant fl2va \ --num-gpus 2 \ --tp-size 2 \ --ulysses-degree 1 \ --encoder-parallel auto \ --performance-mode memory \ --layerwise-offload-components dit,text_encoder,vae \ --dit-offload-prefetch-size 1 \ --dit-layerwise-resident-layers 20 \ --enable-torch-compile false \ --host 0.0.0.0 \ --port 30010三个要点:
- layerwise 放置是无损的(lossless)——只改参数放置和传输调度,不改去噪数学,所以 559 秒跑的是满血质量
- prefetch 从 1 改 2 几乎无收益,显存峰值反而升到 27.5 GiB,别改
- 20 层常驻是 TP2 配置的调优值,不能照搬到单卡
官方部署参考见 SGLang Cookbook · MiniMax-H3。
用 ComfyUI API(:8188)的 POST /prompt 提交。关键纪律:SigmaShift 节点的 shift_video=12.0 / shift_audio=3.0 是 turbo 专用参数,不要动;步数固定 4 步,手动加步数不会提升画质只会更慢。CFG=1.0 意味着无需 negative 分支,用五节点链(RandomNoise → BasicGuider → KSamplerSelect → BasicScheduler → SamplerCustomAdvanced):
{ "10": {"class_type": "UNETLoader", "inputs": { "unet_name": "minimax_h3_fl2va_pruned_int8_convrot.safetensors", "weight_dtype": "default"}}, "11": {"class_type": "LoraLoaderModelOnly", "inputs": { "model": ["10", 0], "lora_name": "minimax_h3_fl2v_turbo_4step_v1.0_768p_comfyui_bf16.safetensors", "strength_model": 1.0}}, "12": {"class_type": "MiniMaxH3SigmaShift", "inputs": { "model": ["11", 0], "shift_video": 12.0, "shift_audio": 3.0}}, "13": {"class_type": "CLIPLoader", "inputs": { "clip_name": "qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors", "type": "minimax", "device": "default"}}, "16": {"class_type": "MiniMaxH3ImageToVideo", "inputs": { "clip": ["13", 0], "vae": ["14", 0], "prompt": "Cinematic anime style, a red sports car drifting through a neon-lit Tokyo street at night. Audio: engine roar, tire screech.", "width": 1344, "height": 768, "length": 124}}, "20": {"class_type": "RandomNoise", "inputs": {"noise_seed": 123456}}, "21": {"class_type": "BasicGuider", "inputs": { "model": ["12", 0], "conditioning": ["16", 0]}}, "23": {"class_type": "BasicScheduler", "inputs": { "model": ["12", 0], "scheduler": "simple", "steps": 4, "denoise": 1.0}}, "24": {"class_type": "SamplerCustomAdvanced", "inputs": { "noise": ["20", 0], "guider": ["21", 0], "sampler": ["22", 0], "sigmas": ["23", 0], "latent_image": ["16", 1]}}}返回的 node_errors 非空说明工作流有错、未入队。视频与音轨分别经 video_vae / audio_vae 解码后在 CreateVideo 合成(24fps)。ref2va 场景替换对应 DiT 与 ref2va 版 LoRA,并改用参考图输入节点。
- 质量优先:BF16 + flash attention;ref2va 场景必须用 bf16 镜像
- 速度优先:int8 + sage attention;720p/15s 约 250s
- ref2va 与 fl2va 必须分实例部署,不能共用同一实例
- ref2va 的 ref_image_size 选 match(参考图缩放,快)或 max(保留最高 2048px 短边,身份保真更强但慢)
这份手册的所有配置都在共绩算力平台上实测跑通,镜像仓库公开可拉,权重全部来自公开仓库。复现时如果某个环节对不上数字,优先检查三件事:CUDA 版本、LoRA 版本(fl2va v1.0 ≠ ref2va v0.1)、以及是不是把 SigmaShift 参数动了。
部署过程遇到问题欢迎在评论区留环境信息,我们看到会回。模型链接随上游更新可能变动,以仓库页面为准。