"custom_nodes/comfyui-impact-subpack/pyproject.toml" did not exist on "57b0ad8e820e370e608810364d80d8212d2407e9"
README.md 190 Bytes
Newer Older
weishb's avatar
weishb committed
1
2
3
# vllm-omni

vLLM 最初是为支持文本生成任务的大型语言模型而设计的。vLLM-Omni 是一个框架,它将 vLLM 的支持扩展到全模态模型推理和服务的领域。