overview.md 2.17 KB
Newer Older
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
<!--版权 2025 HuggingFace 团队。保留所有权利。

根据 Apache 许可证 2.0 版本("许可证")授权;除非遵守许可证,否则不得使用此文件。
您可以在以下网址获取许可证副本:

http://www.apache.org/licenses/LICENSE-2.0

除非适用法律要求或书面同意,否则根据许可证分发的软件按"原样"分发,不附带任何明示或暗示的担保或条件。请参阅许可证以了解具体的语言管理权限和限制。
-->

# 混合推理

**通过混合推理赋能本地 AI 构建者**

> [!TIP]
> 混合推理是一项[实验性功能](https://huggingface.co/blog/remote_vae)。
> 可以在此处提供反馈[此处](https://github.com/huggingface/diffusers/issues/new?template=remote-vae-pilot-feedback.yml)。

## 为什么使用混合推理?

混合推理提供了一种快速简单的方式来卸载本地生成需求。

- 🚀 **降低要求:** 无需昂贵硬件即可访问强大模型。
- 💎 **无妥协:** 在不牺牲性能的情况下实现最高质量。
- 💰 **成本效益高:** 它是免费的!🤑
- 🎯 **多样化用例:** 与 Diffusers � 和更广泛的社区完全兼容。
- 🔧 **开发者友好:** 简单请求,快速响应。

---

## 可用模型

* **VAE 解码 🖼️:** 快速将潜在表示解码为高质量图像,不影响性能或工作流速度。
* **VAE 编码 🔢:** 高效将图像编码为潜在表示,用于生成和训练。
* **文本编码器 📃(即将推出):** 快速准确地计算提示的文本嵌入,确保流畅高质量的工作流。

---

## 集成

* **[SD.Next](https://github.com/vladmandic/sdnext):** 一体化 UI,直接支持混合推理。
* **[ComfyUI-HFRemoteVae](https://github.com/kijai/ComfyUI-HFRemoteVae):** 用于混合推理的 ComfyUI 节点。

## 更新日志

- 2025 年 3 月 10 日:添加了 VAE 编码
- 2025 年 3 月 2 日:初始发布,包含 VAE 解码

## 内容

文档分为三个部分:

* **VAE 解码** 学习如何使用混合推理进行 VAE 解码的基础知识。
* **VAE 编码** 学习如何使用混合推理进行 VAE 编码的基础知识。
* **API 参考** 深入了解任务特定设置和参数。