Commit 84dbc558 authored by raojy's avatar raojy 💬
Browse files

Update README.md

parent cfc29973
...@@ -15,10 +15,10 @@ Qwen3.6-35B-A3B 是一款采用混合专家 (MoE) 架构并包含视觉编码器 ...@@ -15,10 +15,10 @@ Qwen3.6-35B-A3B 是一款采用混合专家 (MoE) 架构并包含视觉编码器
| :------: |:-----------------------------------------:| | :------: |:-----------------------------------------:|
| DTK | 26.04 | | DTK | 26.04 |
| python | 3.10.12 | | python | 3.10.12 |
| transformers | 5.2.0 | | transformers | 5.5.0 |
| vllm | 0.15.1+das.opt1.alpha.dtk2604.torch290.2604081832.gbcb2ba | | vllm | 0.18.1+das.fa71803.dtk2604 |
| triton | 3.3.0+das.opt2.dtk2604.torch290.20260331.g31542e | | triton | 3.6.0+gitc73250c4.staging |
| torch | 2.9.0+das.opt1.dtk2604.20260331.g4e3c1e7 | | torch | 2.10.0+das.opt1.dtk2604.20260325.g6b060a |
当前推荐使用镜像: harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-0409-modelzoo 当前推荐使用镜像: harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-0409-modelzoo
...@@ -38,7 +38,7 @@ docker run -it \ ...@@ -38,7 +38,7 @@ docker run -it \
-u root \ -u root \
-v /opt/hyhal/:/opt/hyhal/:ro \ -v /opt/hyhal/:/opt/hyhal/:ro \
-v /path/your_code_data/:/path/your_code_data/ \ -v /path/your_code_data/:/path/your_code_data/ \
harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm015-ubuntu22.04-dtk26.04-0409-modelzoo bash harbor.sourcefind.cn:5443/dcu/11admin/base/custom:vllm015-ubuntu22.04-dtk26.04-0409-modelzoo bash
``` ```
更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。 更多镜像可前往[光源](https://sourcefind.cn/#/service-list)下载使用。
...@@ -86,13 +86,17 @@ vllm serve Qwen/Qwen3.6-35B-A3B \ ...@@ -86,13 +86,17 @@ vllm serve Qwen/Qwen3.6-35B-A3B \
</div> </div>
### 精度 ### 精度
DCU与GPU精度一致,推理框架:vllm。 | model name | humaneval | gsm8k |
| :------: | :------: | :------: |
| Qwen3.6-27B | 0.8293 | 0.98 |
| Qwen3.6-35B-A3B | 0.878 | 0.976 |
推理框架:vllm。
## 预训练权重 ## 预训练权重
| 模型名称 | 权重大小 | DCU型号 | 最低卡数需求 | 下载地址 | | 模型名称 | 权重大小 | DCU型号 | 最低卡数需求 | 下载地址 |
|:------:|:----:|:----------:|:------:|:---------------------:| |:------:|:----:|:----------:|:------:|:---------------------:|
| Qwen3.6-35B-A3B | 35B | BW1000 | 4 | [Hugging Face](https://huggingface.co/Qwen/Qwen3.6-35B-A3B) | | Qwen3.6-35B-A3B | 35B | BW1000 | 4 | [Hugging Face](https://huggingface.co/Qwen/Qwen3.6-35B-A3B) |
| Qwen3.6-27B | 27B | BW1000 | 4 | [Hugging Face](https://huggingface.co/Qwen/Qwen3.6-27B) |
## 源码仓库及问题反馈 ## 源码仓库及问题反馈
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment