Commit f925e5e2 authored by jerrrrry's avatar jerrrrry
Browse files

Update README.md

parent 41d74a78
# 🚀 一键启动工具集 | EasyStart v0.1 <p align="center">
<img src="images/logo.png" alt="EasyStart" width="180"/>
</p>
![Banner](https://placehold.co/1200x400/2a4365/white?text=EasyStart-AI-Testing-Toolkit) <h1 align="center">
EasyStart v0.1 —— 一键启动,零门槛大模型测试
</h1>
> 一个集成了环境测试、模型下载与推理验证的自动化工具包 <p align="center">
<a href="#heading_0">环境测试</a>
<a href="#heading_2">测试+下载+推理</a>
<a href="#heading_7">批量推理</a>
</p>
## 🌟 核心功能 ---
| 功能模块 | 适用场景 | 特色亮点 | > **一句话总结**
|---------|----------|----------| > 无论做交付、做评测还是做批量实验,只要一条命令,环境、模型、推理全搞定。
| **1. 环境测试** | 基础硬件验证 | ROCm带宽测试/ACS监控/全栈状态检查 |
| **2. 环境测试+模型下载+推理** | 交付验证 | 自动下载Modelscope模型/批量测试 |
| **3. 环境测试+批量推理** | 压力测试 | 支持本地模型/Docker集成 |
## 🛠️ 快速开始 ---
### 1️⃣ 环境测试 ## 🚀 快速开始
```bash | 场景 | 一键指令 |
git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git |------|-----------|
cd easystart_v0.1/ | 1. 纯环境测试 | `git clone http://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git && cd easystart_v0.1/1_env_check && bash start.sh` |
bash start.sh | 2. 环境测试 + 模型下载 + 大模型推理 | `git clone http://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git && cd "easystart_v0.1/2_env_check&model_download&llm_inference" && bash start.sh` |
| 3. 环境测试 + 批量本地模型推理 | `git clone http://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git && cd "easystart_v0.1/3_env_check&batches_llm_inference" && bash start.sh` |
测试项目包含: ---
rocm_bandwidth_test ## 📦 功能详解
Rccl 4卡&8卡带宽测试 ### 1️⃣ 环境测试(`1_env_check`)
- ✅ ROCm 带宽测试
- ✅ 4/8 卡 RCCL 带宽
- ✅ DCU 环境检查(贵哥发版)
- ✅ ACS 监控
- ✅ CPU & DCU 状态
- ✅ 存储 & 内存
- ✅ 网络连通性
贵哥发版的dcu_env_check 📁 结果输出:`./outputs/env_check_outputs`
ACS监控 <p align="center">
<img src="images/1.png" width="600"/>
</p>
CPU&DCU状态 ---
存储&内存状态 ### 2️⃣ 环境测试 + 模型下载 + 推理(`2_env_check&model_download&llm_inference`)
网络状态
测试结果保存在 ./outputs/env\_check\_outputs
![图片描述](images/1.png)
# 🚀 一键启动工具集 | EasyStart v0.1
![Banner](https://placehold.co/1200x400/2a4365/white?text=EasyStart-AI-Testing-Toolkit) <!-- 建议替换为实际项目横幅图 -->
## 🌟 核心功能
| 功能模块 | 适用场景 | 特色亮点 |
|---------|----------|----------|
| **1. 环境测试** | 基础硬件验证 | ROCm带宽测试/ACS监控/全栈状态检查 |
| **2. 环境测试+模型下载+推理** | 交付验证 | 自动下载Modelscope模型/批量测试 |
| **3. 环境测试+批量推理** | 压力测试 | 支持本地模型/Docker集成 |
## 🛠️ 快速开始
### 1️⃣一键启动环境测试
```bash
git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git
cd easystart_v0.1/
bash start.sh
测试项包含:
1:rocm\_bandwidth\_test
2:Rccl 4卡&8卡带宽测试
3:贵哥发版的dcu\_env\_check
4:ACS监控
5:CPU&DCU状态
6:存储&内存状态
7:网络状态
<a name="heading_1"></a>**测试结果**
测试结果保存在 ./outputs/env\_check\_outputs
![图片描述](images/1.png)
<a name="heading_2"></a>**2\_env\_check&model\_download&llm\_inference**
一键启动环境测试+模型下载+llm推理:
https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1/-/tree/main/2_env_check%26model_download%26llm_inference
|git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git<br>cd 2\_env\_check&model\_download&llm\_inference/<br>bash start.sh|
| :- |
![图片描述](images/2.png)
只需将要测试的模型ID**(对应modelscope的模型ID)**传入**download-list.cfg**
<a name="heading_3"></a>**Tips**
1:download-list.cfg里的格式为:**模型ID;本地保存路径**
![图片描述](images/3.png)
2:可以写入多个模型下载且**会进行批量测试**
3:模型测试参数通过**model\_to\_test.cfg**传入,**需注意model\_to\_test.cfg的传参格式**
![图片描述](images/4.png)
<a name="heading_4"></a>**测试结果**
测试结果保存在 ./outputs/env\_check\_outputs和 ./outputs/inference\_outputs
下载的模型会保存在 ./outputs/models
![图片描述](images/5.png)
<a name="heading_5"></a>**推理结果**
![图片描述](images/6.png)
<a name="heading_6"></a>**测试日志**
![图片描述](images/7.png)
<a name="heading_7"></a>**3\_env\_check&batches\_llm\_inference**
一键启动环境测试+批量llm推理:
https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1/-/tree/main/3_env_check%26batches_llm_inference
|git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git<br>cd 3\_env\_check&batches\_llm\_inference/<br>bash start.sh|
| :- |
**只需在start.sh中挂载本地大模型到docker里**
**修改model\_to\_test.cfg里的测试参数**
<a name="heading_8"></a>**测试结果**
测试结果保存在 ./outputs/inference\_outputs
![图片描述](images/8.png)
#### 1. 填写待测模型
`download-list.cfg` 中按以下格式添加模型:
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment