Skip to content

GitLab

"vscode:/vscode.git/clone" did not exist on "05d9d4969b6931157dfc3111f64f1359aebbdeeb"
Commit f925e5e2 authored by jerrrrry's avatar jerrrrry
Browse files

Update README.md

parent 41d74a78
Hide whitespace changes
Inline Side-by-side
Showing with 39 additions and 160 deletions
README.md
View file @ f925e5e2
# 🚀 一键启动工具集 | EasyStart v0.1
<p align="center">
<img src="images/logo.png" alt="EasyStart" width="180"/>
</p>
![Banner](https://placehold.co/1200x400/2a4365/white?text=EasyStart-AI-Testing-Toolkit)
<h1 align="center">
EasyStart v0.1 —— 一键启动，零门槛大模型测试
</h1>
> 一个集成了环境测试、模型下载与推理验证的自动化工具包
<p align="center">
<a href="#heading_0">环境测试</a> •
<a href="#heading_2">测试+下载+推理</a> •
<a href="#heading_7">批量推理</a>
</p>
## 🌟 核心功能
---
| 功能模块 | 适用场景 | 特色亮点 |
|---------|----------|----------|
| **1. 环境测试** | 基础硬件验证 | ROCm带宽测试/ACS监控/全栈状态检查 |
| **2. 环境测试+模型下载+推理** | 交付验证 | 自动下载Modelscope模型/批量测试 |
| **3. 环境测试+批量推理** | 压力测试 | 支持本地模型/Docker集成 |
> **一句话总结**
> 无论做交付、做评测还是做批量实验，只要一条命令，环境、模型、推理全搞定。
## 🛠️ 快速开始
---
### 1️⃣ 环境测试
## 🚀 快速开始
```bash
git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git
cd easystart_v0.1/
bash start.sh
| 场景 | 一键指令 |
|------|-----------|
| 1. 纯环境测试 | `git clone http://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git && cd easystart_v0.1/1_env_check && bash start.sh` |
| 2. 环境测试 + 模型下载 + 大模型推理 | `git clone http://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git && cd "easystart_v0.1/2_env_check&model_download&llm_inference" && bash start.sh` |
| 3. 环境测试 + 批量本地模型推理 | `git clone http://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git && cd "easystart_v0.1/3_env_check&batches_llm_inference" && bash start.sh` |
测试项目包含：
---
rocm_bandwidth_test
## 📦 功能详解
Rccl 4卡&8卡带宽测试
### 1️⃣ 环境测试（`1_env_check`）
- ✅ ROCm 带宽测试
- ✅ 4/8 卡 RCCL 带宽
- ✅ DCU 环境检查（贵哥发版）
- ✅ ACS 监控
- ✅ CPU & DCU 状态
- ✅ 存储 & 内存
- ✅ 网络连通性
贵哥发版的dcu_env_check
📁 结果输出：`./outputs/env_check_outputs`
ACS监控
<p align="center">
<img src="images/1.png" width="600"/>
</p>
CPU&DCU状态
---
存储&内存状态
网络状态
测试结果保存在 ./outputs/env\_check\_outputs
![图片描述](images/1.png)
# 🚀 一键启动工具集 | EasyStart v0.1
![Banner](https://placehold.co/1200x400/2a4365/white?text=EasyStart-AI-Testing-Toolkit) <!-- 建议替换为实际项目横幅图 -->
## 🌟 核心功能
| 功能模块 | 适用场景 | 特色亮点 |
|---------|----------|----------|
| **1. 环境测试** | 基础硬件验证 | ROCm带宽测试/ACS监控/全栈状态检查 |
| **2. 环境测试+模型下载+推理** | 交付验证 | 自动下载Modelscope模型/批量测试 |
| **3. 环境测试+批量推理** | 压力测试 | 支持本地模型/Docker集成 |
## 🛠️ 快速开始
### 1️⃣一键启动环境测试
```bash
git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git
cd easystart_v0.1/
bash start.sh
测试项包含：
1：rocm\_bandwidth\_test
2：Rccl 4卡&8卡带宽测试
3：贵哥发版的dcu\_env\_check
4：ACS监控
5：CPU&DCU状态
6：存储&内存状态
7：网络状态
<a name="heading_1"></a>**测试结果**
测试结果保存在 ./outputs/env\_check\_outputs
![图片描述](images/1.png)
<a name="heading_2"></a>**2\_env\_check&model\_download&llm\_inference**
一键启动环境测试+模型下载+llm推理：
https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1/-/tree/main/2_env_check%26model_download%26llm_inference
|git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git<br>cd 2\_env\_check&model\_download&llm\_inference/<br>bash start.sh|
| :- |
![图片描述](images/2.png)
只需将要测试的模型ID**(对应modelscope的模型ID)**传入**download-list.cfg**里
<a name="heading_3"></a>**Tips**
1：download-list.cfg里的格式为：**模型ID;本地保存路径**
![图片描述](images/3.png)
2：可以写入多个模型下载且**会进行批量测试**
3：模型测试参数通过**model\_to\_test.cfg**传入，**需注意model\_to\_test.cfg的传参格式**
![图片描述](images/4.png)
<a name="heading_4"></a>**测试结果**
测试结果保存在 ./outputs/env\_check\_outputs和 ./outputs/inference\_outputs
下载的模型会保存在 ./outputs/models
![图片描述](images/5.png)
<a name="heading_5"></a>**推理结果**
![图片描述](images/6.png)
<a name="heading_6"></a>**测试日志**
![图片描述](images/7.png)
<a name="heading_7"></a>**3\_env\_check&batches\_llm\_inference**
一键启动环境测试+批量llm推理：
https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1/-/tree/main/3_env_check%26batches_llm_inference
|git clone https://developer.sourcefind.cn/codes/jerrrrry/easystart_v0.1.git<br>cd 3\_env\_check&batches\_llm\_inference/<br>bash start.sh|
| :- |
**只需在start.sh中挂载本地大模型到docker里**
**修改model\_to\_test.cfg里的测试参数**
<a name="heading_8"></a>**测试结果**
测试结果保存在 ./outputs/inference\_outputs
![图片描述](images/8.png)
### 2️⃣ 环境测试 + 模型下载 + 推理（`2_env_check&model_download&llm_inference`）
#### 1. 填写待测模型
在 `download-list.cfg` 中按以下格式添加模型：
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment