Commit b27ee252 authored by laibao's avatar laibao
Browse files

Updata README.md

添加端口映射
parent 28c7d694
...@@ -188,6 +188,11 @@ python gradio_openai_chatbot_webserver.py --model "THUDM/glm-4-9b-chat" --model ...@@ -188,6 +188,11 @@ python gradio_openai_chatbot_webserver.py --model "THUDM/glm-4-9b-chat" --model
``` ```
chmod +x frpc_linux_amd64_v0.* chmod +x frpc_linux_amd64_v0.*
``` ```
2.3端口映射
```
ssh -L 8000:计算节点IP:8000 -L 8001:计算节点IP:8001 用户名@登录节点 -p 登录节点端口
```
3.启动OpenAI兼容服务 3.启动OpenAI兼容服务
...@@ -198,7 +203,7 @@ python -m vllm.entrypoints.openai.api_server --model THUDM/glm-4-9b-chatt --enfo ...@@ -198,7 +203,7 @@ python -m vllm.entrypoints.openai.api_server --model THUDM/glm-4-9b-chatt --enfo
4.启动gradio服务 4.启动gradio服务
``` ```
python gradio_openai_chatbot_webserver.py --model "THUDM/glm-4-9b-chat" --model-url http://localhost:8000/v1 --temp 0.8 --stop-token-ids "" python gradio_openai_chatbot_webserver.py --model "THUDM/glm-4-9b-chat" --model-url http://localhost:8000/v1 --temp 0.8 --stop-token-ids --host "0.0.0.0" --port 8001"
``` ```
5.使用对话服务 5.使用对话服务
......
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment