Updata README.md

添加端口映射

README.md

@@ -179,17 +179,22 @@ python  gradio_openai_chatbot_webserver.py --model "meta-llama/Llama-2-7b-chat-h
 ```
 chmod +x frpc_linux_amd64_v0.*
 ```
+   2.3 端口映射
+
+```
+ssh -L 8000:计算节点IP:8000 -L 8001:计算节点IP:8001 用户名@登录节点 -p 登录节点端口
+```  
 
 3.启动OpenAI兼容服务
 
 ```
-python -m vllm.entrypoints.openai.api_server --model meta-llama/Llama-2-7b-chat-hf --enforce-eager --dtype float16 --trust-remote-code --port 8000
+python -m vllm.entrypoints.openai.api_server --model meta-llama/Llama-2-7b-chat-hf --enforce-eager --dtype float16 --trust-remote-code --port 8000 --host "0.0.0.0"
 ```
 
 4.启动gradio服务
 
 ```
-python  gradio_openai_chatbot_webserver.py --model "meta-llama/Llama-2-7b-chat-hf" --model-url http://localhost:8000/v1 --temp 0.8 --stop-token-ids ""
+python  gradio_openai_chatbot_webserver.py --model "meta-llama/Llama-2-7b-chat-hf" --model-url http://localhost:8000/v1 --temp 0.8 --stop-token-ids --host "0.0.0.0" --port 8001"
 ```
 
 5.使用对话服务