增加benchmark性能测试程序

README.md

@@ -70,6 +70,14 @@ python cli_demo.py -p qwen-7b-int8.bin
 
 # 简易webui，需要先安装streamlit-chat
 streamlit run web_demo.py qwen-7b-int8.bin 
+
+# 可以使用benchmark程序进行性能测试，根据./benchmark -h描述进行配置和测试
+# 测试示例如下：
+./benchmark -p qwen-7b-int8.bin -f prompts/beijing.txt -b 1
+./benchmark -p qwen-7b-int8.bin -f prompts/beijing.txt -b 1
+./benchmark -p qwen-7b-int8.bin -f prompts/hello.txt -b 512 -l 18
+# 如果benchmark没有可执行权限，需要手动添加后执行性能测试
+chmod +x benchmark
 ```
 
 ## 运行效果展示

cli_demo.py

+# coding=utf-8
 import argparse
 from fastllm_pytools import llm
 
 def args_parser():
-    parser = argparse.ArgumentParser(description = 'fastllm_chat_demo')
+    parser = argparse.ArgumentParser(description = 'qwen_chat_demo')
     parser.add_argument('-p', '--path', type = str, required = True, default = '', help = '模型文件的路径')
     args = parser.parse_args()
     return args

prompts/beijing.txt

+北京有什么景点？
\ No newline at end of file

prompts/hello.txt

+Hello！
\ No newline at end of file