Support qlora

Dockerfile

-FROM image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-centos7.6-dtk24.04-py310
+FROM image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-ubuntu20.04-dtk24.04.1-py3.10
\ No newline at end of file

README.md

@@ -3,7 +3,7 @@
 LLaMA Factory是一个大语言模型训练和推理的框架，支持了魔搭社区（ModelScope）的模型和数据集资源。它允许用户通过内置的Web UI灵活定制100多个LLMs的微调，而无需编写代码。
 
 ## 暂不支持的官方功能
-- **量化微调**: bitsandbytes库功能不全，暂不支持量化相关训练需求
+
 
 ## 支持模型结构列表
 | 模型名                                                       | 模型大小                          | Template  |
@@ -30,7 +30,7 @@ LLaMA Factory是一个大语言模型训练和推理的框架，支持了魔搭
 基于光源pytorch2.1.0基础镜像环境：镜像下载地址：[https://sourcefind.cn/#/image/dcu/pytorch](https://sourcefind.cn/#/image/dcu/pytorch)，根据pytorch2.1.0、python、dtk及系统下载对应的镜像版本。
 
 ```bash
-docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-centos7.6-dtk24.04-py310
+docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-ubuntu20.04-dtk24.04.1-py3.10
 docker run -it -v /path/your_code_data/:/path/your_code_data/ -v /opt/hyhal/:/opt/hyhal/:ro --shm-size=80G --privileged=true --device=/dev/kfd --device=/dev/dri/ --group-add video --name docker_name imageID bash
 ```
 
@@ -46,6 +46,8 @@ docker run -it -v /path/your_code_data/:/path/your_code_data/ -v /opt/hyhal/:/op
 DTK驱动: dtk24.04
 python: python3.10
 torch: 2.1.0
+bitsandbytes: 0.42.0
+
 ```
 `Tips：以上dtk驱动、python、torch等DCU相关工具版本需要严格一一对应`