0.5.7,可以起服务,但一对话就报错
基础镜像 image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.1.0-py3.10-dtk24.04.3-ubuntu20.04 显卡 K100 x 2
./ollama run deepsee-r1:14b-qwen-distill-q8_0 模型能加载成功
输入你好 Error: POST predict: Post"http://127.0.0.140619/completion" EOF
然后ollama服务就崩了