v2.9.0 启动 Qwen3-ASR-1.7B 去 huggingface 下载 /Qwen/Qwen3-ForcedAligner-0.6B 导致模型启动失败
gpu
### System Info / 系統信息
Ubuntu 22.04.5 LTS
nvidia-smi
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 575.57.08 Driver Version: 575.57.08 CUDA Version: 12.9 |
Xinference:v2.9.0
### Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece?
- [x] docker / docker
- [ ] pip install / 通过 pip install 安装
- [ ] installation from source / 从源码安装
### Version info / 版本信息
Xinference:v2.9.0
### The command used to start Xinference / 用以启动 xinference 的命令
docker run
-v /data1/xinference/.xinference:/root/.xinference
-v /data1/xinference/.cache/huggingface:/root/.cache/huggingface
-v /data1/xinference/.cache/modelscope:/root/.cache/modelscope
-v /data1/xinference/auth_config.json:/root/.cache/auth_config.json
-e XINFERENCE_MODEL_SRC=modelscope
-e TZ=Asia/Shanghai
-p 9997:9997
--gpus all
--name xinference-v2.9.0
xprobe/xinference:v2.9.0
xinference-local -H 0.0.0.0 --auth-config /root/.cache/auth_config.json --log-level debug
### Reproduction / 复现过程
1. docker 启动 xinference
2. 登陆 UI,然后在页面选择GPU,其他参数默认,然后启动 Qwen3-ASR-1.7B
3. 后台日志打印下载完 Qwen3-ASR-1.7B 模型后,又要去 huggingface 下载 /Qwen/Qwen3-ForcedAligner-0.6B。国内肯定范围不了 hf,最终多次尝试失败后,进而导致 Qwen3-ASR-1.7B 模型启动失败。
<img width="1895" height="213" alt="Image" src="https://github.com/user-attachments/assets/44a341c4-e37a-4514-a7e7-a9ee58313184" />
### Expected behavior / 期待表现
正常启动 Qwen3-ASR-1.7B 模型
0 条评论