系统:Ubuntu 2204
Nvidia-smi :ok
nvidia container toolkit : ok
nvidia-docker2 : ok
以上环境下,由 1Panel应用中心安装 Ollama可以正常运行,但无法正确识别到 GPU,如图:
但是根据docker命令安装可以正确
docker run --gpus all -d -v /opt/ollama:/root/.ollama -p 11002:11434 --name ollama ollama/ollama
对比容器
以上为应用中心部署,未能正确识别 GPU
以上为 DOCKER 命令部署,可正常识别 GPU 的
对比,应是 docker-compose.yml内未包含 GPU 内容导致,望能尽快处理,谢谢