利用1Panel,安装了ollama 及 OpenWebUI,安装ollama时已经选择调用GPU但是实际模型不调用GPU为什么?
1 个赞
安装 NVIDIA 驱动 和 NVIDIA docker Container Toolkit了吗
安装了! 现在多测试了几遍, 发现 偶尔不掉GPU,然后重启ollama 在测就会调用。 不知道什么原因
我是Intel a770显卡 我ollama也不调用GPU 不知道什么问题
sudo nvidia-ctk runtime configure --runtime=docker 要让docker 识别