我使用1Panel社区版2.0.5,自己创建了一个容器xinference,但是找不到在哪里能设置使用Gpu。
通过应用商店创建的Ollama容器可以正常使用GPU。
可以看一下 xinference 的文档 需要 docker run 的时候指定 GPU 参数
我使用1Panel社区版2.0.5,自己创建了一个容器xinference,但是找不到在哪里能设置使用Gpu。
通过应用商店创建的Ollama容器可以正常使用GPU。
可以看一下 xinference 的文档 需要 docker run 的时候指定 GPU 参数