所以应该如何配置 GPU 加速？看了ollama和jellyfin安装时都没GPU加速选项。
另外1个应用可以安装多个副本吗，比如多个ollama分别挂载不同序号的GPU来运行多个模型。
备注：使用的是nVidia 4090、a5000、a4000
谢谢
同步一下应用商店试试
由于手动改了商店里的compose，更新也会被覆盖，次次改就不如手动写compose了。
这是现在的编排：
services:
ollama:
container_name: ollama-0
deploy:
resources:
reservations:
devices:
- capabilities:
- gpu
device_ids: [“0”]
driver: nvidia
image: ollama/ollama:0.5.11
network_mode: bridge
ports:
- 11430:11434
restart: unless-stopped
tty: true
volumes:
- ./data:/root/.ollama
- /opt/1panel/docker/compose/ollama/data/models:/root/.ollama/models
environment:
- OLLAMA_KEEP_ALIVE=-1
试过了，没有看到选项啥的，也试过再无痕下查看商店
半小时之后再同步一下 我刚更新了一下
ollama和jellyfin安装时都已看到GPU选项，谢谢
不过不能选all还是单张卡局限性还是很大，今天看到新增的AI管理功能时眼前一亮，期待完善！
像是对ollama中
并发请求数设置：OLLAMA_NUM_PARALLEL
模型副本数设置：OLLAMA_MAX_LOADED_MODELS
模型保活时间：OLLAMA_KEEP_ALIVE
补张效果图，再次感谢
