本地私有化部署的模型加载失败


ollama无法拉取模型,检查一下网络是否正常,如果是内网的话可以下载模型文件到ollama里面,然后再maxkb里面添加对应的模型名称就可以了

内网环境下,模型和maxkb应用未部署在同一台服务器上可以添加模型吗,我在maxkb的容器中测试是可以访问模型的,但是添加模型会报拉取模型失败。

在 Ollama 容器中执行 Ollama list 确认一下 离线模型创建成功。再到 MaxKB 中添加模型对接。

如何使用 Ollama 离线部署模型 参考下方帖子:

api域名地址后面加个v1试试