请问MaxKB支持在内网环境部署吗,可以只选择离线大模型训练内部数据吗?初次接触LLM,问题问的可能比较模糊。
支持内网部署的
请问离线环境怎么部署,内网部署好像还是会从互联网上下载模型而不是直接使用本地的模型。需要改什么配置吗
应该是你们本地没有模型文件,添加模型会先在网上拉取模型到本地,对接成功后进行对话时都是用的本地模型。
你可以先离线部署模型。用 Ollama list可以看到本地模型列表。本地模型存在后就可以直接在 MaxKB模型管理中对接。
离线部署模型,可参考:
谢谢 已解决