外单位部署了高阶版本的deepseek,我们用maxkb部署了本地知识库+deepseek(14B)版本,现想调用他们的版本,他们提供api后,我们怎么实现用他们的api+我们本地的知识库?求解答?另外MAXKB应用演示时回答不能够多开窗口同时回答的问题怎么解决?只能轮候回答?
1、怎么实现用他们的api+我们本地的知识库?
需要对接他们的API,他们的DeepSeek是通过什么方式部署的?如果是封装好的接口,需要符合OpenAI接口格式才能对接。
2、MAXKB应用演示时回答不能够多开窗口同时回答的问题怎么解决?是否指的是在一个浏览器页面中开多个窗口?
2.一个浏览器界面开多个窗口。或者通过外网分享8080端口给其他电脑访问。不能实现同时回答,该怎么办?谢谢
你本地用的是OLLAMA部署的deepseek么 如果是的话 你要设置一下ollama的并发 如果是别的框架 你也看看是不是要设计并发
MaxKB本身是没有主动限制并发的,更多的是模型本身的限制。