可以增加支持openai格式的模型接口，添加私有化部署的模型吗？

MaxKB
1

公司内部部署了私有化模型，对外暴露的接口格式符合openai格式的，maxkb支持这种添加私有化模型部署，请求和响应符合openai格式的吗

2

支持添加OpenAI格式接口，在模型管理里，选择OpenAI类型进行添加。

3

添加成功了，但是输出结束了，需要手动点击停止。看论坛里有个同样的问题。是否有解决方法。

image

4

请问MaxKB是什么版本？我们本地对接OpenAI没有出现这种情况。

5

image

6

image
升级到最新版本，还是同样的问题，需要手动点击停止。

7

这可能跟与你的模型环境、MaxKB部署环境有关，我们本地复现不出来。
[Bug] After qwen2 asked the question, the question has been answered, but the source is not displayed, and there is always a "stop answering" button, and it ends after a few minutes. · Issue #1914 · 1Panel-dev/MaxKB · GitHub

8

我也遇到了相同的情况，添加了私用部署的openai接口，回答无法停止

9

@Marx 这是相关截图

cgi-bin_mmwebwx-bin_webwxgetmsgimg_&MsgID=2392884462002344397&skey=@crypt_f3875961_fe18eb91335fb49d4938b430cc7e3ff1&mmweb_appid=wx_webfilehelper
cgi-bin_mmwebwx-bin_webwxgetmsgimg_&MsgID=2392884462002344397&skey=@crypt_f3875961_fe18eb91335fb49d4938b430cc7e3ff1&mmweb_appid=wx_webfilehelper1080×1920 69.4 KB

cgi-bin_mmwebwx-bin_webwxgetmsgimg_&MsgID=1149238586215182648&skey=@crypt_f3875961_fe18eb91335fb49d4938b430cc7e3ff1&mmweb_appid=wx_webfilehelper
cgi-bin_mmwebwx-bin_webwxgetmsgimg_&MsgID=1149238586215182648&skey=@crypt_f3875961_fe18eb91335fb49d4938b430cc7e3ff1&mmweb_appid=wx_webfilehelper1920×1080 108 KB

cgi-bin_mmwebwx-bin_webwxgetmsgimg_&MsgID=7592137821264275126&skey=@crypt_f3875961_fe18eb91335fb49d4938b430cc7e3ff1&mmweb_appid=wx_webfilehelper
cgi-bin_mmwebwx-bin_webwxgetmsgimg_&MsgID=7592137821264275126&skey=@crypt_f3875961_fe18eb91335fb49d4938b430cc7e3ff1&mmweb_appid=wx_webfilehelper1920×1080 123 KB

10

可以在这个issue里反馈下，目前我们本地未能复现出这个现象。