输入参数stream = false,对话就不返回内容了。流式传输是可以执行的
执行记录:
本地部署的模型吗?还是在线的呢,哪个供应商的
具体模型是哪里的呢?openai我没找到,是对接魔塔还是哪个模型供应商的呢
这个是我们公司内部部署的,给的api
得确认一下你这个模型是否支持参数
目前使用的是什么版本
系统版本的话是v1.10.10-lts,从v1.10.8-lts升的
AI 对话返回报错时,日志的内容方便发一下吗?
后台日志,/opt/maxkb/logs/gunicorn.log
我们默认都是流式输出,不建议弄这个模型参数,会导致我们ai对话接收不到内容,导致模型无法生成响应。
好的,那只能用别的方式替代了