Qwen3-235B-A22B-AWQ执行非流式传输

输入参数stream = false,对话就不返回内容了。流式传输是可以执行的
执行记录:

本地部署的模型吗?还是在线的呢,哪个供应商的

在线的,供应的openai


具体模型是哪里的呢?openai我没找到,是对接魔塔还是哪个模型供应商的呢

这个是我们公司内部部署的,给的api

得确认一下你这个模型是否支持参数

应该是可以的


目前使用的是什么版本

系统版本的话是v1.10.10-lts,从v1.10.8-lts升的

AI 对话返回报错时,日志的内容方便发一下吗?


日志是这样的

后台日志,/opt/maxkb/logs/gunicorn.log


z这些可以吗,只截了执行时间点后的内容

我们默认都是流式输出,不建议弄这个模型参数,会导致我们ai对话接收不到内容,导致模型无法生成响应。

好的,那只能用别的方式替代了