怎么修改sqlbot的默认提示词,我发现我vllm部署的本地模型无法正确回复需要的json格式

怎么修改sqlbot的默认提示词,我发现我vllm部署的本地模型无法正确回复需要的json格式,我想要修改sqlbot的提示词来实现模型回复正确json?

出现模型回复 json 格式不正确的情况大概率是模型参数不够,无法正确遵守系统提示词的约束导致的,简单些的方法是更换参数更高些的模型做下尝试,建议是 32b 以上,也可以通过自定义提示词强化约束试一下,自定义提示词功能是商业版功能,感兴趣可以联系商务试用一下哈
商业版本 - SQLBot 文档