希望AI 对话节点,模型引用变量时可以接受JSON形式输入

背景

当一个非常大的流(包含超过10个AI对话节点)需要更换模型时,需要对每一个对话节点进行单独配置。当流的规模继续扩大时如果出现需要更换模型的情况,会导致操作非常困难。
当前MaxKB支持通过引用用户输入的变量来配置模型信息。 但这样配置之后用户端会出现多余的选项。

测试

测试的工作流结构如下

开始 -> 指定回复(返回内容?否) -> AI对话

指定回复的内容为下列文字

{
	"model_id": "{model_id}",
	"model_provider": "{model_provider}",
	"model_name": "{model_name}",
	"model_params_setting":{
		"temperature": 0.1,
		"max_tokens": 2048,
		"top_p": 0.9
	}
}

AI对话节点配置模型为引用变量并将变量配置为指定回复.result

执行时报错Exception:模型不能为空
看来这里的引用变量只支持用户用户输入的变量

需求

能否可以支持通过会话变量或者通过JSON变量的形式来传递模型给AI对话节点,或使用其他方法来实现快速模型切换?

目前maxkb支持用户输入的方式切换模型,可以参考文章:问答页面自主选择模型或知识库 - MaxKB 文档

因为这是用户参数,所以会在用户端产生一个完全不必要的输入框,用户开启会话时会多出一步。很影响体验。

目前支持的功能是这样了,如果有其他需求可以去提个issue,产品这边会评估的:Issues · 1Panel-dev/MaxKB · GitHub