背景
当一个非常大的流(包含超过10个AI对话节点)需要更换模型时,需要对每一个对话节点进行单独配置。当流的规模继续扩大时如果出现需要更换模型的情况,会导致操作非常困难。
当前MaxKB支持通过引用用户输入的变量来配置模型信息。 但这样配置之后用户端会出现多余的选项。
测试
测试的工作流结构如下
开始 -> 指定回复(返回内容?否) -> AI对话
指定回复的内容为下列文字
{
"model_id": "{model_id}",
"model_provider": "{model_provider}",
"model_name": "{model_name}",
"model_params_setting":{
"temperature": 0.1,
"max_tokens": 2048,
"top_p": 0.9
}
}
AI对话节点配置模型为引用变量并将变量配置为指定回复.result
执行时报错Exception:模型不能为空
看来这里的引用变量只支持用户用户输入的变量
需求
能否可以支持通过会话变量或者通过JSON变量的形式来传递模型给AI对话节点,或使用其他方法来实现快速模型切换?