MaxKB 开启模型联网搜索
前言
模型联网搜索是当前大语言模型(LLM)领域的重要技术方向,其核心在于通过结合互联网实时数据与模型推理能力,突破预训练数据的时间限制,提供更精准、动态的回答。
核心应用场景
-
实时信息补充
例如查询“春节申遗成功了吗”,联网模式可提供最新进展,而离线模式仅基于预训练数据回答。 -
复杂任务辅助
在金融分析、学术研究等场景中,模型可实时调用财经数据库或arXiv论文库,生成带引用来源的深度报告。
以通义千问大语言模型为例,支持启用互联网搜索的模型有:
使用方法在通义千问 API 参考中有详细描述,以下是文档截图,包含 enable_search
和search_options
两个相关参数的说明
接下来,我们以 MaxKB + 阿里云百炼模型 qwen-turbo
为例,介绍使用案例
第一步:添加模型参数设置
1、假设已添加模型 qwen-turbo
,,点击右上角【…】图标,点击【模型参数设置】
2、点击【添加参数】
3、设置参数
- 参数:extra_body
- 显示名称:联网搜索
- 是否必填:是
- 组件类型:JSON 文本框
- 默认值:{“enable_search”: true}
4、添加好参数后,保存模型参数设置
第二步:使用模型联网搜索
5、创建应用,类型选择“高级编排”。添加组件,选择【AI 对话】,AI 模型选择刚才添加的模型 qwen-turbo
,点击右上角参数设置图标,确认是否显示联网搜索参数
6、保存编排后进行调试,输入问题“明天长沙的天气如何?”,模型联网搜索答案。