MaxKB 开启模型联网搜索

MaxKB 开启模型联网搜索

前言

模型联网搜索是当前大语言模型(LLM)领域的重要技术方向,其核心在于通过结合互联网实时数据与模型推理能力,突破预训练数据的时间限制,提供更精准、动态的回答。

核心应用场景

  1. 实时信息补充
    例如查询“春节申遗成功了吗”,联网模式可提供最新进展,而离线模式仅基于预训练数据回答。
  2. 复杂任务辅助
    在金融分析、学术研究等场景中,模型可实时调用财经数据库或arXiv论文库,生成带引用来源的深度报告。

以通义千问大语言模型为例,支持启用互联网搜索的模型有:

使用方法在通义千问 API 参考中有详细描述,以下是文档截图,包含 enable_searchsearch_options两个相关参数的说明

接下来,我们以 MaxKB + 阿里云百炼模型 qwen-turbo为例,介绍使用案例

第一步:添加模型参数设置

1、假设已添加模型 qwen-turbo,,点击右上角【…】图标,点击【模型参数设置】

2、点击【添加参数】

3、设置参数

  • 参数:extra_body
  • 显示名称:联网搜索
  • 是否必填:是
  • 组件类型:JSON 文本框
  • 默认值:{“enable_search”: true}

4、添加好参数后,保存模型参数设置

第二步:使用模型联网搜索

5、创建应用,类型选择“高级编排”。添加组件,选择【AI 对话】,AI 模型选择刚才添加的模型 qwen-turbo,点击右上角参数设置图标,确认是否显示联网搜索参数

6、保存编排后进行调试,输入问题“明天长沙的天气如何?”,模型联网搜索答案。

1 个赞