比如需要对输入输出内容进行检测，防止模型输出反动、暴力、色情等不符合社会主义核心价值观的内容！
可以给大模型添加提示词，如果问题包含相关的一些内容就不要回复，或者添加一个敏感词知识库，通过条件判断器判断问题是否命中敏感知识库内容。
通过高级编排功能开发可以实现吗？
可以的，上面描述的就是通过高级编排去过滤的思路。
比如需要对输入输出内容进行检测，防止模型输出反动、暴力、色情等不符合社会主义核心价值观的内容！
可以给大模型添加提示词，如果问题包含相关的一些内容就不要回复，或者添加一个敏感词知识库，通过条件判断器判断问题是否命中敏感知识库内容。
通过高级编排功能开发可以实现吗？
可以的，上面描述的就是通过高级编排去过滤的思路。