QwQ32B模型思考过程标签有误

xuyixuan · 2025 年3 月 25 日 02:44

如图所示，开头的标签缺失，无法正常识别思考部分，请问类似问题有解决方案吗？本截图使用vllm0.8.1运行QwQ32B模型。

玉树 · 2025 年3 月 25 日 03:36

参考置顶的帖子。