社区论坛 - FIT2CLOUD 飞致云
回复慢怎么优化?
MaxKB
请求帮助
,
产品建议
user-0t1ct4akbzf
2024 年4 月 24 日 04:05
1
自搭的ollama,回复超级慢,而且是全部加载完一次性输出。使用 webUI 几秒就可以开始出结果。
xin.bai
2024 年4 月 24 日 05:30
2
简化下提示词,只保留:{question}