用AI代理工具优化内部问答的实践

ningxueqin

　　"最近帮团队搭建内部的员工培训问答工具，用来快速解答新人关于业务流程、产品规范的问题，最初直接调用通用大模型，结果经常出现答非所问，或者把外部公开信息当成内部资料回复的情况，反复调整提示词也没太大改善。

　　后来意识到需要能调度本地知识库、按需处理信息的AI代理工具方案，搭建AI代理工具的开源实践里的思路刚好适配这个需求，先将内部培训文档做向量化存储，再让代理工具根据问题匹配对应知识库片段，最后整合上下文生成准确的回答，整个流程的可控性比之前强了不少。

　　需要注意的是，要根据知识库的实际体量调整匹配阈值，避免引入过多无关片段，反而影响回答的精准度和整体响应速度。"