「能不能做一个懂我们公司的 ChatGPT？」这是我们最常听到的需求之一。团队希望用日常的语言提问，就能从公司自己的手册、制度、合同和内部文档里得到答案，并且附上出处。

实现这件事最常见的方法叫做检索增强生成，英文简称 RAG。这篇指南会尽量不用术语讲清楚它的原理，更重要的是，讲清楚要让它好用，事先需要准备好什么。

RAG 是怎么工作的

语言模型本身只知道训练时学过的内容。它不知道你们的报价、内部流程，也不知道上个月刚改的制度。RAG 用三步解决这个问题：

  1. 准备。 把文档切成小段落并建立索引，让系统能按意思搜索，而不只是按关键词匹配。
  2. 检索。 有人提问时，系统找出和问题最相关的几段内容。
  3. 回答。 模型拿到问题和这些段落，据此写出答案，最好还能标注每部分内容的出处。

模型并不是把你的文档背下来，而是在提问的那一刻去读对应的页面。所以内容随时可以更新，不需要重新训练任何东西。

适合的场景

  • 内部知识助手：人事制度、IT 支持、新人入职、各类操作问题
  • 客服团队：在庞大的帮助中心里快速找到正确答案
  • 销售和售前：查询产品参数和统一的对外说法
  • 运营与合规：检索操作规程、合同条款和各类标准
  • 面向客户的帮助：基于公开文档回答客户问题

决定效果好坏的关键

实际项目里，影响最大的往往不是模型，而是内容本身以及围绕它的配置。

1. 内容质量

如果两份文档说法不一致，助手可能引用任何一份。动手之前，先明确哪些是权威来源，把过时版本归档，补上明显的缺口。少量可靠的文档，胜过一大堆质量参差不齐的资料。

2. 文档格式

纯文本、网页和结构清晰的文档最容易处理。扫描版 PDF、复杂表格、幻灯片和图片需要额外处理，值得尽早测试，因为这些地方最容易答错。

3. 访问权限

不是所有人都应该看到所有内容。如果文档面向不同人群，比如仅限管理层或特定部门，系统在检索时就必须遵守这些权限。这件事要在搭建之前决定，而不是事后补救。

4. 保持内容更新

提前规划新增和修改的文档怎么进入索引。试点阶段手动上传就可以；长期使用的话，最好直接对接文档实际存放的地方，让更新自动同步。

5. 衡量质量的方法

开始之前，先整理一批真实问题及其正确答案。每次调整之后都跑一遍。这份简单的测试集，是判断改动让回答变好还是变差最可靠的方法。

动手之前要想清楚的问题

  • 谁会用它？他们最常问什么问题？
  • 哪些文档是权威来源？由谁负责维护？
  • 有没有系统必须遵守的权限规则？
  • 每个回答都要显示出处吗？（大多数业务场景下，答案是要。）
  • 找不到答案时，助手应该怎么说？（说「我不知道」，远比自信地乱猜好。）
  • 大家在哪里使用它：一个网页、团队已经在用的聊天工具，还是嵌入现有产品里？

常见误区

  • 一次把所有文档都导进去。 先从一组熟悉的文档开始，回答稳定可靠后再扩大范围。
  • 不标注出处。 没有出处，用户无法核对答案，信任很快就会流失。
  • 只用简单问题测试。 测试集里要包含刁钻的、模糊的，以及超出范围的问题。
  • 当成一次性项目。 内容会变化，需要有人长期对质量负责。

如何开始

聚焦的小试点是最快的学习方式：一个团队、一组文档、几十个真实测试问题，再加一个简单的界面。很快你就能知道现有内容能在多大程度上支撑 AI 回答，以及大范围推广前需要先修正什么。

如果你正在考虑基于自有文档搭建 AI 助手，我们可以帮你评估现有内容、设计试点，并做出一个团队真正信得过的工具。