文档的 AI 聊天:应该自行构建还是购买?
你决定文档需要 AI 聊天功能。接下来的决策比人们预想的更重要——它决定了 3–6 周的工程投入,以及未来 18 个月的模型成本优化方向。
以下是 2026 年真实的成本明细。
简而言之#
| 自行构建 | 购买现成方案 | |
|---|---|---|
| 初始成本 | 3–6 个工程师周的构建工作 | 以小时计的设置时间 |
| 月度成本 | 向量存储、嵌入、模型调用,以及负责维护它的人员 | 订阅费用或按使用量计费,具体取决于供应商 |
| 上线时间 | 数周到数月 | 数小时 |
| 定制化 | 完全可定制 | 钩子、系统提示词、服务提供商 |
| 维护 | 持续进行——随着文档变化,检索质量会逐渐下降 | 由供应商负责 |
| 最适合 | 特定的 RAG 需求、非文档类用例 | 专门用于文档 |
如果专门针对文档,请购买现成方案。只有当你的 AI 聊天需求超出文档范围时,才考虑自行构建——即在多个界面上整合知识库、产品帮助和支持分流。
“构建它”实际需要什么#
用于文档的生产级 RAG(检索增强生成)管道包含六个组件:
1. 内容摄取#
- 监控您的文档源(GitHub、MDX 文件夹、CMS)
- 解析为多个区块(通常为 500–1500 个令牌)
- 处理 Markdown、代码块、表格和 frontmatter
- 每次更改时重新建立索引,无需全部重新构建
工程工作量:如果您以前做过,需要 1 周;如果没有,需要 2 周。
2. 嵌入#
- 选择一个嵌入模型(OpenAI text-embedding-3-small、Cohere 或开源模型)
- 对每个分块进行嵌入
- 源内容发生变化时重新嵌入
- 处理速率限制和批处理
工程实施:3–5 天。
3. 向量存储#
- 选择存储方案(Pinecone、Weaviate、pgvector、Qdrant、Turbopuffer)
- 架构设计(元数据、每个工作区使用独立命名空间)
- 查询性能
- 备份和迁移计划
工程实施:1 周。持续基础设施成本:每月 50–300 美元。
4. 查询流水线#
- 嵌入用户查询
- 检索排名前 K 的文本块
- 重新排序(通常需要调用第二个模型)
- 将上下文格式化到提示词中
- 调用 LLM
- 解析并返回答案
工程周期:1–2 周。
5. 前端#
- 聊天 UI 组件
- 流式响应处理
- 引用链接至源页面
- 对话记忆
- 反馈组件(赞/踩)
工程开发:1 周。
6. 可观测性和分析#
- 记录每个查询和答案
- 跟踪未回答的查询(未来的内容空白)
- 跟踪负面反馈
- 每次查询的成本
- 延迟 P50/P95/P99
工程:1 周。
总计:至少 6 个工程师周,边缘情况出现后通常超过 10 个工程师周。
“自行构建”的持续成本#
中等用量下(1,000 次查询)每月:
| 成本 | |
|---|---|
| 向量存储 | $50–300 |
| 嵌入 API | $10–50 |
| LLM API(GPT-4 级别) | $100–400 |
| 日志记录/可观测性 | $20–100 |
| 工程维护(每周 2 小时 × $100/小时) | $800 |
| 总计 | $980–1,650/月 |
查询量达到 10,000 次时,模型成本占主导地位。达到 100,000 次查询时,你需要缓存、速率限制,并且可能需要针对低成本查询使用更小的模型。
“buy it”的形式#
“buy it”分为三类:
独立的文档聊天产品#
提供文档 URL,即可获得聊天小组件。示例:kapa.ai、intercom Fin、定制 GPT。
- 成本:每月 30–500 美元,具体取决于用量
- 优点:独立于您的文档平台
- 缺点:独立的控制面板、独立的账单、独立的分析功能,并且通常无法读取源文件
包含 AI 的文档平台#
Docsbook、Mintlify、GitBook 将 AI 聊天作为一项功能提供。聊天功能基于您的内容进行训练,并集成到文档界面中。
- 成本:Mintlify 和 GitBook 采用订阅制,Docsbook 按 AI 使用量计费——请查看各供应商自己的定价页面
- 优点:一个平台、一张账单、原生集成、一个分析视图
- 缺点:您对供应商的选择取决于平台的选择
自托管开源 RAG#
示例:Anything LLM、Chainlit、自定义 LangChain 技术栈。您负责自行托管和集成。
- 成本:仅需承担托管费用和您的时间
- 优点:完全掌控
- 缺点:与“自行构建”承担相同的工程工作量,只是无需进行提示词工程
何时真正应该构建#
仅在满足以下一项或多项条件时进行构建:
- 多源 RAG — 你希望通过一个聊天界面从文档 + CRM + 知识库 + Slack 历史记录中提取信息
- 严格的数据驻留要求 — 每一个字节都必须保留在你的 VPC 和 DPA 范围内
- 自定义检索逻辑 — 你的内容具有现成检索无法利用的结构(图、层级)
- 已有平台 — 你已经拥有一个面向客户的 AI 界面,需要将其扩展到文档
如果文档是唯一的使用场景,就购买现成方案。
Docsbook AI 聊天中可自定义的内容#
Docsbook 为您提供了比大多数托管选项更多的控制权:
- 提供商 — OpenAI、Anthropic、Gemini、OpenRouter。使用您自己的 API 密钥,并选择模型。
- 系统提示词 — 完整文本替换
- 前置/后置钩子 — 在调用模型之前拦截查询,对答案进行后处理
- 用量 — 根据项目余额按美元计量;余额用完后,助手会停止回答,而不是继续计费
如果这些选项仍无法满足您的需求,“自行构建”的计算方式会有所不同 — 但大多数团队并不会如此。
实际决策#
依次回答三个问题:
- 文档是你唯一需要的 AI 入口吗? 是 → 购买。否 → 考虑自行构建,因为这样一来,该流水线将由多个入口共享。
- 未来十八个月内,是否有人负责检索质量? 否 → 购买。构建流水线并不是难点;随着文档变化,持续保证其回答质量才是。
- 订阅成本相对于工程师的时间成本是否占比较大? 用你自己的数据,将平台一个月的费用与原本负责维护它的人一天的成本进行比较。
对大多数团队而言,购买是正确选择,原因在于一个结构性事实:文档 AI 是一项维护承诺,而不是一次性构建。应该自行构建的团队,是那些正在构建更广泛的 AI 产品、且文档只是多个入口之一的团队。
相关阅读#
Docsbook AI 聊天:支持使用您自己的提供商、设置您自己的系统提示词,并在模型调用前后接入请求处理逻辑。费用按美元从项目余额中计量扣除,而不是按套餐销售——当前价格请查看 docsbook.io/pricing。