Docsbook
概览

文档的 AI 聊天:应该自行构建还是购买?

你决定文档需要 AI 聊天功能。接下来的决策比人们预想的更重要——它决定了 3–6 周的工程投入,以及未来 18 个月的模型成本优化方向。

以下是 2026 年真实的成本明细。

简而言之#

自行构建 购买现成方案
初始成本 3–6 个工程师周的构建工作 以小时计的设置时间
月度成本 向量存储、嵌入、模型调用,以及负责维护它的人员 订阅费用或按使用量计费,具体取决于供应商
上线时间 数周到数月 数小时
定制化 完全可定制 钩子、系统提示词、服务提供商
维护 持续进行——随着文档变化,检索质量会逐渐下降 由供应商负责
最适合 特定的 RAG 需求、非文档类用例 专门用于文档

如果专门针对文档,请购买现成方案。只有当你的 AI 聊天需求超出文档范围时,才考虑自行构建——即在多个界面上整合知识库、产品帮助和支持分流。

“构建它”实际需要什么#

用于文档的生产级 RAG(检索增强生成)管道包含六个组件:

1. 内容摄取#

  • 监控您的文档源(GitHub、MDX 文件夹、CMS)
  • 解析为多个区块(通常为 500–1500 个令牌)
  • 处理 Markdown、代码块、表格和 frontmatter
  • 每次更改时重新建立索引,无需全部重新构建

工程工作量:如果您以前做过,需要 1 周;如果没有,需要 2 周。

2. 嵌入#

  • 选择一个嵌入模型(OpenAI text-embedding-3-small、Cohere 或开源模型)
  • 对每个分块进行嵌入
  • 源内容发生变化时重新嵌入
  • 处理速率限制和批处理

工程实施:3–5 天。

3. 向量存储#

  • 选择存储方案(Pinecone、Weaviate、pgvector、Qdrant、Turbopuffer)
  • 架构设计(元数据、每个工作区使用独立命名空间)
  • 查询性能
  • 备份和迁移计划

工程实施:1 周。持续基础设施成本:每月 50–300 美元。

4. 查询流水线#

  • 嵌入用户查询
  • 检索排名前 K 的文本块
  • 重新排序(通常需要调用第二个模型)
  • 将上下文格式化到提示词中
  • 调用 LLM
  • 解析并返回答案

工程周期:1–2 周。

5. 前端#

  • 聊天 UI 组件
  • 流式响应处理
  • 引用链接至源页面
  • 对话记忆
  • 反馈组件(赞/踩)

工程开发:1 周。

6. 可观测性和分析#

  • 记录每个查询和答案
  • 跟踪未回答的查询(未来的内容空白)
  • 跟踪负面反馈
  • 每次查询的成本
  • 延迟 P50/P95/P99

工程:1 周。

总计:至少 6 个工程师周,边缘情况出现后通常超过 10 个工程师周。

“自行构建”的持续成本#

中等用量下(1,000 次查询)每月:

成本
向量存储 $50–300
嵌入 API $10–50
LLM API(GPT-4 级别) $100–400
日志记录/可观测性 $20–100
工程维护(每周 2 小时 × $100/小时) $800
总计 $980–1,650/月

查询量达到 10,000 次时,模型成本占主导地位。达到 100,000 次查询时,你需要缓存、速率限制,并且可能需要针对低成本查询使用更小的模型。

“buy it”的形式#

“buy it”分为三类:

独立的文档聊天产品#

提供文档 URL,即可获得聊天小组件。示例:kapa.ai、intercom Fin、定制 GPT。

  • 成本:每月 30–500 美元,具体取决于用量
  • 优点:独立于您的文档平台
  • 缺点:独立的控制面板、独立的账单、独立的分析功能,并且通常无法读取源文件

包含 AI 的文档平台#

Docsbook、Mintlify、GitBook 将 AI 聊天作为一项功能提供。聊天功能基于您的内容进行训练,并集成到文档界面中。

  • 成本:Mintlify 和 GitBook 采用订阅制,Docsbook 按 AI 使用量计费——请查看各供应商自己的定价页面
  • 优点:一个平台、一张账单、原生集成、一个分析视图
  • 缺点:您对供应商的选择取决于平台的选择

自托管开源 RAG#

示例:Anything LLM、Chainlit、自定义 LangChain 技术栈。您负责自行托管和集成。

  • 成本:仅需承担托管费用和您的时间
  • 优点:完全掌控
  • 缺点:与“自行构建”承担相同的工程工作量,只是无需进行提示词工程

何时真正应该构建#

仅在满足以下一项或多项条件时进行构建:

  1. 多源 RAG — 你希望通过一个聊天界面从文档 + CRM + 知识库 + Slack 历史记录中提取信息
  2. 严格的数据驻留要求 — 每一个字节都必须保留在你的 VPC 和 DPA 范围内
  3. 自定义检索逻辑 — 你的内容具有现成检索无法利用的结构(图、层级)
  4. 已有平台 — 你已经拥有一个面向客户的 AI 界面,需要将其扩展到文档

如果文档是唯一的使用场景,就购买现成方案。

Docsbook AI 聊天中可自定义的内容#

Docsbook 为您提供了比大多数托管选项更多的控制权:

  • 提供商 — OpenAI、Anthropic、Gemini、OpenRouter。使用您自己的 API 密钥,并选择模型。
  • 系统提示词 — 完整文本替换
  • 前置/后置钩子 — 在调用模型之前拦截查询,对答案进行后处理
  • 用量 — 根据项目余额按美元计量;余额用完后,助手会停止回答,而不是继续计费

如果这些选项仍无法满足您的需求,“自行构建”的计算方式会有所不同 — 但大多数团队并不会如此。

实际决策#

依次回答三个问题:

  1. 文档是你唯一需要的 AI 入口吗? 是 → 购买。否 → 考虑自行构建,因为这样一来,该流水线将由多个入口共享。
  2. 未来十八个月内,是否有人负责检索质量? 否 → 购买。构建流水线并不是难点;随着文档变化,持续保证其回答质量才是。
  3. 订阅成本相对于工程师的时间成本是否占比较大? 用你自己的数据,将平台一个月的费用与原本负责维护它的人一天的成本进行比较。

对大多数团队而言,购买是正确选择,原因在于一个结构性事实:文档 AI 是一项维护承诺,而不是一次性构建。应该自行构建的团队,是那些正在构建更广泛的 AI 产品、且文档只是多个入口之一的团队。


Docsbook AI 聊天:支持使用您自己的提供商、设置您自己的系统提示词,并在模型调用前后接入请求处理逻辑。费用按美元从项目余额中计量扣除,而不是按套餐销售——当前价格请查看 docsbook.io/pricing

免费开始——无需信用卡

Updated

此页面对您有帮助吗?