lijiaoqiao/docs/llm_gateway_prd_v1_2026-03-25.md

商用 LLM 通用转发网关 PRD v1（冻结版）

• 版本：v1.0（冻结稿）
• 日期：2026-03-25
• 文档类型：产品需求文档（冻结版，含执行映射）
• 关联文档：
  • llm_gateway_competitor_function_business_2026-03-16.md
  • llm_gateway_product_strategy_roadmap_2026-03-16.md
  • llm_gateway_subapi_evolution_plan_v4_2_2026-03-24.md
  • supply_button_level_prd_v1_2026-03-25.md
  • supply_api_contract_openapi_draft_v1_2026-03-25.yaml
  • supply_ui_test_cases_executable_v1_2026-03-25.md

1. 背景与问题定义

1.1 背景

企业与团队正在同时使用多个 LLM 供应商，常见问题是：

1. 调用入口分散，难以统一管理
2. 成本快速增长但不可解释
3. 供应商波动导致业务不稳定
4. 预算、权限、审计缺少统一控制面

1.2 目标问题

构建一个统一网关产品，帮助客户完成：

1. 统一接入（降低研发复杂度）
2. 统一路由（提升可用性与效率）
3. 统一治理（预算、权限、审计）
4. 统一经营（成本归因、告警、账单）

1.3 非目标（v0 阶段）

1. 不做模型训练与微调平台
2. 不做复杂 Agent 工作流编排
3. 不做行业化应用层模板市场

2. 用户画像与 JTBD

2.1 角色画像

1. 平台管理员（Admin）
   • 负责组织级策略、预算、权限
2. AI 应用开发者（Developer）
   • 负责接入模型与业务落地
3. 财务/运营负责人（Ops/FinOps）
   • 负责成本追踪、对账与预算控制

2.2 JTBD

1. 作为平台管理员，我要在一个控制台里管理团队与 key，确保调用可控。
2. 作为开发者，我要用统一 API 调用多个模型，减少改造成本。
3. 作为运营负责人，我要按团队/项目看到成本和异常，便于追责与优化。

3. 价值主张与成功标准

3.1 价值主张

1. 更简单：统一 API 和统一控制台
2. 更可控：预算、限流、回退、审计
3. 更省钱：可追踪、可归因、可优化

3.2 成功标准（产品层）

1. 首次接入时间：新团队 1 天内完成接入
2. 成本可解释率：90%+ 调用可归因到团队/项目
3. 预算风控有效率：预算超限前告警命中率 95%+
4. 月活团队留存：30 天留存 >= 40%

4. 需求范围与优先级

4.1 P0（首发必须）

1. 统一 API 接入
   • OpenAI 兼容调用
   • 模型目录展示与选择
2. 基础路由与稳定性
   • 多 provider 负载与 fallback
   • 请求重试与错误可见
3. 身份与密钥管理
   • 组织、团队、API Key 管理
   • Key 状态与权限控制
4. 预算与配额
   • 团队级预算阈值
   • 基础限流策略
5. 成本看板
   • 按团队/模型/时间维度查看调用成本
6. 告警与通知
   • 预算、错误率、异常波动告警
7. 账单导出
   • 周期账单汇总与 CSV 导出

4.2 P1（3-6 个月）

1. 多角色权限（管理员、开发者、只读）
2. 审计日志（策略与 key 变更）
3. 项目级成本归因
4. 路由策略模板（按场景）
5. 可观测增强（失败聚类、异常洞察）

4.3 P2（6-12 个月）

1. 企业身份集成（SSO/SAML/OIDC）
2. 合规能力包（审计报表、策略模板）
3. 更长周期账务与财务对接
4. 生态集成（工单/告警/数据平台）

5. 核心用户流程

5.1 流程 1：组织开通与初始化

1. 管理员创建组织
2. 创建团队与成员
3. 设置默认预算与告警阈值
4. 生成首个 API Key

验收标准：首次开通流程在 30 分钟内可完成。

5.2 流程 2：开发者接入调用

1. 开发者获取组织 API Key
2. 替换 base URL 与 key 完成调用
3. 在控制台查看请求结果与成本

验收标准：开发者无需修改业务协议即可发起调用。

5.3 流程 3：预算与告警

1. 管理员设置预算阈值
2. 系统实时监测并触发告警
3. 管理员查看告警上下文并调整策略

验收标准：阈值触发后 1 分钟内完成通知。

5.4 流程 4：账单与复盘

1. 运营负责人按周期查看账单
2. 按团队/模型拆分成本
3. 导出账单用于财务核对

验收标准：账单数据和调用数据一致性可验证。

6. 关键产品规则

1. 所有请求必须可追踪到组织与团队。
2. 预算阈值触发后必须有可操作建议（降级/限流/告警升级）。
3. 用户可在同一控制台查看“调用结果 + 成本 + 告警”。
4. 策略变更必须可审计（谁、何时、改了什么）。

7. 指标体系（KPI）

7.1 增长指标

1. 新增组织数
2. 激活团队数（周活/月活）
3. 试用转付费转化率

7.2 价值指标

1. 受管调用量
2. 预算告警命中率
3. 成本归因覆盖率

7.3 商业指标

1. MRR
2. 付费客户数
3. 续费率/扩容率

8. 发布计划

8.1 里程碑

1. Alpha（内部可用）
   • 完成 P0 主流程闭环
2. Beta（设计合作伙伴）
   • 引入 5-10 家团队试用
3. GA（正式发布）
   • 推出 Free/Growth 套餐

8.2 发布门槛（Go/No-Go）

1. 关键流程无阻塞（开通、调用、预算、账单）
2. 数据可追踪与可归因达标
3. 客户试用反馈达到最低满意度阈值（内部定义）

9. 依赖与风险

9.1 关键依赖

1. 供应商接入稳定性
2. 计费与账单口径统一
3. 告警渠道与通知系统稳定
4. 数据库跨域模型完整（Core/IAM/Auth/Billing/Supply/Audit）
5. 依赖版本兼容审计机制可执行（SBOM + 锁文件差异 + 兼容矩阵 + 风险清单）

9.2 主要风险

1. 功能边界过宽导致首发延期
2. 缺少真实客户数据导致价值表达不足
3. 定价方案与客户价值感知不匹配
4. 依赖版本漂移导致线上兼容故障
5. 阶段门禁不完整导致实现偏离需求主线

9.3 风险缓解

1. 坚持 P0 边界，P1/P2 延后
2. 以设计合作伙伴反馈驱动迭代
3. 发布前完成小规模定价验证访谈
4. 将依赖兼容审计和分阶段质量门禁纳入发布前阻断条件

10. 已冻结决策（v1.0 生效）

1. 首发主轴：成本治理 + 合规可审计 双主轴并行，不做二选一。
2. Growth 套餐核心计价指标：以“受管成本”为主，请求量作为辅助观测指标。
3. 企业版首批必含能力（三项）：
   • SSO/SAML/OIDC 企业身份接入
   • 审计报表与策略留痕导出
   • 账务争议 SLA 与补偿闭环
4. 凭证边界：用户A仅向平台供给上游凭证，用户B仅使用平台凭证，不得获取上游凭证。

11. 需求到执行映射（P0）

Requirement ID	需求	接口契约	测试用例	门禁指标
PRD-P0-01	供应账号挂载与验证	POST /api/v1/supply/accounts/verify、POST /api/v1/supply/accounts	UI-SUP-ACC-001~006	M-013/M-014
PRD-P0-02	套餐发布与上下架	POST /api/v1/supply/packages/*	UI-SUP-PKG-001~006	M-011
PRD-P0-03	收益结算与提现	POST /api/v1/supply/settlements/withdraw 等	UI-SUP-SET-001~005	账务差错率 M-004
PRD-P0-04	凭证边界强制约束	鉴权与导出相关全部接口	SEC-SUP-001~002、CB-001~004	M-013~M-016

12. 术语表

1. 受管成本：通过本平台网关记录并可归因的模型调用成本。
2. 预算账户：具备独立预算阈值与告警规则的组织单元。
3. 成本归因：将调用成本映射到组织/团队/项目/模型维度。