# 平台搭建与业务赋能 > 五层架构、关键组件、六个必须做对的设计,以及给业务人员的三个界面。 ## 6. 平台搭建:五层架构,让业务自己跑 ### 6.1 总体架构 ~~~text ┌──────────────────────────────────────────────────────────────┐ │ 接入层 SIP 中继 / WebRTC / HTTP API / SDK / 小程序 / 硬件 │ ├──────────────────────────────────────────────────────────────┤ │ 能力层 ASR │ TTS │ 声纹 │ 降噪 │ 语义对话 │ 端到端语音 │ │ 模型路由 · 灰度 · 缓存 · 故障切换 · 配额 │ ├──────────────────────────────────────────────────────────────┤ │ 编排层 话术流程 · Agent 工具 · 知识库 · 变量 · 转人工 · 回调 │ ├──────────────────────────────────────────────────────────────┤ │ 运营层 话术配置台 · 音色库 · 效果看板 · 质检 · AB 实验 │ ├──────────────────────────────────────────────────────────────┤ │ 治理层 租户 · 计费 · 审计 · 合规护栏 · 评测集 · 数据脱敏 │ └──────────────────────────────────────────────────────────────┘ ~~~ ### 6.2 关键组件与开源选型 | 组件 | 作用 | 可选方案 | | --- | --- | --- | | 语音网关 | 屏蔽厂商差异,一套 API 多后端 | 自研 + APISIX / Kong | | 流式通道 | WebSocket 双向音频、打断信令 | 自研(推荐)、LiveKit | | ASR 服务 | 流式/离线识别、热词 | FunASR、SenseVoice、云 API | | TTS 服务 | 流式合成、音色管理 | CosyVoice 2、IndexTTS2、云 API | | 对话编排 | 流程、工具调用、知识库 | Dify / Coze / 自研状态机 | | 向量库 | RAG 检索 | Milvus、pgvector | | 监控 | 延迟、成功率、成本 | Prometheus + Grafana | | 标注与评测 | 数据集、回归 | Label Studio + 自研脚本 | ### 6.3 六个必须做对的设计 1. **统一网关**:业务只调一套接口,厂商可替换;主备切换对业务透明。 2. **流式协议**:二进制音频帧 + 文本事件 + 打断信令,三类消息分离,避免「一句话等三秒」。 3. **模型路由**:按语言、方言、合规、成本、负载选模型;新模型先 5%–10% 灰度,看任务完成率而不是 CER。 4. **评测闭环**:100–500 条 golden set,覆盖正常、噪声、方言、打断、违规五类;每次上线自动回归,指标含任务完成率、首包延迟、单次成本。 5. **数据闭环**:脱敏 → 难例标注 → 微调/热词更新 → 回归 → 灰度,按周迭代。 6. **合规硬编码**:时间、频次、对象、AI 身份披露做成系统护栏,不写进提示词;录音留存与审计日志默认开启。 ### 6.4 部署形态 | 形态 | 适用 | 成本 | 交付周期 | | --- | --- | --- | --- | | 公有云 SaaS | 中小企业、快速验证 | 低,按量 | 1–3 天 | | 私有化 | 金融、医疗、政务 | 高,需 GPU 与运维 | 4–8 周 | | 混合 | 大型企业、数据分级 | 中,架构复杂 | 6–12 周 | ### 6.5 最小可用链路(MVP) ~~~text SIP 网关 → 流式 ASR → LLM(带知识库)→ 流式 TTS → 线路回放 ↓ 转写落库 → 质检规则 → 效果看板 ~~~ - 团队 3–5 人:语音/算法 1、后端 2、前端/运营 1; - 单卡 4090 可支撑数十路并发的轻量 ASR + TTS(视模型与音频长度),足够跑通 POC; - 6–8 周可交付「可外呼、可看数、可转人工」的第一版,别一上来做多租户计费。 ## 7. 给业务人员的三个界面 平台的价值不是让业务看懂模型,而是让业务**不碰模型也能改效果**。 | 界面 | 业务能做什么 | 不该暴露什么 | | --- | --- | --- | | **话术编排台** | 拖拽节点、改变量、挂知识库、设转人工条件;改完即时试听 | 模型参数、温度、并发数 | | **试跑与对比** | 单通模拟、100 通批量压测、A/B 两版话术对比 | 底层推理细节 | | **效果看板** | 接通率、意向率、转化率、AHT、单通成本、投诉率;按话术/音色/线路下钻 | 原始音频(需权限与脱敏) | 配套三条规则: - **业务可改的,产品化**:话术、音色、打断容忍度、转人工阈值; - **业务不可改的,锁死**:合规护栏、录音留存、频次上限; - **每次改动可回滚**:版本化 + 一键回退,避免「谁改坏了话术」扯皮。 --- 上一篇:[业务问题与技术方案](05-业务问题与技术方案.md) · [返回语音索引](README.md) · 下一篇:[落地路线与检查清单](07-落地路线与检查清单.md)