# 模型在业务场景中的落地全景

> 面向技术决策者的场景地图：哪些能力真正提效、各行业怎么用、坑在哪里、按什么顺序做。

---

## 0. 一句话结论

模型能不能提效，不取决于模型有多强，而取决于任务是否同时满足三个条件：

1. **高频重复** —— 单次价值低但量大，人力边际成本高
2. **有明确判定标准** —— 对错的验收口径可以被写下来
3. **错一次的代价可承受** —— 有人工兜底，或后果可回滚

三条全中，效率提升 5–10 倍；少一条，基本就是个 POC。

---

## 1. 六类能力与场景映射

| 能力域 | 技术底座 | 典型场景 |
|---|---|---|
| **语音**（听与说） | 流式 ASR + TTS + 情绪识别 + 语义 VAD | 智能外呼、语义 IVR、坐席实时辅助 |
| **对话**（客服与助手） | LLM + RAG + 工单系统打通 | 售前导购、售后工单闭环、内部知识问答 |
| **生成**（推荐与营销） | 向量召回 + 生成式排序 + 内容生成 | 个性化推荐、素材批量生成、动态落地页 |
| **预测**（风控与分案） | 序列模型 + 增益建模 + 图学习 | 还款概率、最优触达策略、反欺诈识别 |
| **文档**（识别与抽取） | OCR + 版面理解 + 结构化抽取 | 票据单据抽取、合同合规审阅、报告自动撰写 |
| **执行**（Agent 与代码） | 工具编排 + 多步任务规划 | 研发编码提效、跨系统流程自动化、经营分析助手 |

---

## 2. 语音：投入产出比最确定的一层

### 2.1 技术链路

```
流式 ASR → 意图理解(LLM) → 对话状态机 → TTS → 打断/静音检测(VAD)
```

### 2.2 决定成败的不是 ASR 准确率

主流厂商的 ASR 识别率已经挤在 **96.5%–98.7%** 区间，八家品牌里七家的差距不到 2 个百分点。真正的分水岭是三个工程细节：

- **语义 VAD 判停窗口**：控制在 300–500ms。太短会误打断用户说话中的停顿和修正，太长对话节奏拖沓
- **打断与恢复能力**：用户插话后能否回到原话题，而不是重新开始
- **情绪识别**：识别愤怒、焦虑、无奈，动态调整语速与话术策略

### 2.3 三类场景的实测量级

| 场景 | 技术要点 | 实测量级 |
|---|---|---|
| **智能外呼**（催收/续保/通知） | 大模型对话 + 合规话术库 + RAG 约束回答 + 情绪识别调策略 | 触达效率 10–20 倍；人力成本 −60%~80%；回收率 +20%~35% |
| **语义 IVR** | 自然语言直接导航，替代按键菜单 | 转人工率 −30%~40%；AI 分流率 60%+ |
| **坐席实时辅助** | 实时转写 + 知识召回 + 话术提示 + 自动填单 | AHT −30%~50%；工单创建从 1 分钟降到 10 秒 |

### 2.4 核心认知

**语音机器人擅长"筛选"和"覆盖"，不擅长"成交"和"承诺"。**

- 纯 AI 直接成交率：**1%–3%**
- "AI 初筛 + 人工跟进"：**5%–15%**
- 因此覆盖量和转化率必须分开算账，用同一个 ROI 公式评估会得出错误结论

---

## 3. 客服：从问答工具到服务 Agent

单点问答已经不是难点，价值已经转移到**工单闭环**：通话/对话中自动建单 → 流转 → 触发回访，且全程与 CRM、订单、物流系统打通。

多数厂商的"工单"是独立模块，没和 Agent 打通 —— 这是选型时最容易被忽略的差异点。

### 3.1 关键指标

| 指标 | 行业 benchmark |
|---|---|
| Tier-1 自助解决率 | 60%–85% |
| AHT 下降 | 30%–50% |
| 工单创建时间 | 分钟级 → 10 秒级 |

### 3.2 工程要点

- **知识库必须先治理**：权限清晰、有唯一真相源、更新自动化。文档散落在各种系统、文件夹、聊天记录和个人设备里时，RAG 会返回错误或越权结果，逼你长期靠人工兜底，ROI 反向恶化
- **架构**：混合检索（向量 + BM25）→ 重排（reranking）→ LLM 生成 → 引用校验
- **分块策略和重排对最终质量的贡献，大于模型选型本身**

---

## 4. 推荐与营销：从"匹配"走向"生成"

### 4.1 范式已经换代

```
旧：协同过滤 + 双塔召回 + DNN 精排
新：生成式召回（语义 ID / 层次化编码）→ 生成式排序（Decoder-only）→ 生成式解释
```

### 4.2 工业落地现状

- 百度 COBRA / GRAB、快手 OneRec / GR4AD、高德 Spacetime-GR 均已完成全量工业部署
- 高德 Spacetime-GR 线上实测：场景 A CTR +6%、CVR +4.2%；场景 B PV CTR +15.4%、UV CTR +7.1%；排序 AUC 从 0.7043 提升到 0.7385
- 电商独立站用语义推荐替代协同过滤：CTR +37%，平均停留时长 +52%
- 快手 GR4AD 已在广告平台全面落地并有明确业务收益

### 4.3 真正的难点在成本不在效果

生成式推荐对算力和推理架构要求极高。百度的做法是叠加数十项性能优化（KV cache、算子融合、量化、稀疏化、并行化、异步化），在效果几乎无损的前提下把算力成本压掉几十倍。

**结论**：不要一上来推倒重来。把生成式模型作为**增量层**嵌进现有架构（生成式重排、语义召回补充），是当前性价比最高的路径。

---

## 5. 风控与催收：最容易被搞反的一层

以催收为例，必须拆成三层看，且价值密度是倒过来的：

```
第一层  分案（先打给谁、用什么渠道、什么时点）—— 不需要打电话，纯模型
第二层  触达（怎么把话说清楚）—— 外呼机器人 / 短信 / WhatsApp / IVR
第三层  协商（能不能拿到有约束力的承诺）—— 减免、分期、展期、法务
```

### 5.1 省钱的是第一层，不是第二层

大部分团队把预算和注意力全砸在外呼机器人上，而真正省钱的是那个最不起眼的**排序模型**。

传统做法按逾期天数一刀切，同时产生两种浪费：高意愿客户被过度打扰，低意愿客户触达不足。

公开案例的量级：

| 案例 | 做法 | 结果 |
|---|---|---|
| 某跨国银行 | 还款意愿预测模型替换 DPD 一刀切 | AUC 0.87（原 0.71）；坏账率 −28%；回收率 +19% |
| 印度某私营银行 | AI 做"下一步最优动作"替代统一催收活动 | 目标客群回收率 +8%~15%；高意愿客户过度触达显著下降 |

### 5.2 排序模型必须包含"触达增量"

只按"还款概率"排序，资源永远会堆在那些**不催也会还**的人身上。正确的目标变量是"被触达后的增量还款概率"，而不是单纯的还款概率。

同时要回答三个具体问题：

- 谁在被触达后最可能还？（不是"谁最可能还"）
- 用什么渠道最有效？（渠道错配的转化损失常大于触达量不足）
- 什么时点最有效？（发薪日前后、工作日晚上、周末，不同市场差异极大）

### 5.3 一个必须知道的反面证据

2025 年有学术研究结论：用 AI 做首次触达的借款人，一年后偿还初始逾期金额的比例比全程人工触达**低约 1%**，且更容易在后续账期再次逾期。

原因是 AI 更难拿到"有约束力的还款承诺"。这不是说 AI 没用，而是分工错了。

### 5.4 正确的分工

| 账龄段 | 主导方 | 分工 |
|---|---|---|
| 1–30 天 | AI 主导 | 提醒、确认、给支付链接、记录承诺 |
| 31–60 天 | 人机协同 | AI 负责排程、记录、合规监控；涉及真实困难或争议的必须转人 |
| 60 天以上 | 以人为主 | 协商能力、共情能力、判断力，机器人明显不如人 |

### 5.5 第三层不该交给模型

原因三条：

1. **减免与重组权限不能下放**：直接影响拨备、回收预期和定价模型，交给自动应答的机器人等于放弃政策一致性
2. **承诺的法律后果需要有人承担**：机器人随口说出的"可以分六期"，被录音留存后很难否认
3. **情绪≠语义**：一个说"我下个月一定还"的人，可能在拖延，也可能真的只是周转不开。这个判断需要经验，不是语音识别能解决的

**稳妥做法**：机器人只做到"识别困难信号 + 转人"。一旦听到失业、生病、家庭变故、明确争议，立刻停止施压，把完整上下文交给人工座席 —— 不要让借款人把同一件事讲两遍。

### 5.6 合规四条硬线（2026 年框架）

约束的是**系统配置**，而不是员工行为。对人工座席，违规是"个人犯错"；对 AI，违规是"系统缺陷"，一旦被发现就是批量违规。

| 维度 | 关键要求 |
|---|---|
| **时间线** | 中国：22:00–次日 8:00 禁止催收；印尼：08:00–20:00 且仅限周一至周六；印度：08:00–19:00 |
| **频次线** | 中国：语音催收每日拨通合计不超过 3 次，未接通当天尝试不超过 6 次；美国需按"7 天内 7 次"实时监控，拨号前拦截 |
| **对象线** | 只向债务人本人催收，不得向联系人催收或透露欠款信息 |
| **身份线** | AI 必须在通话开始时明确披露"本次为 AI 语音"，并提供转人工与退出选项 |

这些限制必须做成**硬编码护栏**，而不是写在提示词里靠模型自觉。

---

## 6. 文档、研发与执行

### 6.1 文档与知识

- **票据/合同抽取**：准确率 85%–95%，常规审阅省时 40%–70%
- **报告自动撰写**：财务、审计、经营分析的初稿生成
- **内部知识问答**：helpdesk 工单分流 30%–50%

这是 ROI 最高、风险最低的入门场景：错误代价低、可人工复核、一到两周能上线。

### 6.2 研发

- 代码生成 + 审查：开发者生产力提升 20%–40%
- 集中在样板代码、单元测试、code review、文档生成
- 对遗留系统的价值主要来自"读懂陌生代码库"，而不是"写新功能"

### 6.3 跨系统 Agent（ROI 最分化）

| 分组 | 12 个月投入产出比 |
|---|---|
| 领先部署（前 10%） | $1 投入 → $3–7 回报 |
| 中位数部署 | $1 投入 → $0.8–1.2 回报（基本打平） |

差异几乎完全由**范围控制**解释：

- 单领域 Agent 比通用 Agent 表现好 3–5 倍
- 工具数量超过 7 个后，错误开始指数级复合
- RAG 兜底可减少 40%–60% 的幻觉错误
- 加入人工确认环节，纠错成本降低约 22%

ROI 崩掉的地方：开放式研究型 Agent、无人工检查点的多系统编排、强判断依赖的工作流 —— 这三类在 60%+ 的试点里是负回报。

---

## 7. 效率提升区间横向对比

| 场景 | 效率提升区间 | 成熟度 |
|---|---|---|
| 内容素材生产 | +300% ~ +800% | 成熟 |
| 票据/文档抽取 | +120% ~ +200% | 成熟 |
| 客服 Tier-1 自助解决 | +60% ~ +85% | 成熟 |
| 研发编码 | +20% ~ +40% | 成熟 |
| 催收回收率 | +20% ~ +35% | 成熟（需分工设计） |
| 推荐点击率 | +6% ~ +15% | 成熟（成本敏感） |
| 跨系统 Agent | −20% ~ +600% | **需谨慎评估** |

> 口径说明：以上为公开案例与行业 benchmark 的典型区间，非单一来源统计。不同业务基数、数据质量、运营水平会导致实际结果显著偏离。

---

## 8. 落地顺序

不要按"哪个场景最热门"排，按 **错误的代价 × 调用量** 排。这个值从低到高，恰好就是推荐顺序：

| 阶段 | 场景 | 为什么排这个位置 |
|---|---|---|
| 1 | 内部知识问答 + 文档抽取 | 错误代价低、可人工复核、一两周上线，用来建立 eval 基准和团队信心 |
| 2 | 坐席/客服辅助（human-in-the-loop） | 人仍是决策者，AI 只做提示，风险可控，收益立刻可测（AHT、工单时长） |
| 3 | 决策排序层（分案/推荐/线索评分） | 不直接对外说话，只影响资源分配，ROI 最高且容易 A/B 验证 |
| 4 | 全自动外呼/对话 | 面对监管和客诉压力，必须先在 1、2 步积累好评测集和合规护栏 |
| 5 | 自主协商、资金相关决策 | 很多场景根本不该做 |

**最常见的错误是顺序颠倒**：一上来买外呼机器人做全自动，结果早期账龄跑得不错，中长期账龄反而恶化 —— 因为人被减掉了，而那一段最需要人。通常会在客诉上先吃到教训。

---

## 9. 六个最常见的坑

| # | 坑 | 表现 | 对策 |
|---|---|---|---|
| 1 | 从"模型能力"出发，不从"工作流"出发 | POC 演示很亮眼，上线后没人用 | 先量化现状基线（耗时/成本/错误率），再选模型。45% 的 AI 项目失败根因是数据质量，不是模型 |
| 2 | 没有 eval set 就上线 | 改一个 prompt 全盘崩，且无法回滚 | 建 100–500 条 ground truth，每次部署前跑一遍，跟踪准确率/延迟/单次成本 |
| 3 | Agent 工具数量失控 | 工具超过 7 个后错误指数级复合 | 单领域、工具 ≤7 个、不可逆动作必须人工确认 |
| 4 | 只算准确率，不算单位经济性 | 日均万次调用、2k context，账单失控 | 缓存、分级路由（简单任务走小模型）、把成本作为生产指标监控 |
| 5 | RAG 知识库没有唯一真相源 | 越权回答、错误回答，长期靠人工兜底 | 先治理元数据、权限、更新机制，再谈检索效果。检索精度目标是 85%+ |
| 6 | 合规写在 prompt 里 | 对人是个人违规，对 AI 是系统级批量违规 | 时间/频次/对象/身份披露做成硬编码护栏 |

---

## 10. 总结

2026 年模型能力的差距已经很小，真正的差距在：

1. **你是否把工作流拆得足够细** —— 拆不开就只能做 Demo
2. **边界是否卡得住** —— 范围、工具数、人工检查点
3. **有没有一套能用的评测** —— 没有 eval，所有优化都是玄学

同一个模型，把 Agent 范围收窄、工具缩减到 2 个，失败率能从 34% 降到 4% 以下。变的不是模型，是工程纪律。

---

## 附录：主要数据出处

- 催收三层架构、监管四条硬线、印度/印尼/美国市场规则对比 —— 「AI 风控实验室」公开研究整理
- 语音外呼与客服效率量级 —— 2026 年多家厂商公开案例与第三方实测（彩讯 Voice Agent、伶鹊、合力亿捷、阿里云智能联络中心、科大讯飞）
- 生成式推荐工业落地 —— 百度 GTC 2026 分享、快手技术沙龙、高德 ICDM 2026 论文（arXiv:2508.16126）
- 企业 AI 落地 ROI 分布、Agent 自治上限框架 —— 2026 年行业集成实践报告汇总
- 中国催收国家标准 —— GB/T 45251-2025《互联网金融 个人网络消费信贷 贷后催收风控指引》

> 注：本文数据均为公开渠道量级参考，落地前须以自身业务基线实测为准。