HOK CS

王者荣耀 · 智能客服 Agent 设计文档 · 含交互演示

v4.0 · 2026 · 赵永明
演示场景(点击加载)
🎮
王者荣耀智能客服
多 Agent 在线
等待场景
💬
选择左上角场景开始演示
或在下方输入框手动输入
— / —
空闲
⚙️
选择场景后,这里会展示 Agent 的完整处理链路
从 NLU 识别 · 任务派发 · 工具调用 · 规则核验 · 回复生成
🕸️
场景执行到图谱检索步骤时,这里会实时展示多跳推理路径
14 节点知识图谱 · 高亮查询经过的节点与边
三层多 Agent 协同架构
Orchestrator 负责路由与结果合并 · 5 个专域 Agent 并行处理 · 语言适配层按区服注入差异化规则 · 权限沙箱隔离防止跨域越权
L1 · 编排层 Orchestration Layer
Orchestrator Agent
NLU 意图识别 识别 5 大意图类别,判断单域/多域
任务派发 按域拆解任务,并行派发至专域 Agent
结果合并 汇聚子 Agent 输出,统一生成回复
Context Manager
会话状态 跨 Agent 共享多轮对话上下文
全局槽位 uid / platform / language 等通用字段
情绪追踪 情绪分值持续更新,防止重复追问
↓ 任务派发 A2A Protocol
L2 · 专域执行层 Domain Agents · 并行执行
支付退款 Agent
充值 / 退款 / 重复扣款
图谱:Order · Skin
对局补偿 Agent
掉线 / 外挂 / 挂机
图谱:Match · Compensation
游戏内容 Agent
英雄 / 皮肤 / 通行证
图谱:Hero · Skin · Season · Event
规则政策 Agent
规则仲裁 / SSOT
图谱:Policy(全量只读)
↓ 规则注入 按语言区版本
L3 · 语言适配层 Language Adapters
中文适配器
国服规则 · 个保法合规
微信 / 支付宝 · 退款期 7 天
繁中适配器
港澳台服 · 繁简转换
无防沉迷 · 本地支付
东南亚适配器
泰 / 印尼 / 马来 / 越南
PDPA · 退款期 14 天
英语适配器
EN-US 区服 · 通用规则集
Google Pay 渠道
一条请求的完整流转(多 Agent 并行场景)
01 用户输入 → Orchestrator NLU 识别意图(多个则准备并行派发)
02 Orchestrator 构造 {task_id, domain, slots, lang_adapter, timeout_ms} 下发
03 专域 Agent 并行执行:子图检索 → 工具调用 → Policy 核验 → 置信度评估
04 各 Agent 返回 {confidence, response_draft, evidence, escalate_flag}
05 Orchestrator 合并结果 → 语言适配器生成最终回复
06 任一 Agent 触发 escalate_flag=true → Orchestrator 统一升级人工

知识图谱节点全览

14 类实体节点 · 39 条关系边类型 · 支持多跳推理与语义检索

← 选择左侧节点查看完整属性与关系

知识图谱关系总览

14 节点 · 39 条关系边 · 全局结构 · 分域矩阵 · 多跳推理路径

全部关系边汇总(39 条)

#出发节点关系名称目标节点基数关系类型核心用途

分域关系矩阵

节点域分类

核心实体域
Player · Account — 用户身份与安全的根基节点
游戏内容域
Hero · Skin · Season · SeasonPass · Event — 游戏内可交互对象
行为记录域
Match · Order · Device — 玩家行为产生的动态数据
工单处理域
Issue · Punishment · Compensation · Policy — 客服流程节点

关系类型图例

归属/拥有
层级所属关系,如玩家拥有账号、英雄拥有皮肤
行为/参与
用户行为产生的关联,如参与对局、发起订单
规则/约束
策略对业务节点的约束,如退款政策约束订单
触发/关联
业务事件触发工单处理,如对局触发异常工单

关键多跳推理路径

节点度数统计(连接数排名)

节点出度(→)入度(←)总度数中心性角色说明

多 Agent 协同架构

Orchestrator + 5 专域 Agent + 语言适配层 · 三层结构 · 并行执行 · 权限隔离 · A2A 协议

单 Agent 架构的三个瓶颈

串行处理延迟叠加
「掉线被判负 + 充值未到账」两个独立问题需串行处理,对局异常 Agent 与支付 Agent 无法并行,总时延 = 各子任务时延之和
专业深度与覆盖的矛盾
一个 Agent 同时处理退款规则、封禁申诉、英雄技能、版本强度,知识边界模糊,微调时各域样本相互干扰,精度难以持续提升
多语言规则膨胀失控
7 种语言 × 差异化 Policy × 不同支付渠道,单 Agent System Prompt 膨胀至 8000+ Token,推理成本激增且规则冲突难排查

三层 Agent 架构总览

L1 · 编排层(Orchestration Layer)
Orchestrator Agent
接收用户输入,完成 NLU 意图路由和任务拆解,判断单域还是多域并行,汇总子 Agent 结果,生成最终回复。不直接回答业务问题,只做调度。
Context Manager
跨 Agent 共享上下文:维护会话状态、全局槽位(uid/platform/language)、情绪分值。确保子 Agent 间信息一致,防止重复追问用户。
L2 · 专域执行层(Domain Agent Layer)— 5 个专域 Agent 并行
账号安全 Agent
处理:登录失败/账号封禁/被盗/申诉
图谱权限:Account/Punishment/Device
工具权限:账号系统 API(只读+申诉提交)
支付退款 Agent
处理:充值到账/退款/重复扣款
图谱权限:Order/Skin(is_used)
工具权限:支付系统 API(只读+退款提交)
对局补偿 Agent
处理:掉线判负/外挂/挂机举报
图谱权限:Match/Compensation/Punishment
工具权限:对局记录 API(只读)
游戏内容 Agent
处理:英雄技能/皮肤查询/赛季通行证
图谱权限:Hero/Skin/Season/Event
工具权限:公告 API(只读)
规则政策 Agent
处理:退款规则/封禁标准/防沉迷
图谱权限:Policy(全量只读)
工具权限:无外部 API 调用
L3 · 语言适配层(Language Adapter Layer)— 按区服注入差异化规则
中文适配器
国服 Policy 版本 · 个保法合规 · 防沉迷规则 · 微信/支付宝渠道
繁中适配器
港澳台服规则 · 繁简转换 · 无防沉迷 · 本地支付渠道
东南亚适配器
泰/印尼/马来/越南 · PDPA 合规 · 14天退款期 · GoPay/TrueMoney
英语适配器
EN-US 区服规则 · 通用规则集 · Google Pay 渠道

Agent 间通信协议(A2A Protocol)

任务描述格式(Orchestrator → 专域 Agent)

{
  "task_id": "t-20260417-8821",
  "domain": "payment",
  "intent": "refund_request",
  "slots": {"order_id": "PO123", "uid": "u456"},
  "language_adapter": "zh-CN",
  "context_ref": "session_id_xxx",
  "timeout_ms": 3000,
  "priority": "P2"
}

结果返回格式(专域 Agent → Orchestrator)

{
  "task_id": "t-20260417-8821",
  "status": "success",
  "confidence": 0.91,
  "result_type": "auto_resolve",
  "response_draft": "您的退款...",
  "evidence": ["order#PO123", "policy#REFUND_001"],
  "escalate": false,
  "latency_ms": 1180
}

复合问题并行处理流程

用户输入
「掉线被判负,充值的皮肤也没收到」
→
Orchestrator 识别 2 个意图
对局异常 + 支付异常
并行派发
同时启动两个子任务
→
对局补偿 Agent(异步)
支付退款 Agent(异步)
并行执行,非串行
结果合并
两个 Agent 均返回结果
→
Orchestrator 合并两份回复草稿
去重共用槽位(uid 只查一次)
单条连贯回复输出
超时处理
某 Agent 超 3000ms
→
已完成的子任务先回复
超时任务异步处理后补充
触发告警

知识图谱配套变更:Policy 节点新增字段

新增字段类型用途示例值
applicable_agentstring[]标注哪些专域 Agent 有权读取此规则["payment_agent","policy_agent"]
applicable_languagestring[]此规则版本适用的语言区["zh-CN"] 或 ["th-TH","id-ID"]
parent_policy_idstring区域版本的父规则ID,支持规则继承"POLICY_REFUND_GLOBAL"
override_fieldsJSON相对父规则的差异化字段,仅存差异{"refund_days": 14}
agent_readable_summarytext机器可读的精简版规则摘要,注入 System Prompt 时用此字段而非全文"退款期14天,已使用不退"

专域 Agent 工具权限隔离矩阵

API / 工具账号安全 Agent支付退款 Agent对局补偿 Agent游戏内容 Agent规则政策 Agent
账号系统 API(读)✓ 完整读✓ 仅 ban_status✗✗✗
账号系统 API(写/申诉)✓ 申诉提交✗✗✗✗
支付系统 API(读)✗✓ 完整读✗✗✗
支付系统 API(退款提交)✗✓✗✗✗
对局记录 API✗✗✓ 完整读✗✗
补偿发放 API✗✗✓✗✗
公告/活动 API✗✗✗✓✗
知识图谱(Policy 全量)✓ 封禁类✓ 退款类✓ 补偿类✓ 内容类✓ 全量只读
FAQ 向量库✓✓✓✓✓
人工升级路由✗ 仅 Orchestrator✗ 仅 Orchestrator✗ 仅 Orchestrator✗ 仅 Orchestrator✗ 仅 Orchestrator

2026 年迁移路线图(单 Agent → 多 Agent)

2026年4月
当前节点 · 已完成
→
单 Agent 基线建立完成(87%)
A2A 协议标准化设计完成
Orchestrator Agent 开发完成
2026年5–6月
进行中
→
账号安全 + 支付退款 Agent 上线
灰度 10% 流量验证
Context Manager 接入
2026年7–9月
规划中
→
对局补偿 + 游戏内容 Agent 上线
并行调度能力验证
4 个语言适配器全量接入
2026年10–12月
目标
→
全量切换多 Agent 架构
自动解决率目标 92%
单会话时延目标 <1s

专域 Agent 内部架构

每个专域 Agent 的四层内部结构 · 知识图谱子图访问模式 · ReAct 工具调用链 · 结构化输出协议

单个专域 Agent 内部处理流水线

01
接收任务包
Orchestrator 分发
02
域内槽位补全
追问或图谱推断
03
子图多跳检索
本域 Cypher 查询
04
工具调用链
ReAct 最多5步
05
置信评估
判断是否升级
06
结构化返回
交 Orchestrator 汇聚

感知层 Perception

任务包解析
从 Orchestrator 接收 task_id / slots / context / timeout / lang 结构化输入,不自行解析原始用户文本
域内子意图精化
在 Orchestrator 路由基础上细化子意图(如退款→皮肤退款 / 充值退款),减少歧义
域内槽位补全
检测缺失必填槽位,向 Orchestrator 发起补充请求;不直接与用户交互,由 Orchestrator 统一追问
情绪状态接收
从 Orchestrator 接收情绪分值(0–1),自动调整回复语气阈值和工单优先级

推理层 Reasoning

知识图谱子图检索
只访问本域授权节点,Neo4j Cypher 多跳查询,最深 4 跳;跨域需求通过 Orchestrator 中转
Policy 规则获取
从规则政策 Agent 获取当前有效规则(含区服差异),不自行解释;接收推送更新后刷新本地缓存
ReAct 工具调度
最多 5 步工具链,每步检查是否已有充足证据,避免冗余 API 调用;超时 3s 熔断
置信度综合计算
综合图谱命中率、API 返回质量、规则匹配度,输出 0–1 置信分,<0.6 自动设置 escalate_flag

工具层 Tools

域专属 API(沙箱隔离)
每个专域 Agent 只能调用授权 API,运行时权限检查,越权调用直接返回 403,不降级处理
FAQ 向量检索(兜底)
置信度 <0.6 时触发,稠密检索 Top-3;游戏内容 Agent 有向量库写入权,其余只读
跨域数据请求
需要其他域数据时,向 Orchestrator 发出 cross_domain_request,不直接 Agent-to-Agent 调用,避免循环依赖
工具调用审计日志
每次调用记录 agent_id / tool_name / 参数摘要 / 耗时,写入不可篡改审计库,供合规审查

输出层 Output

结构化结果打包
返回 {task_id, answer_struct, confidence, evidence_ids, escalate_flag, action_items} 给 Orchestrator
不生成最终用户文本
输出结构化语义数据,由语言适配 Agent 负责生成面向用户的自然语言回复,保证本地化质量
操作指令打包
需执行的操作(退款提交、补偿发放)打包为 action_items,等 Orchestrator 确认后统一执行,防止重复操作
升级标记与原因
escalate_flag=true 时附带 escalate_reason(置信度不足 / 权限不足 / 情绪超阈值 / 命中升级规则)

2026 年多 Agent 架构综合技术目标

91%
系统自动解决率
<1.8s
复合问题时延 P50
95.8%
专域意图准确率
4.4/5
用户满意度目标

意图分类与槽位定义

Orchestrator Agent 执行分类 · 5 大意图域 · 38 子意图 · 路由至对应专域 Agent

核心业务决策流程

账号安全 Agent · 支付退款 Agent · 对局补偿 Agent 各自的决策逻辑 · 升级路由由 Orchestrator 统一执行

封禁申诉决策树(账号安全 Agent 执行)

条件
查询封禁原因码
→
调用 Account API
读取 ban_reason_code
查 Punishment 节点
如果
作弊封禁(CHEAT_*)
→
告知无法申诉
说明封禁时长
提供举报指引
如果
骚扰封禁(HARASS_*)
→
检查 appeal_remaining > 0
引导提交申诉工单
72h 内审核
如果
判定错误(SYSTEM_ERR)
→
立即升人工
优先级 P1
附带对局日志
如果
appeal_remaining == 0
→
告知无剩余次数
提供封禁到期时间
引导防沉迷指引

退款资格判定流程(支付退款 Agent 执行)

条件
查询订单信息
→
调用 Order API
读取 payment_status
计算距今天数
如果
订单 > 7 天
→
告知超出退款期
查 Policy#REFUND
提供规则链接
如果
商品已使用
→
检查 Skin.is_used
不支持退款
提供使用记录
如果
7 天内未使用
→
核验 refund_eligible
提交退款工单
3–5 工作日到账
如果
重复扣款
→
立即升人工 P1
保全订单号
联系支付渠道

对局异常补偿标准(对局补偿 Agent 执行)

异常类型判定条件补偿内容处理时限备注
网络掉线被判负掉线时长 >3min,非主动断开撤销段位扣分 + 50 金币24h 自动处理每赛季最多 3 次
服务器崩溃有效玩家 >50% 同时断线撤销扣分 + 200 金币12h 自动处理全服统一补偿
技能 Bug 判负日志验证为系统 Bug撤销扣分 + 200 点券48h 人工审核升P1工单
队友挂机被连坐队友在线时长 <2min撤销扣分72h 审核申请次数受限
排位错误匹配系统段位算法异常段位调整 + 100 金币人工审核升技术工单
充值未到账支付成功但未入账 >30min补发对应点券2h 自动核查超时升人工
皮肤缺失购买记录存在但仓库无显示重新发放皮肤24h 补发需提供订单号
活动奖励丢失任务完成记录存在但未发放补发对应奖励48h 处理活动期内有效

人工升级优先级路由(Orchestrator Agent 统一执行)

P0 · 紧急
账号被盗 / 恶意消费
→
5min 内接入
安全专员组
临时冻结账号
P1 · 高优
重复扣款 / 系统错误
→
30min 内接入
支付/技术专员
预填工单信息
P2 · 普通
退款申请 / 封禁申诉
→
2h 内接入
通用客服组
按队列排序
P3 · 低优
建议反馈 / 游戏体验
→
异步工单
24h 回复
收集汇总

知识图谱冷热分层策略

三层存储架构 · 专域 Agent 各自持有本层子图 · Redis 预热策略 · 降低综合查询时延

HOT
热层 · Redis 内存缓存
<5ms
更新频率低、访问频率极高的静态知识节点,预加载全量数据
Hero(英雄)
全量 120+ 英雄属性、技能、出装
TTL: 版本更新时刷新(约2周)
Policy(规则)
所有封禁/退款/补偿规则文本
TTL: 规则修改时主动失效
Season(赛季)
当前赛季信息、时间窗口
TTL: 7天,赛季切换时刷新
Event(活动)
进行中活动列表及规则摘要
TTL: 1小时,活动上下线主动刷新
Skin(皮肤)静态属性
名称、稀有度、获取方式(不含 is_used)
TTL: 版本更新时刷新
WARM
温层 · Neo4j 图数据库
10–50ms
图结构稳定、需要多跳遍历推理的节点,持久化存储
Player(玩家)基础属性
uid/level/rank_tier/real_name_status
读穿策略:写入后异步同步
Compensation(补偿)
历史补偿记录,用于防重复发放
持久化,不过期
Punishment(惩罚)历史
申诉次数、历史封禁记录
持久化,不过期
SeasonPass(通行证)
购买状态、等级进度
赛季结束后归档
COLD
冷层 · 实时 API 调用
100–500ms
高实时性要求或数据量极大、不宜缓存的动态节点,每次查询直连后端
Match(对局)
掉线时长、判负原因、举报状态
实时查对局服务,不入图谱
Order(订单)
支付状态、退款进度、到账时间
实时查支付系统,不缓存
Account(账号)实时状态
ban_status / last_login_ip / security_lock
实时查账号系统,缓存 30s
Device(设备)
设备指纹、登录历史(安全核验时)
实时查安全系统
FAQ 向量库检索策略(兜底层)
触发条件
图谱置信度 < 0.6
→
稠密向量检索 Top-5
Faiss / Milvus
1200+ 问答对
更新策略
人工工单反哺
→
每日凌晨增量更新
审核后入库
数据飞轮核心
冷启动
新意图/新场景
→
先人工处理积累数据
50 条以上触发微调
灰度验证后上线

多轮对话状态机

运行于 Orchestrator Agent · 8 个对话状态 · 跨专域 Agent 共享上下文 · 情绪与语言自适应

IDLE · 空闲等待
初始状态,等待用户发起对话,无任何上下文槽位
用户发消息 → INTENT_DETECTION
INTENT_DETECTION · 意图识别
NLU 解析用户输入,提取意图类型和已有实体槽位
置信度 >0.85 且槽位完整 → RETRIEVAL
置信度 >0.85 但槽位缺失 → SLOT_FILLING
置信度 0.6–0.85 → CLARIFICATION
置信度 <0.6 → FAQ_FALLBACK
检测到高情绪 → EMOTION_HANDLING
SLOT_FILLING · 槽位追问
意图明确但关键槽位缺失,主动追问用户补充信息。每次只追问一个最关键槽位,最多追问 3 轮
用户补充了目标槽位 → RETRIEVAL
用户换了话题 → INTENT_DETECTION
追问超过 3 轮仍缺失 → HUMAN_ESCALATION
用户明确拒绝提供 → FAQ_FALLBACK
RETRIEVAL · 多 Agent 检索
槽位就绪,Orchestrator 拆解任务后并行派发至专域 Agent,等待所有子任务返回后合并结果
单域任务,专域 Agent 返回高置信结果 → RESPONSE_GENERATION
多域任务,所有 Agent 均返回 → RESPONSE_GENERATION(合并结果)
某专域 Agent 需补充槽位 → SLOT_FILLING
专域 Agent 超时 / 工具调用失败 → FALLBACK(降级处理)
命中升级规则(任一 Agent 判断) → HUMAN_ESCALATION
CLARIFICATION · 意图澄清
置信度中等,Agent 给出 2–3 个可能意图供用户确认,避免答非所问
用户选择了某个意图 → SLOT_FILLING / RETRIEVAL
用户重新描述问题 → INTENT_DETECTION
用户仍不明确 → FAQ_FALLBACK
RESPONSE_GENERATION · 生成回复
基于检索结果选择 LLM 生成或模板填充,附加操作引导和满意度询问
回复发送后用户满意 → IDLE(会话关闭)
用户追问或问题未解决 → INTENT_DETECTION
用户要求人工 → HUMAN_ESCALATION
EMOTION_HANDLING · 情绪安抚
检测到用户高情绪(愤怒/焦虑)时进入,优先安抚再解决问题,暂停所有技术性追问
情绪缓解(1–2轮交互后) → INTENT_DETECTION
用户持续激动超 3 轮 → HUMAN_ESCALATION(P1)
用户明确要求人工 → HUMAN_ESCALATION
HUMAN_ESCALATION · 升级人工
生成工单预填内容,标注优先级,路由到对应技能组,会话进入人工接管状态
人工接入成功 → 终态(人工接管)
排队超时无人工 → 留存工单 + 异步回调

槽位追问策略详细规则

意图域必填槽位追问话术策略超时处理
账号封禁uid询问游戏昵称或UID,引导截图账号信息页3轮后升人工
充值退款order_id引导在"我的订单"中复制订单号,提供截图示例2轮后提供人工通道
对局异常match_time询问大约发生时间,可模糊到"今天下午"即可2轮后查最近5场对局列表
皮肤丢失skin_name / hero_name引导进英雄列表查皮肤名称,或上传截图3轮后升人工
账号找回login_type + bind_phone分步引导,先确认注册方式,再询问绑定手机后4位安全问题立即升人工

话题切换与上下文清除规则

场景
用户中途换话题
→
保留 uid/platform 全局槽位
清除业务相关槽位
重新进入 INTENT_DETECTION
场景
会话空闲超 15min
→
清除所有槽位上下文
状态回到 IDLE
记录会话ID备查
场景
同一问题第 2 次提问
→
检测重复问题标记
调整回复策略(更简洁)
第 3 次自动升人工

知识图谱更新与维护机制

分节点更新频率 · 专域 Agent 子图独立维护 · 语言适配器 Policy 版本管理 · 过期知识防护

游戏内容节点更新 高频 · 每2周

Hero.strength_tier
游戏运营
<2h
版本更新日自动从 patch notes 解析,NLP提取强度变更信息
Hero.patch_note
运营 Bot
<1h
官方公告发布后 Webhook 触发自动同步
Hero.recommended_build
数据分析
24h
每日凌晨统计高分玩家出装数据,自动更新 Top-3 推荐
Skin.is_limited
活动系统
<5min
活动上线/下线时 Event 系统主动推送,实时更新
Season(新赛季)
运营 + 研发
赛季前24h
提前创建新 Season 节点,赛季开始时切换 is_current 标记

规则策略节点更新 低频 · 按需

Policy(规则变更)
法务/运营
生效前48h
走人工审核流程,新版本 draft 态,生效日自动切换 is_active
Policy.condition_json
研发
生效前48h
机器可读条件同步修改,触发自动化测试验证逻辑
Compensation 标准
客服负责人
生效前24h
补偿方案调整需客服负责人 + 运营双签审批

FAQ 向量库更新 每日

新增 FAQ 条目
人工工单
次日凌晨
人工处理的工单经质检后批量导入,自动向量化入库
低质量条目清理
数据 Bot
每周
ROUGE 相似度检测重复条目,召回率低于阈值的条目标记清理
模型微调触发
算法团队
月度
新意图数据量 >200 条时,触发增量微调并灰度验证

多 Agent 专域子图维护 各域独立

账号安全子图
安全专员
<1h
封禁原因码新增、申诉流程变更,走账号安全 Agent 独立发布通道(已于2026年4月建立)
支付退款子图
支付团队
24h
新增支付渠道、退款流程变更,只影响支付退款 Agent,其余 Agent 零感知
语言适配器 Policy
本地化团队
生效前48h
各区服规则覆盖字段独立更新(2026年5月起,中文/东南亚/英语适配器分批上线)
A2A 协议版本
研发
灰度7天后全量
向后兼容,新旧版本并行运行 7 天后切换(首版协议已于2026年4月冻结)

过期知识防护机制 关键

版本号校验
系统自动
实时
每次图谱查询附带版本号比对,与当前游戏版本不符时标注"可能过期"
知识有效期标记
系统自动
实时
Policy.expire_date 临近7天时,自动触发人工复核提醒
置信度惩罚
推理引擎
实时
超过 TTL 未更新的节点,在置信度评分中扣减 0.1,倒逼更新
紧急知识通道
客服负责人
<30min
重大 Bug/政策突变时走绿色通道,跳过审批流直接更新并记录

更新失败保护机制

场景
解析失败(patch notes 格式变化)
→
保留上一版本数据
告警通知运营
人工接管更新
场景
新规则与现有逻辑冲突
→
阻断自动部署
触发人工审核
回滚到上一版本
场景
Neo4j 写入超时
→
写入消息队列暂存
30分钟后重试
同时 Redis 热层降级提供服务

灰度发布与降级回退机制

置信度分级响应 · 五级降级链路 · 新版本灰度策略 · 熔断保护

置信度分级响应策略

0.85 – 1.0
自动回复
0.70 – 0.85
回复+满意度询问
0.60 – 0.70
回复+人工入口
0.40 – 0.60
FAQ 兜底+人工
0.00 – 0.40
直接升人工
满意度询问话术:「以上信息是否解决了您的问题?」用户选"否"时自动降级到下一档

五级降级链路

L1
LLM 精确回复
RAG 增强生成,引用知识图谱节点,<2s 响应
L2
预定义模板回复
高频场景模板填充,<200ms,LLM 超时时自动切换
L3
FAQ 向量检索回复
Top-1 FAQ 条目 + 相似问题推荐,置信度不足时触发
L4
静态帮助文档链接
推送相关帮助页面链接,LLM 和向量库均无法回答时
L5
人工客服升级
预填工单,标注上下文,路由到对应技能组

新版本灰度发布策略

阶段 1
内部测试(0%流量)
→
客服团队内部账号
100 个测试用例覆盖
准确率需 >90%
阶段 2
小流量(5% 用户)
→
随机选取 5% 真实用户
持续48h,监控指标
满意度对比旧版
阶段 3
扩量(30% 用户)
→
新版指标均优于旧版
持续72h 观察
重点关注升人工率
阶段 4
全量(100%)
→
旧版保留7天可回滚
监控48h
归档旧版本

熔断保护机制

触发条件
LLM 服务响应 >5s
→
自动切换 L2 模板层
告警运维
每分钟探活恢复
触发条件
满意度5分钟内下降 >15%
→
自动回滚到上一版本
通知算法团队
人工介入排查
触发条件
升人工率突增 >30%
→
暂停当前版本发布
人工审查近期工单
定位意图识别异常

数据飞轮设计

人工处理 → 数据沉淀 → 知识更新 → Agent 优化 → 减少人工 · 形成正向循环

💬
1 · 用户发起咨询
用户通过 App 内客服、微信公众号、官方论坛等渠道发起咨询,Agent 记录完整对话流(意图、槽位、上下文、情绪分值)和处理结果(自动解决 / 升人工 / 用户放弃)。
多渠道接入全量日志匿名脱敏
🤝
2 · 人工处理与标注
Agent 无法自动解决的工单流转至人工。人工客服在处理时同步完成数据标注:确认真实意图类别、补充槽位值、记录正确答案和解决方案。质检人员复核标注质量(抽样率 20%)。
意图修正槽位补全答案记录质检抽样
🔍
3 · 自动挖掘高价值样本
每日凌晨数据管道自动运行:筛选 Agent 处理失败(置信度 <0.6)但人工成功解决的工单,这些是最有训练价值的"难例"。同时识别新出现的问题类型(无对应意图的工单聚类)作为扩充候选。
难例挖掘新意图发现聚类分析日均处理
📚
4 · 知识图谱与 FAQ 更新
高质量样本经审核后分两路更新:(1)结构化问题(有明确节点归属)更新到知识图谱对应节点的属性或新增 Issue 类型节点;(2)长尾问题(无图谱对应)写入 FAQ 向量库并向量化索引。Policy 变更走独立审批流程。
图谱节点更新FAQ 向量入库双路分发
🧠
5 · 模型增量微调
当某意图累计新样本 >200 条,或准确率连续3天低于基线时,触发 NLU 模型增量微调。微调采用 LoRA 轻量级方式,在原模型基础上叠加,不影响已有意图的性能。微调后经 A/B 测试验证效果。
LoRA 微调A/B 验证增量不破坏存量
🚀
6 · 灰度部署与效果验证
更新后的知识和模型走灰度发布流程(5% → 30% → 100%),实时监控自动解决率、满意度、升人工率三大核心指标。效果提升则全量,效果回退则触发熔断回滚。
灰度发布指标监控自动熔断
📈
7 · 自动解决率提升 · 飞轮加速
Agent 能力增强后,能自动解决更多问题,人工处理量减少。但人工处理的都是更难、更边缘的案例,标注价值更高,进一步驱动下一轮优化。飞轮越转越快,理论天花板是 95% 自动解决率(保留 5% 给高情绪和复杂纠纷)。
目标 95% 自动化边际成本递减持续自我进化

飞轮关键数据管道(2026年4月现状)

日均数据处理量(当前)
用户咨询总量:50,000 条/日
Agent 自动解决:43,500 条(87%)
升人工工单:6,500 条(13%)
可用于训练样本:约 2,000 条/日
经质检入库:约 800 条/日
知识库规模(2026年4月)
FAQ 向量库:2,400 条(当前)
月增速:约 300 条
年底预计:约 4,800 条
专域子图:5 个,各自独立维护
Policy 节点版本:7 个语言区各一份
效果提升里程碑(2026年4月起)
4月现状:单 Agent 基线 87%
6月目标:多 Agent 灰度,89%
9月目标:专域 Agent 全上线,91%
12月目标:全量多 Agent,92%
年底:人工处理量下降 50%

运营监控看板设计

实时指标 · 告警规则 · SLA 追踪 · 异常预警 · 周期报告

87.0%
自动解决率(2026年4月现状)
年底目标 92% ↑ +0.3%/周
1.18s
平均响应时延(P50 · 单Agent阶段)
多Agent并行后目标 <1.0s
94.3%
意图识别准确率(Orchestrator)
专域 Agent 上线后目标 97%+
4.21
用户满意度(7日均)
年底目标 4.5/5 ↑ +0.08
13.0%
升人工率(当日)
年底目标 <8% ↓ -0.5%/月
91.2%
首解率(不需二次提问)
年底目标 >93% ↑ +0.2%
98.7%
系统可用率(过去30日)
SLA 目标 99.5%(待提升)
3
活跃 P0/P1 告警(今日)
目标 0 · 含多Agent超时告警

告警规则配置

告警名称触发条件严重级别通知对象自动处置
自动解决率骤降5min 内下降 >10% 绝对值P0算法 + 运营 + 客服负责人触发灰度回滚评估
LLM 响应超时P99 时延 >5s 持续 2minP0运维 + 算法自动切换 L2 模板层
升人工率突增1h 内升人工率 >30%P1客服负责人 + 算法暂停当前版本扩量
特定意图准确率下降某子意图准确率 <80% 连续3次P1算法团队标记该意图走 FAQ 兜底
知识过期预警Policy/Hero 节点距上次更新 >30天P2运营团队推送 Lark 卡片提醒
FAQ 向量库召回下降Top-1 召回率 <60%(日度检测)P2算法团队触发 FAQ 质量清洗任务
用户满意度下降7日均满意度 <3.8P1客服负责人 + 产品抽样人工审查近期工单
新问题类型激增1h 内 >50 条无意图匹配的工单P2产品 + 运营自动聚类推送问题摘要
Redis 缓存命中率下降热层命中率 <80%P2运维触发全量缓存预热
人工队列积压P1 工单等待 >30min 无接入P0客服主管短信通知备班客服

SLA 追踪指标(2026 年多 Agent 目标)

自动解决率
87% → 92%
4月现状 → 年底目标
首响应时延 P50
1.18s → <1.0s
并行处理后目标
首响应时延 P99
4.8s
SLA <5s(含超时等待)
P0 工单首响应
<5min
SLA 5min,由 Orchestrator 直接升级
P1 工单首响应
<28min
SLA 30min
P2 工单首响应
<1.8h
SLA 2h
系统可用率
98.7%
SLA 99.5%(多Agent可部分降级)
专域 Agent 意图准确率
97%+
目标(各域独立统计)

周期报告体系(2026年4月起执行)

日报(自动生成)
每日 09:00
客服负责人
内容:核心指标趋势 + 告警汇总 + 当日高频问题 TOP5 + 多Agent各域状态
周报(半自动)
每周一 10:00
产品 + 运营
内容:7日指标环比 + 飞轮进度 + 知识更新量 + 多Agent迁移进展 + 待优化意图
月报(人工撰写)
每月5号
管理层
内容:月度目标达成 + 灰度效果 + 模型迭代 + 多Agent上线里程碑 + 成本节省
双月复盘
双月末
全团队
内容:OKR 达成率 + 多Agent迁移阶段总结 + 下阶段 Roadmap 评审

异常检测 · 新问题发现机制

无意图匹配聚类
实时
每日推送摘要
检测方法:K-Means 聚类,簇大小 >20 条触发推送
话题突增检测
1h 窗口
运营实时感知
检测方法:某关键词频次较7日均值增长 >300% 触发预警
情绪恶化检测
15min
客服主管
检测方法:高情绪工单占比 >20% 触发舆情预警

成本效益追踪(2026年4月起)

人工客服人力节省(年底预计)
~18 FTE
较2025年基线
单会话成本(4月现状)
¥0.12
年底目标 ¥0.06
LLM API 月均成本(4月)
¥14,000
预算 ¥18,000(含多Agent)
Agent 间通信开销(月)
¥1,200
A2A 消息队列成本
综合 ROI(年化预测)
960%
较单Agent架构提升 14%

多语言支持设计

语言适配层与专域 Agent 解耦 · 7 个语言区域 · 差异化 Policy 继承 · 低资源语言冷启动

语言适配层在多 Agent 架构中的位置

设计原则
业务逻辑与语言规则解耦
→
专域 Agent 只处理业务逻辑
语言适配层注入本地化规则
两者独立迭代,互不干扰
运作方式
任务下发时注入
→
Orchestrator 识别语言区
选择对应语言适配器
适配器向专域 Agent 注入 Policy 摘要 + 本地规则覆盖
核心优势
规则变更只改适配器
→
东南亚退款期从14天改为7天
只更新东南亚适配器的 Policy 覆盖字段
5个专域 Agent 无需任何改动

支持语言与适配器映射

语言语言码区服用户占比NLU 模型策略
简体中文zh-CN国服/官服68%主模型,全量训练,最优先迭代
繁体中文zh-TW台湾/港澳服8%zh-CN 微调 + 繁简转换层,共享中文适配器
英语en-US东南亚英语区6%独立模型,英文语料训练
印尼语id-ID印尼服7%独立模型,印尼语语料,东南亚适配器
泰语th-TH泰国服5%独立模型,泰语语料,东南亚适配器
马来语ms-MY马来西亚服4%en-US 微调 + 马来语词典,东南亚适配器
越南语vi-VN越南服2%低资源语言,冷启动方案,东南亚适配器

语言检测优先级(Orchestrator 执行)

检测方式优先级说明
账号语言设置P1 最高Player.language 字段,用户明确选择,100% 采用
区服归属P2Player.region 映射默认语言,覆盖 95% 场景
设备系统语言P3Device.os_language 登录时上报,区服与语言不一致时参考
文本实时检测P4 兜底fastText langdetect,覆盖未设置语言的访客用户
多语言混用特殊处理同句两种语言时以主体语言为准,次要语言词汇正常识别

语言适配器 Policy 继承与覆盖机制

规则类型全局基准国服覆盖东南亚覆盖
退款期限7 天继承全局覆盖为 14 天(消保法)
未成年人保护基础限制覆盖严格防沉迷(法规)继承全局
数据删除期限30 天继承全局覆盖为 15 天(PDPA)
客服响应 SLA工作日 2h继承全局覆盖 7×24h(夜间活跃)
支付渠道枚举通用渠道微信/支付宝/银行卡GoPay/TrueMoney/Dana
禁用词库全局通用词国内政治/敏感词各国宗教/地区敏感词
继承原则:适配器只存储与全局基准的差异字段(Policy.override_fields),全局规则变更后各区服自动同步,无需逐一修改。

翻译质量保障体系

内容类型生产方式验收标准
回复模板专业本地化团队初译 + 母语审校BLEU >0.85,自然度 >4/5
FAQ 问答对机器翻译 + 人工校对重要条目关键信息准确率 100%
LLM 动态生成直接生成目标语言,禁止先生成中文再翻译无翻译腔,自然度 >4/5
英雄/皮肤术语各语言维护标准译名词典,注入各语言适配器术语错误率 <0.1%
多语言回归测试每次专域 Agent 更新后跑各语言测试集任意语言准确率不低于上一版本

低资源语言冷启动方案(越南语为例)

阶段 1
2026年4–6月 · 数据 <500 条
→
英文专域 Agent + 翻译推理
东南亚适配器注入越南规则
置信度 <0.7 全量升人工
阶段 2
2026年7–9月 · 500–2000 条
→
mBERT 跨语言迁移微调
高频场景越南语模板覆盖
自动解决率目标 >60%
阶段 3
2026年10月起 · >2000 条
→
独立越南语 NLU 模型微调
越南语适配器从东南亚通用适配器独立
自动解决率目标 >80%

隐私合规与数据安全

个保法 · GDPR · PDPA · 数据脱敏规则 · 权限分级 · 日志留存策略

数据脱敏规则 强制执行

字段脱敏方式展示示例
手机号保留前3后4,中间替换 *138****8888
身份证号仅展示前6后4位440301****8888
银行卡号仅展示后4位****6411
IP 地址仅展示到城市级广东省广州市
设备ID哈希摘要,不可反查a3f8...c2d1
真实姓名仅展示姓氏 + *赵**
邮箱用户名前3字符 + *** + 域名zha***@qq.com
订单金额客服侧仅展示范围(如 ¥50–100),不展示精确值¥50–100

客服人员权限分级

一线客服
查询基本账号状态、对局摘要、订单状态(脱敏);不可查真实身份信息
只读
二线专员
查询完整封禁记录、订单详情;可提交退款申请;不可修改账号数据
有限读写
安全专员
查询设备指纹、登录IP(完整)、冻结账号;需双人审批才能查完整实名信息
受限完整
客服主管
审批退款 >500元 工单;审批账号注销;查阅客服操作日志
管理权限
数据分析师
访问聚合统计数据,不可访问任何个人明文数据
聚合只读
Agent 系统
仅可读取必要字段用于回答,调用后不留存原始数据,查询日志保留30天
最小权限
算法工程师
访问脱敏后的训练数据,不可接触生产库,数据需经安全审计委员会批准
隔离访问

法规合规要求对照

法规适用区域核心要求当前实现
个人信息保护法中国大陆告知同意、最小必要、数据删除权已实现,data_delete_requested 字段触发流程
GDPR欧盟(部分海外玩家)被遗忘权、数据可携带权、72h 泄露通报部分实现,删除流程 30天内完成
PDPA泰国明确同意、数据本地化、违规 7 天通报泰区数据存储在泰国本地服务器
UU PDP印尼数据本地化、同意管理印尼区数据本地化已完成
未成年人保护法中国大陆实名认证、时长限制、消费限额real_name_status + playtime_today 联动

日志留存与审计策略

日志类型留存时长存储方式访问限制
Agent 对话日志(含脱敏文本)180 天加密冷存储安全专员+审批
客服操作日志365 天不可篡改审计库客服主管
账号登录日志90 天加密热存储安全专员
支付日志5 年金融级加密存储财务+安全双审批
意图分析聚合日志永久脱敏聚合,无个人信息数据分析师
模型训练数据3 年隔离训练环境算法工程师+审计

用户数据删除请求处理流程

触发
用户提交注销/删除申请
→
设置 data_delete_requested=true
发送确认邮件/短信
冻结账号 15 天冷静期
核验
15 天冷静期内
→
检查未结订单/未完成退款
检查封禁申诉进度
有未结事项阻断删除
执行
冷静期满,无未结事项
→
删除个人身份信息
保留脱敏聚合统计数据
保留支付合规记录(5年)
完成
删除操作完成
→
发送删除完成通知
审计日志留存记录
国服 30 天内,东南亚 15 天内

主动触达场景设计

从被动响应到主动服务 · 8 类主动推送场景 · 触发条件 · 渠道策略 · 频率控制

补偿与奖励类

补偿发放通知
Compensation.claim_status = PENDING(新创建)
推送:「您有一笔异常对局补偿待领取,点击领取 50 金币」
补偿即将过期提醒
claim_deadline - now() < 48h 且 claim_status = PENDING
推送:「您的补偿将在 48 小时后过期,请及时领取」
赛季通行证奖励积压
unclaimed_rewards.length > 5 且距赛季结束 < 7 天
推送:「赛季即将结束,您还有 X 个通行证奖励未领取」

支付异常类

充值到账延迟预警
payment_status=SUCCESS 但 delivery_delay_seconds > 1800
推送:「您的充值正在处理中,预计 X 分钟内到账,无需再次充值」
疑似重复扣款提醒
Order.is_duplicate = true(系统检测到)
推送:「检测到可能的重复扣款,已为您冻结处理,客服将主动联系」+ 自动创建 P1 工单
退款到账确认
Order.payment_status 变更为 REFUNDED
推送:「您申请的退款已成功到账,金额 ¥XX」

账号安全类

异地登录安全预警
新设备登录且 IP 归属地与历史差异 >500km
推送:「检测到新设备异地登录(XXX),若非本人操作,请立即修改密码」
账号被盗高风险告警
is_stolen_risk = true(行为异常)
推送+短信双通道:「账号可能存在安全风险,已临时加强保护,请验证身份」
封禁即将到期提醒
ban_expire_time - now() < 24h 且 ban_is_permanent = false
推送:「您的账号封禁将于明日到期,请遵守游戏规则」

游戏内容类

限时皮肤下架提醒
玩家关注的 Skin.limited_end - now() < 72h
推送:「您关注的限时皮肤【XXX】将在 72 小时后下架」(需用户开启关注)
申诉结果通知
Punishment.appeal_status 变更为 APPROVED / REJECTED
推送:「您的封禁申诉结果已出,点击查看详情」
工单处理结果通知
Issue.status 变更为 RESOLVED
推送:「您的客服工单已处理完成,请评价本次服务」

推送渠道优先级与频率控制

P0 安全类
账号被盗/重复扣款
→
App 推送
短信强制触达
微信服务通知
不受频率限制
P1 支付类
充值延迟/退款到账
→
App 推送优先
未读 30min 后短信
每类事件最多 2 次
P2 奖励类
补偿/通行证/申诉结果
→
App 推送
每日最多 3 条
22:00–08:00 静默
P3 内容类
皮肤下架/版本更新
→
App 推送(可关闭)
每周最多 2 条
用户明确关注才推送

用户推送偏好管理

可关闭
内容/营销类推送
→
用户可在设置中关闭
Player 节点记录偏好
关闭后不影响安全类
不可关闭
安全/支付类推送
→
强制触达,不受偏好设置影响
合规要求必须告知

用户画像与个性化回复策略

6 类用户画像 · 差异化回复风格 · 优先级规则 · 动态画像更新机制

👑
高价值玩家(VIP 5+)
vip_level ≥ 5 或 total_recharge ≥ 500 元
回复风格
更正式、更详尽,主动提供解决方案而非仅回答问题
工单优先级
自动升级为 P1+,响应时效缩短 50%
人工阈值
置信度 <0.75 即升人工(普通用户 0.6)
补偿标准
同类异常补偿金额上浮 20%
专属权益
VIP 专属客服通道,优先排队
🏆
高段位竞技玩家
rank_tier = 王者/巅峰 且 近30天有效对局 >20 场
回复风格
简洁专业,使用游戏术语,不过度解释基础概念
对局申诉
掉线/判负申诉优先处理,段位分损失计算更精确
英雄咨询
直接给出高端局出装与技能加点,跳过入门内容
满意度敏感
不满意反馈触发人工二次跟进
🌱
新手玩家
account_age_days < 30 或 level < 20
回复风格
温和友好,步骤拆解详细,多用示例,避免术语
引导策略
主动推荐新手教程链接和功能引导
退款宽容
首次误购提供一次额外退款机会(超出常规 7 天)
英雄推荐
优先推荐难度 1–2 星的入门英雄
话术示例
「您好!让我一步步帮您解决这个问题~」
🛡️
未成年人
real_name_status = MINOR 或 playtime_today 接近上限
回复风格
简单友善,避免复杂流程,鼓励联系家长协助
消费限制
自动拦截退款申请中超出未成年限额的消费核查
防沉迷
时长即将到上限时主动提醒,触发防沉迷引导话术
家长通道
自动提供家长监管平台链接
数据保护
未成年人数据适用更严格的访问限制
🕰️
老玩家/忠实用户
account_age_days > 730 且 近90天活跃
回复风格
像朋友一样,可以适当使用游戏梗和轻松语气
历史感知
回复中可引用「您已陪伴我们 X 年了」增加情感连接
申诉宽容
首次轻微违规申诉通过率提高,历史记录加分
流失预警
提交工单后 7 天未登录,触发关怀回访推送
😤
高情绪用户
情绪检测分值 > 0.7(愤怒/焦虑)
回复风格
第一句话必须是情绪认可,不急于解决问题
禁止话术
禁止使用「请您理解」「这是规定」「无法处理」等词汇
升级阈值
连续 2 轮高情绪即升人工,不等到置信度触发
工单标注
工单附注情绪状态,人工接入前有情绪预警
话术示例
「非常理解您的感受,这种情况确实很让人着急,让我立刻为您查清楚」

动态画像更新机制

实时更新
情绪分值、当前对话状态
→
每轮对话推理后更新
情绪分值衰减(15min)
每日更新
rank_tier、playtime_today
→
凌晨从游戏服务器同步
更新 Redis 玩家基础属性
事件触发
充值/段位升降/账号注册
→
vip_level / total_recharge 实时写入
画像标签即时重算

A/B 测试框架

实验设计规范 · 分组策略 · 显著性检验 · 多实验并行隔离 · 上线决策标准

实验设计规范

最小样本量
每组 >500 个独立会话(统计功效 80%,显著性水平 0.05)
实验周期
最短 48h(覆盖工作日+周末流量差异),建议 7 天
主要指标
自动解决率(北极星指标),不可用作实验终止的唯一依据
护栏指标
升人工率、用户满意度、首响应时延——任意一项恶化 >5% 立即停止实验
观察指标
各意图准确率、槽位填充成功率、多轮对话轮数、LLM Token 消耗
分组粒度
以玩家 uid 哈希分组,保证同一用户全程在同一组(避免体验割裂)

多实验并行隔离策略

互斥原则
同一流量层(如 NLU 层)同时只跑一个实验,不同层可并行
流量分层
NLU 层 / 检索策略层 / 生成层 / 模板层各自独立,互不干扰
优先级
安全类 > 支付类 > 对局类 > 内容类,高优先级实验抢占流量
交互效应
怀疑两实验存在交互时,拆分流量隔离组,分别验证
并发上限
同时运行实验 <5 个,避免流量过度碎片化影响统计功效

当前/规划中实验列表

实验名称假设对照组实验组主要指标状态
追问话术优化更口语化的追问提升槽位填充率「请提供订单号」「能把订单号发给我吗~」槽位填充成功率完成 ✓ 3月
置信度阈值调整降低自动回复阈值至 0.80 提升自动化率且不降满意度阈值 0.85阈值 0.80自动解决率 + 满意度完成 ✓ 4月
多 Agent 并行 vs 串行并行派发复合问题综合时延更低且满意度不降串行处理并行处理(多 Agent)综合时延 + 满意度进行中 · 5月结束
专域 Agent 意图边界对局异常 + 支付问题由各自专域 Agent 独立处理优于单 Agent单 Agent 统一处理双 Agent 并行处理准确率 + 用户满意度进行中 · 6月结束
语言适配器注入时机在 Orchestrator 层注入规则优于在专域 Agent 层注入专域 Agent 内注入Orchestrator 统一注入规则一致性 + Token 消耗计划 7月
LLM 模型切换Qwen-72B 在中文专域场景优于 GPT-4o 且成本低 60%GPT-4o(全域)Qwen-72B(专域)+ GPT-4o(复杂)准确率 + Token 成本计划 8月

上线决策标准

全量上线
所有条件满足
→
主要指标提升且 p < 0.05
护栏指标无恶化
实验组 N >500
持续 7 天稳定
延长观察
效果不显著
→
p > 0.05 但趋势向好
延长至 14 天再评估
补充样本量计算
立即终止
护栏指标恶化
→
满意度下降 >5%
升人工率上升 >10%
回滚对照组,复盘原因

成本优化策略

模型分级调用 · Token 压缩 · 批处理调度 · 缓存复用 · 2026 年成本目标

模型分级调用策略

L1 · 模板匹配(无 LLM)
¥0.000
高频固定场景(封禁时长查询/余额查询),预定义模板直接填充,零 LLM 成本。目标覆盖 35% 请求
L2 · 轻量模型(Qwen-7B)
¥0.002/次
意图明确、答案简单的场景(FAQ 直接检索后润色),使用 7B 小模型。目标覆盖 30% 请求
L3 · 标准模型(Qwen-72B)
¥0.015/次
常规咨询、多跳推理场景。国内中文场景 Qwen-72B 优先,替代 GPT-4o 节省 60% 成本。目标覆盖 25% 请求
L4 · 旗舰模型(GPT-4o)
¥0.08/次
复杂多轮推理、安全类敏感场景(账号被盗、法律纠纷)。仅用于 10% 最复杂请求

Token 压缩策略

System Prompt 压缩
节省 40%
动态 System Prompt:根据意图类型只注入相关规则,而非全量 Policy 文本。封禁意图只注入封禁规则,支付意图只注入退款规则
上下文截断策略
节省 25%
保留最近 5 轮对话(而非全部 10 轮),对超出部分做摘要压缩。单条消息超 200 Token 时提取关键实体后截断
RAG 结果精简
节省 20%
知识图谱检索结果只传必要字段(不传完整节点 JSON),FAQ 只传 Top-3 片段而非全文,平均节省 200 Token/次
输出长度控制
节省 15%
Prompt 中明确要求「回复不超过 150 字」,避免模型冗余输出。操作步骤类上限 200 字,FAQ 类上限 100 字

批处理与调度优化

低峰批处理任务
节省 30%
FAQ 向量化、知识库更新、日报生成、补偿批量发放等非实时任务,统一调度到凌晨 01:00–06:00 执行,利用 API 低峰定价
语义缓存(Semantic Cache)
节省 18%
相似度 >0.95 的问题复用上一次 LLM 回复(GPTCache),高频重复问题(「赛季什么时候结束」)命中率高达 60%
Embedding 缓存
节省 12%
FAQ 向量化结果缓存至 Redis,知识库更新前不重复计算。只有新增/修改条目才触发重新向量化
流式输出优化
降低延迟
启用 Streaming 模式,用户感知首 Token 时延 <400ms,无需等待完整回复,提升主观体验

2026 年成本目标与现状对比

成本项目2025年基线(单Agent)2026年4月现状2026年12月目标优化手段
LLM API 月均费用¥28,000¥14,000¥10,000模型分级 + Token 压缩 + 语义缓存 + 专域 Agent 使用轻量模型
向量数据库费用¥2,200¥900¥700Embedding 缓存 + 批量更新 + 多 Agent 共享索引
图数据库(Neo4j)费用¥3,500¥2,800¥2,400热层 Redis 分担查询压力 + 专域子图缓存
人工客服人力成本¥180,000/月¥126,000/月(-12 FTE)¥90,000/月(-18 FTE)自动解决率从 72% → 87% → 92%
单会话综合成本¥0.52¥0.12¥0.06并行处理 + 专域轻量模型 + 模板覆盖率提升
月总运营成本¥213,700¥143,700¥103,100综合优化,全年节省约 ¥135万

成本异常告警规则

触发条件
日 LLM 费用超预算 20%
→
告警到算法+财务
自动降级模型层级
排查异常请求来源
触发条件
语义缓存命中率 <30%
→
检查缓存 TTL 配置
分析问题多样性变化
调整相似度阈值
触发条件
单会话 Token 超 2000
→
标记异常会话
检查上下文截断是否生效
核查是否存在 Prompt 注入