十几套业务系统各自对接大模型，接口不一、密钥散落、成本算不清——加一层中转网关，一个地址接入全部模型，调用可管、成本可算、责任可追。
| 流量类型 | 判定依据 | 路由去向 |
|---|---|---|
| 隐私流量 | 证件号 / 银行卡 / 病历号 / 密级标记等命中 | 私有算力（零脱敏、零降级） |
| 普通流量 | 未命中隐私规则 | 外网算力（成本更优） |
| 灰区流量 | 置信度处于中间地带 | 保守模式走私有 / 降本模式脱敏后走外网 |
| 判断维度 | 不需要网关 | 建议上网关 |
|---|---|---|
| 系统数量 | 1 套系统直连 1 个模型 | 3 套以上系统 × 2 个以上模型 |
| 成本核算 | 不区分部门、统一付费 | 需要按部门/项目归集 AI 成本 |
| 合规留痕 | 无审计要求 | 等保、内控或监管要求调用可追溯 |
| 稳定性 | 可接受厂商故障即中断 | 要求自动降级、业务不中断 |
| 数据主权 | 数据均可上公网 | 敏感数据需走企业内部算力 |
某大型医药集团 90+ 套系统上云迁移期间，梳理多系统对多模型的调用关系，按风险分级与前后验证的方式推进，网关侧统一收敛模型出口，迁移期间业务基本不停机。
某金融租赁集团把通用 RAG 智能体迁移到企业级智能体平台并做幻觉消除，模型调用统一经网关治理，交付幻觉测试与验收报告。
某制造企业工艺问答与设备运维助手，生产数据优先走厂区私有算力，云端仅作弹性补充，调用明细按部门归集。
普通 API 网关解决流量转发与鉴权；中转网关解决 AI 调用的治理：协议适配、模型路由与降级、Token 与成本计量、调用内容留痕，并同时纳管本地私有算力与云端大模型，按集团组织架构建模配额与账单。
不需要改代码。业务侧只把模型地址换成网关统一地址、密钥换成网关下发的密钥即可，换模型、换厂商、加算力都在网关侧完成。
不会。网关本身无状态、支持多副本横向扩展，配合健康检查与熔断机制，单渠道异常会自动按优先级转移；生产环境可做多副本加负载均衡，不引入新的单点。
接入评估通常 3 个工作日内完成，POC 阶段 1-2 周可跑通首个业务系统的接入与审计看板，验收物包括接入清单、路由与配额策略、调用审计报表与成本分账表。
判定在企业内网本地完成，不调用外部服务，实测单次判定平均 1.6 毫秒，不额外消耗 Token。证件号、手机号、银行卡等带校验位的强标识符权重最高；密级标记与密钥口令属硬规则，命中即走私有；其余按置信度分档。结论可解释，每笔都能列出命中规则。误判方向是保守的——拿不准时走私有算力，多花算力成本可控，数据出域不可逆。