我不是技术出身。我有的,是多年坐在客户对面的经验——而这,恰好是这个难题最需要的。

一家银行的反欺诈团队被告警淹没了。告警增长比人手快,每个调查案件都在增加运营成本。他们想在成熟的旧平台上加一个 AI 智能体。真正的命题不是“加 AI”,而是:降低分析师工作量,同时不制造新的风险。

先弄清事实

在理解平台怎么运作、数据在哪里、分析师取什么资料,以及调查到底哪里痛之前,我什么也不能设计。两个问题框住了工作:智能体应该放在现有流程的哪一段?怎样连接遗留系统,才不会制造转型风险?

客户是银行、金融机构和电子钱包。在这里,幻觉不是有趣的 bug,而是责任事故。因此设计只围绕两件事:尽快拿到有用证据,以及用安全、可检查的方式做到。

让它可信的六个决定

只在工作真正发生时触发

如果每条告警都预跑 AI,就是在为分析师批量关闭、永远不会打开的案件烧 token。智能体只在案件被打开时启动;高分告警预跑可以是以后经过量化的例外。

预算是一道闸门

固定五阶段管线让成本在签约前就算得清:每案约 40,000 token,失败后只重试一次且清楚显示。自由循环可能调用五次,也可能五十次;事后监控不等于成本控制。

把访问控制写进产品逻辑

每次检索都有行级范围、PII 脱敏和读取日志。否则再友好的界面,也可能只是一次数据泄露。

分期上线,不等所有知识齐全

第一期用厂商知识和引擎输出上线;第二期从真实处置构建客户自有知识库;第三期只在信任允许时加入敏感案件历史。这个顺序要在签约前讲清楚。

把更新的路交给客户

风险类型、阈值和 SOP 都会变化。客户通过受控界面维护自己的 SOP 与技能文件;每个版本绑定到使用它的案件,上线前经过审核。

有来源才陈述,否则抑制

摘要里的每个事实都要追溯到源记录并通过 schema 检查。AI 建议,分析师接受、编辑或拒绝。反馈可以改善后续规则挖掘,但不会把模型意见伪装成事实。

这些都不是提示词工程。难的是判断:理解业务、房间里的每一种人,以及风险。

最终得到的不是自动调查员,而是一个工作记忆临时、证据可追溯、成本可预测、最后由人决定的有边界助手。