金融反欺诈的可解释：业务要的解释不是技术归因

反欺诈场景里的可解释，指的是能在事后说清一笔交易为何被判定为高风险，并且这份说明能被业务人员、客户与审计读懂。金融行业对这一点要求高，因为它来自两头：内部要能复核，外部要能应答

业务要的解释长什么样

技术意义上的解释（特征重要性、注意力权重）对风控人员价值有限，因为它无法被复述给客户，也无法被审计直接采信。业务真正需要的是三条

• 命中了什么：是某条规则被触发，还是某类行为模式与历史欺诈样本相似。
• 依据哪些事实：提到的每一个因素都要能落到真实字段上，而不是一个抽象维度。
• 结论的确定性：是确定的事实性判断，还是概率性提示 —— 这两者在处置上的力度完全不同。

要记录哪些字段

可解释性不是事后补写的说明，而是判定当时就留下的记录。缺了这些字段，事后无论怎么解释都只是复述

• 判定版本：模型或规则集的版本号与生效时间。
• 触发依据：命中的规则条目，或影响最大的若干因素及其取值。
• 处置链路：由系统自动阻断、转人工还是放行，以及接手人。
• 复核结论：人工是否维持原判、推翻的原因是什么。

与审计的关系

审计关心的不是模型有多准，而是同一笔交易换个时间来看，能不能得到同样的解释。因此判定的可复现性比准确率更重要：同一份记录、同一版规则，应当能推导出同一个结论。做不到这一点，解释就只是叙述

边界：解释不等于自证

• 系统给出的理由不能作为对客户的最终答复，对外表述需要经过合规确认。
• 可解释性不能替代公平性审查，两者是不同的问题：前者说明为什么，后者检查是否系统性偏向某类客户。
• 识别率高不等于可以放宽复核，高风险判定的处置仍需人工参与。

从判定到应答的链路

把可解释性理解为一段链路而不是一个功能，落地会清楚很多：判定时留下记录，处置时按记录行动，应答时沿记录复述。任何一环缺位，后面的环节都只能靠回忆补齐

• 判定环节：同时产出结论与依据记录，两者存在同一处，不做二次整理。
• 处置环节：处置动作与触发它的依据绑定，便于事后判断处置力度是否与风险等级相称。
• 应答环节：投诉与问询按记录应答，需要改口径时改的是模板，而不是单条记录。
• 复盘环节：定期抽看被推翻的判定，识别是规则过时还是阈值不当。

验收口径

• 任意一笔被判定为高风险的交易，都能导出一条包含版本、依据与处置的记录。
• 同版规则下同一笔交易的判定结果可复现。
• 人工复核的维持与推翻都有记录，并能按原因分类统计。
• 对外解释的模板由合规确认，系统不直接生成对客户的答复。