计划员不用 AI 的建议，多数时候不是因为算错了，是因为不知道它为什么这么算。屏幕上一个方案写着「重排之后延期订单从 17 个降到 4 个」，计划员的第一反应往往是：哪 13 个救回来了，靠什么救的，代价在哪。这几个问题答不上来，建议就只能放着不用。
IDC 在一份调研中访问了 9 个市场的 2000 多名供应链领导者，其中 52% 把「信任 AI 决策」列为采用 AI 的首要障碍。同一份调研里只有 2% 的企业完全没有 AI 能力。也就是说工具大家都有，卡住的是敢不敢用。
解释要做到四层
| 层次 | 回答什么 | 缺了会怎样 |
|---|---|---|
| 结论 | 推荐哪个方案 | 没有建议，只是一张报表 |
| 依据 | 哪条约束把计划卡住了 | 计划员得自己反推，等于没省时间 |
| 对比 | 被否决的方案差在哪 | 判断不了推荐值不值，只能凭感觉 |
| 过程 | 每个数字来自哪次计算 | 出错查不到源头，不敢让它自动执行 |
只有第一层的系统，等于让人闭眼签字。第二层开始才有讨论的基础，第三层才是计划员真正需要的东西，因为取舍从来不发生在推荐方案内部，而发生在几个方案之间。第四层是前三层的地基：数字追不到源头，前面三层的说法都只是文字。
一个延期的追溯链
以一家金属包装加工厂的系统为例。这家厂做镀锡板涂布和印刷，七条产线，一百多张在制订单。
计划员问：SO-2610-0030 为什么会延期？
系统的回答是：订单交期 11 月 6 日，计划完工排到了 11 月 14 日，延误 8 天。直接原因是第二道印刷卡在 9 号线，这条八色印刷线利用率 95.9%，从今天起连排 24 个满班，这道工序只能排到 11 月 14 日。还有两个加重因素：上一张制造订单的印刷道少产 2,800 张，结转成一张补做订单占着产能；原板库存不足，改用下层物料，多出两道涂布。
这个回答里没有一句是模型想出来的。它沿着订单、物料、工序一路调用工具，追到跑这些工序的产线，把追溯链摆出来。推理过程记录了每次调用和看到的每个数，计划员可以逐条核对。
对比里那些容易漏的话
第三层最难，也最有用。
同一家厂假设 8 号线主驱动电机故障，设备部门预计修 48 小时，线上排队的 4 道印刷工序被释放出来。异常响应智能体在计划副本上把三条路各试算一遍，然后给出对比：
| 方案 | 延期订单 | 救回 | 新增延期 | 挪动工序 | 未排入工序 | 加班产线 |
|---|---|---|---|---|---|---|
| A 立即重排（推荐） | 19 | 2 | 0 | 3 | 2 | 0 |
| B 9 号线加班 20% 后重排 | 18 | 3 | 0 | 3 | 2 | 1 |
| C 先不重排，等恢复 | 21 | 0 | 0 | 0 | 0 | 0 |
表之外它还写了两件事。即使重排，8 号线的负荷也没法被其他产线完全吸收，仍有 2 道工序排不进日期。眼下 21 个延期订单里，17 个在事件之前就已经延期，只有 4 个是这次停机造成的。
这两句话把责任边界划清楚了。计划员不必为那 17 个负责，也不必为 2 道排不进去的工序反复试算。少了这一层，对比表反而会成为新的负担，因为每个数字都要人再去核实一遍上下文。
怎样决定出错之后能不能查
我们把这件事放在产品的治理边界里，做到每个建议都有理由。推荐方案附带约束瓶颈、成本与交付影响，以及被否决方案的对比。另外做到全程可追溯，感知到的事件、推理路径、调用的优化任务与最终决策都留下记录，可回放、可审计。
记录留痕这一条看起来是合规要求，实际上是可解释的落地条件。没有记录，解释就只是事后编的说法，计划员核对不了，出了问题也定位不到是哪一步判断错的。
顺便说一句，可解释和大模型选哪个关系不大。我们平台上的模型可以换，DeepSeek、通义千问、Claude 或者自己部署的模型都可以。解释能力来自本体和求解引擎：约束是显式写在图谱里的，方案是优化引擎算出来的，所以每个数字都能追到源头。换一个大模型，追溯链还是那条追溯链。
可解释不是加分项
一个说不清理由的系统，最多做到辅助查询，做不到参与决策。计划员会用它看看数据，但不会照它改计划，更不会让它自动执行。
系统验证的时候这件事可以当场证明。拿一个真实的延期订单去问，看系统给的是结论还是追溯链；再让它比较两个方案，看对比表里除了指标数字，有没有写出那些不好看的部分。写不出来的，通常也没算过。
