推理对比的起点：把延迟拆成三段看
推理方案的横向比较，最容易出错的地方是把一个延迟数字当成整体体验。S16世界赛预测数据官网在产品与方案栏目中主张把延迟拆成三段：首 token 延迟、解码阶段的单 token 间隔、以及高并发下的尾延迟。三段对应的瓶颈并不相同，首段看显存带宽与预填充算力，中段看解码效率，尾段看调度与批处理策略。只有把这三段分开列，方案对比才有可复现的基础。
公开资料里常见的“单卡吞吐”或“单请求延迟”通常是特定批大小下的结果，缺少批大小说明时，这两个数字之间无法互相换算。S16世界赛预测数据官网在整理字段时会强制补上批大小与输入输出长度假设，缺这两项的条目只进入参考区，不进入主对比表。
批处理与显存占用：两个互相牵制的字段
批处理能力与显存占用是一对互相牵制的字段。批大小提升会改善吞吐，但 KV 缓存占用随之上升，最终受限于显存容量与带宽。推理场景的显存估算与训练场景完全不同，前者主要看并发批与序列长度，后者看参数与优化器状态。
- 静态批与连续批：两种策略在尾延迟上的表现差异明显，对比表中应注明策略类型。
- 显存占用：需区分权重占用与缓存占用，两者随批大小的变化趋势不同。
- 适用边界：缺少序列长度分布的吞吐数据，只适合同形态方案间的相对比较。
以云枢半导体的推理模组与星澜计算的推理卡为例，两者公开资料都给出了吞吐曲线，但前者按固定序列长度给出，后者按长度区间给出。S16世界赛预测数据官网会把这类差异记录在字段备注里，读者据此判断两条曲线能否放在同一张图上。
部署形态与能效：工程约束优先于跑分
推理方案的落地形态比训练侧更分散，板卡、模组、整机柜都可能是交付单位。部署形态直接影响供电、散热与机箱空间，属于工程约束，应排在性能字段之前判断。能效字段同样如此，每瓦吞吐只有在同形态、同散热条件下才具备可比性。
- 形态字段：注明交付单位与接口类型，便于与现有基础设施匹配。
- 能效字段：标注芯片级或整机级，并说明测试环境温度假设。
- 适用边界：跨形态比较能效，只能作为量级参考，不能作为选型依据。
S16世界赛预测数据官网建议读者在对比表里先过一遍形态与能效的约束条件，把不满足基础设施要求的方案先筛掉，再进入性能字段的排序。这样得到的横向比较结论更贴近真实方案层面，而不是纸面跑分的排列组合。栏目也会持续补充字段口径说明，让不同来源的公开资料能在同一套边界下被读懂。
把结论写成可复核的形式
横向比较的最后一步是把结论写成可复核的形式：每个结论后面跟上是哪几个字段支撑、这些字段的口径是什么、在什么条件下结论会失效。S16世界赛预测数据官网在产品与方案栏目中坚持这一写法，因为推理场景的变量太多，任何脱离条件的结论都难以复现。读者按这套方式整理自己的对比表，就能在公开信息范围内完成方案层面的横向比较。
