FreeToken Decode 阶段的命中、缓存填充与 CPU 执行
12 个去重路由专家中 8 个命中 GPU 缓存，4 个未命中。根据 4060 的测量带宽，一个未命中专家进入 GPU，三个由 CPU 计算，结果精确相加。
Decode：缓存命中直接算，4 个 miss 再由 q* 分流
示例沿用论文 Figure 2：当前层去重后有 12 个路由专家，其中 8 个命中、4 个未命中
Router 输出
E3E8E17E42
E58E91E103E144
E155E188E201E233
GPU LRU Cache：8 个 hit
逻辑 expert id 直接改写成物理 slot id
Host Expert Pool：4 个 miss
完整权重都在 RAM，接下来决定在哪里执行
E155E188E201E233
4060 实测带宽决定 q*
q* ≈ 4 × 11.8 / 47.5 ≈ 1
GPU 分支
8 个 hit + 1 个新 fill → grouped GEMM
新专家留在 slot，下一 token 可能命中
CPU 分支
其余 3 个 miss 直接计算
与 GPU 搬运和计算并发
+
精确合并 CPU / GPU 部分和