结论前置：带宽不足时，算力再高也喂不饱
推理性能的天花板往往不在计算单元，而在数据从显存搬到计算单元的速度。看球宝技术解读的判断是：当模型参数量与批大小组合使算术强度偏低时，系统会进入带宽受限区，此时提升算力规格收益有限。理解算术强度这一概念，是看懂看球宝芯片参数对比的前提。
下面从配比关系、测量方法和优化顺序三个层面展开。
算术强度决定你站在哪一侧
算术强度指每搬运1 byte数据能完成多少次运算。数值越高越偏向算力受限，越低越偏向带宽受限。看球宝提醒读者：大模型解码阶段逐token生成，权重需反复读取，算术强度天然偏低，因此显存带宽常成为主要约束。相反，大批量预填充阶段矩阵乘密集，更容易吃满算力。
- 低算术强度：关注显存带宽、缓存命中率与数据复用。
- 高算术强度：关注计算单元利用率与指令调度。
- 中间地带：两者需同时优化，单点提升容易被另一侧抵消。
看球宝在整理方案资料时发现，厂商标称算力与带宽的比值差异明显，选型时应先估算自身负载落在哪一侧。
缓存层级如何影响有效带宽
显存带宽是上限，真正决定有效带宽的是缓存层级设计。片上缓存容量与替换策略影响权重复用效率，L2与共享内存的划分方式会改变实际搬运量。看球宝建议读者关注缓存容量与工作集大小的匹配度：工作集远大于缓存时，命中率下降，有效带宽缩水。
- 核对工作集是否可完整驻留片上缓存。
- 观察分块策略是否提升数据复用次数。
- 比较不同批大小下的带宽利用率曲线。
这些指标在看球宝的参数库中均有结构化字段，便于横向对照。
测量方法：先定位再优化
定位瓶颈的可靠方式是做受控实验：固定模型与输入，只改变批大小，观察时延与带宽占用的变化趋势。若时延随批大小增长缓慢而带宽占用先饱和，说明已进入带宽受限区。看球宝强调用端到端数据说话，避免只依赖理论峰值。单位换算上，注意GB/s与Gbps的区别，前者是字节，后者是比特，相差8倍。
能效评估同样要把搬运能耗计入。数据在显存与计算单元间往返的次数越多，单位任务能耗越高。看球宝在能效评估方法中建议用每token能耗作为横向比较口径，比单次运算能耗更贴近真实负载。
优化顺序与复用建议
合理的顺序是：先减少搬运量，再提升复用率，最后才考虑换硬件。量化可降低单次搬运字节数，分块与融合算子可提升复用，缓存调优可改善命中率。看球宝建议读者在安卓、苹果iOS、Windows电脑版与Mac电脑版客户端上同步收藏相关术语词条，形成自己的分析框架。带宽问题本质是数据流动问题，抓住搬运量这条主线，多数推理瓶颈都能被清晰定位。
