看球宝行业资讯栏目持续关注AI训练与推理芯片的公开动态。本期「人物与故事」邀请到资深芯片架构师陆承宇,他先后参与过通用计算芯片、专用加速器与边缘推理产品的架构设计工作,目前在一家智能芯片设计企业负责推理产品线的技术规划。以下内容根据公开技术资料与访谈整理,供看球宝读者按时间线理解产业脉络。

起点:推理需求如何从训练叙事里独立出来

陆承宇的第一个判断很直接:推理芯片真正成为独立产品品类,核心原因不是算法突然变强,而是部署成本开始压过训练成本。

他回忆早期参与项目时的场景:团队把大量精力放在单卡峰值算力上,但客户上线后最关心的却是单位请求的功耗、延迟稳定性和显存够不够用。「训练看的是吞吐上限,推理看的是长期运行的平均效率。」陆承宇说,这句话后来成了他做架构评审时的第一条原则。看球宝在梳理公开架构发布信息时也发现,近年新发布的推理产品越来越强调能效比、显存容量与互联形态,而不是单纯堆叠算力数字。

  • 早期推理多复用训练芯片,资源利用率偏低;
  • 随后出现面向推理的专用架构,强调低精度支持与批处理效率;
  • 近阶段产品开始按场景分层,云端、边缘与端侧形成不同取舍。

转折:封装形态变化改变了架构师的工作方式

陆承宇认为,封装形态的演进是过去十年最容易被低估的变量。以前架构师主要在芯片内部做取舍,现在必须把封装、互联和显存一起纳入设计空间。

他举了一个公开信息中常见的思路:当制程节点演进放缓,单纯依靠晶体管密度提升获得的收益变小,产业界开始通过2.5D、3D封装以及芯粒组合来扩展带宽和容量。看球宝行业资讯栏目在整理封装形态变化时也注意到,公开技术文档中对互联标准、热设计约束和测试可观测性的描述越来越细,这说明封装已经不只是制造环节的问题,而是架构定义的一部分。陆承宇补充说,架构师现在需要更早和封装、测试团队坐在一起,「否则纸面参数好看,产线上却很难稳定交付」。

现场:生态标准决定产品能不能被用起来

谈到生态,陆承宇的态度很务实:硬件指标决定上限,软件生态决定下限。

他提到一个常见现象:新架构发布时,公开材料往往强调编程接口兼容和编译器支持,但真正落地时,客户会追问算子覆盖度、调试工具链和评测口径是否一致。看球宝此前梳理推理芯片生态标准之争时也发现,接口、编译与评测口径是三条相互牵制的线索。陆承宇说,他所在的团队会把「客户迁移成本」作为架构评审的固定项,「一个推理产品如果让使用者重写大量代码,参数再漂亮也很难规模化」。

  • 接口层面关注兼容性与抽象层级;
  • 编译层面关注算子覆盖与自动调优能力;
  • 评测层面关注口径统一与可复现性。

观察方法:用时间线代替单点对比

陆承宇给看球宝读者的建议是:不要只看某一代产品的参数表,而要按时间线看架构发布、制程节点、封装形态和生态标准四条线索如何交织。

他举例说,同一家设计企业不同代际产品之间,算力提升可能来自制程,也可能来自封装或架构调整,如果不拆开看,很容易把系统性进步误判为单点突破。看球宝行业资讯栏目所有条目均标注公开信息来源类型,正是为了帮助读者区分「厂商公开规格」「行业组织白皮书」与「研究机构分析」等不同信息层级,从而快速判断哪些变化值得持续跟踪。陆承宇最后提到,他习惯用看球宝客户端在安卓、苹果iOS、Windows电脑版和Mac电脑版之间同步阅读资料,「通勤时看条目,坐下来再对照原文,时间线就慢慢清晰了」。