LightCounting在Hot Chips 2024见识：果然如此AI占主导地位

  C114讯 北京时间9月5日音讯（水易）近来，光通信商场研究机构LightCounting对在“Hot Chips 2024”期间的论题进行了总结。据了解，Hot Chips技能会议聚集于半导体和微处理器的规划与立异，是全球芯片职业颇具影响力的会议。

  LightCounting表明，本年的Hot Chips会议正值生成式人工智能炒作周期的高峰。OpenAI的Trevor Cai在他的主题讲演中提出了AI核算的牛市事例。

  但是，在这个以技能发布著称的大会上，来自商业芯片供货商的讲演却令人绝望。虽然讲演阵容强大，但鲜有新的细节呈现。

  英伟达公司关于Blackwell架构的讲演首要是重复之前发表的信息。不过，其间一张幻灯片上的GB200 NVL36机架的相片却让人觉得“一图胜千言”。

  许多客户更喜爱NVL 36，而不是高功耗的NVL 72，后者需求每个机架高达120kW的功率。两者的首要不同之处在于，NVL 36机架中心显现的NVLink交换机托盘具有前面板结构，而NVL 72中运用的“不行扩展”NVLink交换机托盘仅具有用于NVLink spine/backplane的背板衔接器。

  虽然英伟达省掉了布线细节，但外部NVLink线缆或许包含无源（DAC）和有源铜缆（ACC/AEC）以及可插拔光模块。NVL 36为布线发明了一个新的细分商场，虽然短期内首要是铜缆。

  英特尔早在本年4月就发布了Gaudi 3 AI加速器，但其功用仍值得重申。新芯片运用 48x112G SerDes集成了24x200G以太网端口。与微软的Maia相同，Gaudi 3 芯片可直接衔接以完成向上扩展，也可通过交换机衔接以完成集群扩展。集成网卡支撑用于低推迟RDMA数据传输的RoCE协议。

  在另一场讲演中，英特尔再次评论了4Tbps光核算互联（OCI）芯片组。讲演者强调了激光器集成的价值，并强调了迄今为止出货量已超越3千万的激光器所具有的0.1FIT可靠性。

  博通公司介绍了其用于带有光学附加功用的AI核算ASIC的共封装光学（CPO）技能，首要涉及其Bailly CPO交换机，还有一些关于CPO在XPU中的新细节和概念。

  博通公司还介绍了“oceanfront”的封装概念，它不同于beachfront，首要是将光学引擎衔接到CoWoS 封装基板上，可为CPO衔接供给比硅插层更多的线性空间。此外，也介绍了在未来的光学引擎中运用双向（bidi）信号的主意，将光纤的用量折半。

  或许本年商业芯片供货商退居数据中心运营商之后是适宜的。究竟，正是后者推动了对AI基础设施的大规模出资。人工智能架构的多样性应该对供应链有利，在英伟达定制的全栈解决方案之外拓荒时机。