快速节能计算和芯片的未来是光学的,但是NVIDIA尚无法大规模生产它们。
喜欢指数的未来?加入我们的Xpotential社区,通过Xpotential University的课程进行未来的证明,阅读有关指数技术和趋势,连接,观看Keynote或浏览我的博客。
NVIDIA的首席执行官Jensen Huang周二表示,旨在削减能源使用的一种有希望的新芯片技术还不够可靠,可以在NVIDIA的旗舰图形处理单元(GPU)中使用。
称为新兴技术的共包装光学元件使用激光光束在芯片之间发送有关光纤电缆的信息,从而使连接更快,并通过传统的铜电缆具有较高的能源效率。
在加利福尼亚州圣何塞的一个拥挤的曲棍球体育场举行的NVIDIA年度开发人员会议的主题演讲中,黄说,他的公司将在两个新的网络芯片中使用共同包装的光学技术,这些芯片位于服务器之上,称这项技术将使芯片能够使芯片高三分及以比其前者高。
Switch Chips将在今年晚些时候出现,并迈向2026年,朝着推进该技术的一小部分但重要的一步。但是,黄在演讲后告诉一群记者,尽管Nvidia在其旗舰GPU芯片中使用它进行了更广泛的研究,但目前没有计划这样做,因为传统的铜连接是“数量级”,比当今的共同包装的光学连接更可靠。
“这是不值得的,”黄说,直接在GPU之间使用光学连接。“我们一直在使用该方程式。铜要好得多。”
黄说,他专注于提供可靠的产品路线图,Nvidia的客户(例如Openai和Oracle)可以为您准备。
Huang说:“在几年内,几亿美元的AI基础设施将被放置,因此您已获得预算。您获得了批准的权力。您已经建造了土地。”“您现在愿意扩大几亿美元的规模?”
硅谷企业家和投资者已经将希望寄希望于光学技术,他们认为这对于AI Systems构建越来越多的计算机至关重要,Huang周二表示,即使在DeepSeek这样的公司的前进之后,AI Systems也需要更多的计算机能力来思考他们的答案,这仍然是必要的。
Ayar Labs,LightMatter和Celestial AI等初创公司已经筹集了数亿美元的风险投资(其中一些来自NVIDIA本身),以尝试将共包装的光学连接直接放在AI芯片上。LightMatter和Celestial AI都针对公共产品。
铜连接既便宜又快速,但最多只能携带几米的数据。虽然这似乎很微不足道,但在过去的五年中,它对NVIDIA的产品阵容产生了巨大影响。
NVIDIA的当前旗舰产品在一台服务器中包含72个芯片,消耗了120千瓦的电力并产生了如此多的热量,以至于需要类似于汽车发动机的液体冷却系统。旗舰服务器于周二宣布,于2027年发布,将把数百枚Vera Rubin Ultra Chips装入一个架子中,并将消耗600千瓦的功率。
在两年内将芯片数量塞入同一空间的两倍以上,将需要来自Nvidia及其合作伙伴的工程壮举。这些壮举是由AI计算工作需要在芯片之间来回移动大量数据的事实所驱动的,而Nvidia试图将尽可能多的芯片保留在相对短的铜连接范围内。
Ayar Labs的首席执行官马克·韦德(Mark Wade)获得了NVIDIA的风险支持,他说,芯片行业仍在导航如何以较低的成本和更高的可靠性制造共包装光学元件。韦德说,虽然过渡可能要到2028年或以上,但芯片行业别无选择,只能抛弃铜,如果它想继续构建越来越大的服务器。
韦德在接受NVIDIA会议的旁观采访时对记者说:“只要看看用电连接的架子上的功耗上升。”“光学是唯一使您脱离火车的技术。”

