光速连接:光学互连技术将如何改变人工智能的未来?
在高性能计算领域,光纤正在逐渐取代铜线,成为处理器之间的连接桥梁。科技公司希望通过将光学连接从服务器外部转移到主板,并最终与处理器并肩作战,来加速人工智能的发展并降低其能耗。现在,科技公司正在更进一步,试图通过将连接置于处理器下方来释放处理器的全部潜力。
Lightmatter 公司正是采用了这种方法,他们声称自己处于领先地位,其研发的互连器可以实现光速连接,不仅可以连接处理器与处理器,还可以连接处理器内部的不同部分。这项技术的支持者认为,它有可能显著降低复杂计算的能耗,这是当今人工智能技术发展的重要需求。
Lightmatter 的创新吸引了投资者的目光,投资者看到了这项技术的巨大潜力,为该公司筹集了 8.5 亿美元资金,使其远远领先于竞争对手,估值达到 44 亿美元。现在,Lightmatter 准备将名为 Passage 的技术投入使用。该公司计划在 2025 年底之前,将该技术的生产版本安装到领先客户的系统中。
Passage 是一种光学互连系统,它可能成为突破摩尔定律限制,提升高性能处理器计算速度的关键一步。Lightmatter 首席执行官 Nick Harris 表示,这项技术预示着未来,多个处理器可以将资源集中起来,协同工作,完成人工智能所需的庞大计算任务。
“从现在开始,计算的进步将来自将多个芯片连接在一起,”他说。
光学互连器
从本质上讲,Passage 是一种互连器,它是一片玻璃或硅片,上面连接着更小的硅芯片(通常称为“芯粒”),这些芯粒在同一个封装内相互连接。如今,许多顶级服务器 CPU 和 GPU 都由多个硅芯片组成的互连器构成。这种方案允许设计人员将使用不同制造技术的芯片连接起来,并增加处理能力和内存容量,超出单芯片所能达到的水平。
目前,连接互连器上芯粒的互连器完全是电气连接。与主板上的连接相比,它们速度更快,能耗更低。但它们无法与光子在玻璃光纤中无阻抗流动的速度相比。
Passage 由一块 300 毫米的硅晶圆切割而成,晶圆表面下方有一层薄薄的二氧化硅。一个多波段外部激光芯片为 Passage 提供光源。互连器包含可以接收来自芯片标准 I/O 系统(称为串行器/解串器,或 SerDes)的电信号的技术。因此,Passage 与现成的硅处理器芯片兼容,不需要对芯片进行任何根本性的设计更改。
计算芯粒叠放在光学互连器之上。
Lightmatter
来自 SerDes 的信号传输到一组称为微环谐振器的收发器,这些收发器将比特编码到不同波长的激光光中。接下来,一个多路复用器将光波长组合到一个光路中,数据通过干涉仪和更多环形谐振器进行路由。
从光路中,数据可以通过芯片封装两侧的八个光纤阵列之一发送到处理器之外。或者,数据可以被路由回同一个处理器中的另一个芯片。在任何一个目的地,该过程都会反向进行,光被解复用并使用光电探测器和跨阻放大器转换回电信号。
Harris 声称,Passage 可以使数据中心使用 六分之一到二十分之一的能量。
与典型的电气连接相比,处理器中任何芯粒之间的直接连接消除了延迟并节省了能量,而电气连接通常仅限于芯片边缘。
这就是 Passage 与其他使用光连接处理器的竞争者之间的区别。Lightmatter 的竞争对手,例如 Ayar Labs 和 Avicena,生产的光学 I/O 芯粒旨在放置在处理器主芯片旁边有限的空间内。Harris 将这种方法称为光学互连的“第二代半”,比位于处理器封装外部主板上的互连器更进一步。
光学的优势
光子互连的优势在于消除了电气连接固有的限制,电气连接在传输数据越远时消耗的能量就越多。
光子互连初创公司建立在这样的前提之上:为了满足未来人工智能不断增长的计算需求,这些限制必须被打破。Harris 表示,数据中心中的许多处理器需要同时处理一项任务。但是,使用电气连接在几米范围内传输数据将是“物理上不可能的”,而且成本高得惊人。
“数据中心的电力需求已经超过了其设计能力,”Harris 继续说道。他声称,Passage 可以使数据中心使用六分之一到二十分之一的能量,而且随着数据中心规模的扩大,效率会更高。然而,他表示,光子互连带来的节能优势并不会导致数据中心整体能耗降低。相反,它们更有可能以相同量的电力完成更复杂的任务。
人工智能推动光学互连发展
Lightmatter 在 10 月份的 D 轮融资中获得了 4 亿美元资金,其资金储备因此增加。TechInsights 分析师 James Sanders 表示,对优化处理器网络的投资已成为一种“不可避免的趋势”。
2023 年,10% 的服务器出货量是加速的,这意味着它们包含与 GPU 或其他 AI 加速器 IC 配对的 CPU。这些加速器与 Passage 旨在与之配对的加速器相同。TechInsights 预计,到 2029 年,三分之一的服务器出货量将是加速的。投入光子互连领域的资金是一场赌注,赌注是它们是利用人工智能获利的必要加速器。