美国旧金山时间8月8日,全球光电混合计算领军企业曦智科技(Lightelligence)携全新光互连技术产品亮相2023全球闪存峰会(Flash Memory Summit,FMS),发布了曦智科技首款适用PCIe和CXL(Compute Express Link)协议的数据中心光互连硬件产品——Photowave,并现场演示了内存扩展光互连解决方案。
作为首个通过光互连实现CXL内存扩展的产品,Photowave在FMS峰会上一经亮相即斩获了大会最高荣誉(Best of Show),并因此被列入了FMS全球闪存峰会2023年度大事记。
Photowave采用曦智科技三大核心技术之一的片间光网络技术(Optical Networking,oNET),借助光子技术低延迟和高能效的特性,实现远距离间高效数据传输,提升数据中心内不同计算硬件的工作负载效率,从而赋能可重构解耦架构数据中心的资源池化和横向扩展,实现算力网络的最终愿景。
曦智科技创始人、首席执行官沈亦晨博士表示:“我们对这一重大突破非常兴奋。Photowave会很快建立工作负载效率的标准,助力可扩展的计算卡和加速卡集群实现优化配置。”
曦智科技的Photowave产品荣获FMS Most Innovative Memory Technology奖项
对于获得FMS2023大奖,沈亦晨博士又补充道:“这个奖项是对Photowave的极大认可,它肯定了光互连在资源池化和可扩展算力集群中的价值,并将成为新一轮算力基础设施建设中的关键技术。我们非常高兴能够将这项技术推向市场,也期待通过曦智科技的光互连技术,提高数据中心算力基础设施的性能和效率。”
“电子芯片的功耗、通信和内存等方面都在接近其物理极极限,随着人工智能和大型语言模型将消耗越来越多的算力,我们需要新的方法和技术来支持算力的持续扩展,”FMS全球闪存峰会奖项计划主席, Network Storage Advisors Inc.总裁Jay Kramer表示:“我们很荣幸将这一奖项颁给曦智科技的Photowave产品,它作为首款为CXL互连协议(Compute Express Link)设计的光互连硬件,提供了在机架内或跨机架扩展内存的高效解决方案,并体现出了光子在延迟和能效等方面的显著优势。”
FMS全球闪存峰会大奖旨在表彰各个细分市场的行业创新技术领导者,以及他们为突破解决数据中心和企业基础设施瓶颈的关键问题所研发的产品。
当前,数据中心为应对工作负载中计算资源和内存闲置问题所付出的成本正越来越高,因此,业界开始推动CXL协议标准,以解耦计算卡、加速卡和内存等硬件资源,减少闲置,从而提升基础架构的使用效率。然而目前基于以太网的基础架构延迟过高,难以满足解耦数据中心的性能要求。Photowave光互连产品则提供了一种全新的解决方案。
在本次FMS峰会上,Ron Swartzentruber,曦智科技工程总监、Photowave产品技术负责人还发表了专题演讲,详细介绍了Photowave的产品细节和曦智科技光互连解决方案的优势。
曦智科技工程总监Ron Swartzentruber发表演讲
Photowave产品系列有多种外观尺寸类型,包括标准PCIe卡、OCP 3.0 SFF卡和有源光缆等形态,设计数据传输延迟低于20纳秒,其中有源光缆延迟低至1纳秒以下,功耗也降至15瓦以下。该产品系列适用于服务器平台、CXL交换机、存储应用以及xPU之间的互连。
Photowave通过光学器件实现CXL 2.0/PCIe Gen 5的连接,可配置x16、x8、x4、x2等不同通道数,覆盖多种部署场景。除了高速数据信号,Photowave还可以传输边带信号,完美兼容标准协议,帮助数据中心实现更高效、更可靠的可重构解耦架构。
Photowave产品具有多种形态,通用性强
在FMS现场,曦智科技演示了如何通过Photowave显著提升大语言模型(LLM)推理中的工作负载效率。在大语言模型OPT-66B推理中,当使用两张Photowave PCIe Gen5 卡分别连接AMD Genoa CPU服务器和三星CXL可扩展内存时,CXL可扩展内存的LLM推理吞吐量相较于SSD/NVMe磁盘卸载体现出了2.4倍的稳定优势。
今年以来,曦智科技不断加快产品市场化进程,致力于建立完整的光电混合计算新生态。此次发布的全新光互连产品从用户痛点出发,由发挥光电混合计算优越性的场景切入,为客户提供了低延时、低功耗的算力提升解决方案。
###
关于曦智科技
曦智科技(Lightelligence)成立于2017年,是全球光电混合计算领军企业。公司凭借在集成光子领域的开创性技术和全球顶尖的集成电路技术研发团队,致力于在计算需求爆发的时代,为客户提供一系列算力跃迁解决方案,与客户共建更智能、更可持续的世界。曦智科技从光子矩阵计算(oMAC)、片上光网络(oNOC)和片间光网络(oNET)三大核心技术出发,打造光子计算和光子网络两大产品线,与大数据、云计算、金融、自动驾驶、生物医药、材料研究等领域客户开展紧密合作,持续为客户提供更具创造性的高效算力支撑。要获知更多信息,请访问www.lightelligence.co。