光电初创公司Lightmatter详细介绍了其AI光学加速器芯片

2021-11-19 21:10 来源:

打印 放大 缩小

在本周的热门芯片会议之前,光子学芯片初创公司Lightmatter透露了有关即将推出的测试芯片的首个技术细节,该芯片有望在2021年秋季发布。与传统的处理器和图形卡不同,测试芯片使用光来发送信号,有望提高性能和效率几个数量级。

测试芯片的基础技术-光子集成电路-源自Lightmatter首席执行官和MIT校友Nicholas Harris共同撰写的2017年一篇论文,该论文描述了一种利用光干涉执行机器学习工作负载的新颖方法。这样的芯片仅需要有限的能量,因为光产生的热量少于电。它们还受益于减少的等待时间,并且不易受到温度,电磁场和噪声变化的影响。

Lightmatter对测试芯片提出了惊人的要求。该公司表示,尽管没有基准测试,但该测试芯片的性能要优于Nvidia图形卡,Intel和AMD处理器,甚至在最先进的AI模型上,甚至比Google的张量处理单元(TPU)之类的专用硬件都要好。(Lightmatter说,一个测试芯片在开源ImageNet数据集上运行了ResNet-50对象分类模型,具有99%的单精度浮点精度。)

除了夸张,Lightmatter说,它的通信平台-项目Wormhole,以计算机网络中的流量控制系统(称为“虫洞交换”)命名,可以使大约50个测试芯片处理器在没有光纤的情况下以超过100Tbps的速率交换数据。通过“晶圆级”光子平台进行通信,芯片簇的行为就好像它们是一个大型系统一样,在整个阵列中发送数据。

像通过棱镜折射的多种颜色的光束一样,单个测试芯片可以同时使用不同波长的光执行计算。它通过调制称为波导的线状组件的亮度,对数据进行编码并通过光学器件将其发送出去。测试芯片与其他芯片和外界的通信非常类似于标准电子芯片(即,通过发送一系列电信号)。当它们完成对光束的计算时,P1芯片会利用类似于太阳能电池板的光电探测器将光信号转换回可以存储或读取的电信号。

那么这对机器学习有什么好处呢?当物体检测算法处理图像时,它将每个像素分为三个通道(红色,绿色和蓝色),并将图像逐行转换为值的集合(向量)。分别的红色,绿色和蓝色矢量通过处理器,该处理器在这些矢量上执行算法以识别图像内对象。

数字处理器将向量通过称为乘法累加单元(MAC)的数组进行执行。硅处理器具有少量的MAC,而GPU具有整个MAC阵列,从而使后者性能更高。但是像Lightmatter的测试芯片这样的光学芯片能够通过将向量的输入通过一系列的数模转换器来执行算法,然后将它们从数字序列转换为成比例大小的电信号。

测试芯片内的光调制器将信号转换为由硅制成的波导内的激光束所携带的光信号。在光中编码并由波导引导的向量通过光学设备的2D阵列发光,该阵列执行与MAC相同的操作。但是,与数字处理器MAC(每层必须等待上一层完成)相反,测试芯片中的计算是在光束“飞行”时(通常在80皮秒内)进行的。

Lightmatter的硬件旨在插入标准服务器或工作站,因此无法不受光学处理的限制。快速的光子电路需要快速的存储,然后就需要将每个组件(包括激光器,调制器和光学组合器)封装到一个微小的芯片晶圆上。此外,关于在光学领域可以执行哪种类型的非线性运算(使模型能够进行预测的基本模型构建块)仍存在疑问。

这可能就是为什么像Intel和LightOn这样的公司追求混合方法的原因,该方法将硅和光学电路结合在同一芯片上,以使模型的一部分以光学方式运行,而模型的一部分以电子方式运行。这些公司并不孤单-迄今为止,初创公司Lightelligence已在其加速器上展示了MNIST基准机器学习模型,该模型使用计算机视觉识别手写数字。和LightOn,Optalysis和Fathom Computing都在争夺新兴的光学芯片市场,它们已经为自己的芯片筹集了数千万的风险投资。值得一提的是,总部位于波士顿的Lightmatter已从GV(Alphabet的风险部门),Spark Capital和Matrix Partners等投资者那里筹集了总计3,300万美元的资金。Lightmatter表示,其当前的重点不在硬件上,是确保测试芯片与流行的AI软件一起使用,包括Google的TensorFlow机器学习框架。

责任编辑:互联网