可以光子学下一代智能聊天机器人吗?

Twan专题Korthorst

2023年7月19日/5分钟读

这篇文章最初发表在EE倍

你最近要求ChatGPT做什么?机会是,如果你自己没有试过人工智能聊天机器人,你知道的人。写论文和代码来解释复杂的概念,世界各地ChatGPT是吹的思想以其速度和最富的散文。这也是人工智能的另一个例子是变得更容易和无处不在的智能世界的一切。

计算密集型应用人工智能和机器学习(ML)继续变得更加根深蒂固的在我们的生活中,这是值得考虑的底层基础设施使这些创新成为可能。简单地说,这些应用程序要求的重负载硬件处理算法,运行模型,并保持数据流它应该去的地方。

超大型数据中心的高性能计算资源出现了为了解决人工智能的工作负载,高性能计算、大数据分析,等等。然而,它正变得越来越明显,传统的铜互联,汇集不同的组件在这些数据中心提供的带宽要求的限制。这就是光子集成电路(图片),使用光的力量,可以发挥关键作用。

在本文中,我们将探索光子如何提供一个大道不仅为更高层次的性能也提高能源效率以及对小型化的支持。给定的力量影响今天的计算工作量,为行业必须设法减少其能源足迹下ChatGPT创建。

光子集成电路设计

权力的执行价格的人工智能模型

的真实性ChatGPT在于其使用生成Pre-trained变压器3 (GPT-3)从OpenAI自回归语言模型,它使用深度学习产生文本。在1750亿参数,该模型的体系结构超过人脑的加工水平表现出(相当于1000亿年的模型参数)。

这样的人工智能模型将巨大的要求硬件组件,如内存,cpu、gpu,过程和加速器。硬件基础组成的大数组的gpu和高带宽的光学连接需要执行人工智能模型,但所有这些有一些严重的权力(和成本)的考虑。

超大型数据中心面临的一般特性至少5000台服务器管理pb的数据在100000年代的平方英尺的空间具有效率的能力迅速处理大量的数据。然而,这种能力和能力有巨大的功率损失:数据中心能耗在220到330年的2021千瓦时(TWh)范围,代表大约0.9%到1.3%的全球电力需求,根据国际能源机构。把目光放长远一点,这是比一些国家一年消耗更多的能量。

在许多数据中心,硬件组件通常是通过铜互联、连接架之间的连接在中心经常使用光纤。使用光学连接的趋势越来越短的距离现在已经达到一定程度,光学等核心硅的I / o开关、cpu、gpu, die-to-die互联使用光子正迅速成为一个不可避免的新一代数据中心解决方案。通过使用光的属性,光子集成电路可以启用、扩展和增加数据传输。从物理学的角度来看,没有别的可以做光子能做些什么来增加带宽和速度,同时减少延迟和功耗。这是什么数据核心的依赖需要的人工智能聊天机器人。

“我们开车发现最优的AI和数组的量子系统产业,包括医疗、金融、和工业,我们经历的真正好处利用光子学大幅提升带宽和速度,”博士说Nagendra Nagaraja, QpiAI的创始人兼首席执行官。“Synopsys对此光子学的解决方案使我们能够与光速注入我们的技术,帮助我们的客户提高他们的商业结果。”

光子学:光学公路分类数据中心

我们已经看到了在数据中心架构转向崩溃等,均匀资源存储、计算和网络分离在不同的盒子和光学连接。这种类型的架构没有浪费资源;相反,一个中央情报部门决定,我们需要从每个盒子,与数据遍历光学互联。剩余资源可以用于其他工作负载。

除了使用在rack-to-rack、房间和building-to-building配置,光学互联也可能成为主要的CPU和GPU水平和照顾的数据I / O使用光信号。希望取代许多电气的I / O并行和高速串行通道光学高带宽连接驱动near-packaged光学的需要,使用高性能PCB基板(一个插入器)在主机板,和co-packaged光学、单包集成电子和光子死亡。虽然光子可能不会在短期内取代传统电子半导体组件,他们显然有地方在餐桌上解决带宽和延迟需求。与此同时,研究正在了解模拟和数字的值计算在光学领域。

光子学突破带宽壁垒

图片市场预计将增长2022年和2032年之间的CAGR为21.5%根据未来市场的见解。高速数据传输和能耗低,很明显,图片提供了一种突破带宽壁垒同时最小化能量的影响。

LightMatter等公司,其光子人工智能计算平台,和Ayar实验室,开发光学互连chiplets,那些在发展的前沿新技术解决带宽要求,同时降低对环境的影响。此外,一些公司正在设计模拟和数字计算解决方案用光子代替电子功能为核心算法。事实上,光子学领域的持续创新的时机已经成熟。

然而,图片设计不是传统集成电路的设计。这些电路与材料的性能以及光学性能,反过来,与几何形状。在这一领域获得成功需要知识的最新研究,工具和技术,以及深度的理解量子物理光学。

Synopsys对此,它提供了行业唯一的无缝设计流程为光子设备,系统和集成电路,可以提供一个通向光子设计成功。我们也与主要铸造厂密切合作流程设计工具(此后)简化图发展,我们和政府组织对光子教育计划。Synopsys对此也投资于技术,以创造与瞻博网络合作OpenLight硅光子学,介绍了世界上第一个开放平台集成的激光。

从ChatGPT到物联网,高耗带宽的应用设置开车需要更高的数据传输速度。Photonic-based芯片接电话,利用光的速度提供更大的带宽,更低的延迟和更低的权力。与光子集成电路的不断发展,电子行业的未来的确是光明的。

继续阅读

Baidu