芯片设计的新视野

为什么AI需要新的芯片架构

Ai芯片架构
作者是Synopsys EDA Group工程副总裁Thomas Andersen

根据Allied Market Research的数据,到2031年,全球人工智能(AI)芯片市场预计将达到2636亿美元。AI芯片市场广阔,可以以各种不同的方式进行细分,包括芯片类型、处理类型、技术、应用、行业垂直等。然而,人工智能芯片被应用的两个主要领域是边缘(比如为手机和智能手表提供动力的芯片)和数据中心(用于深度学习推理和训练)。

然而,无论应用程序如何,所有AI芯片都可以定义为集成电路(ic),这些集成电路被设计用于运行机器学习工作负载,可能由fpga、gpu或定制的ASIC AI加速器组成。它们的工作方式非常像我们人类大脑在复杂而快速变化的世界中运作和处理决策和任务的方式。传统芯片和AI芯片之间真正的区别在于它可以处理多少数据和什么类型的数据,以及它可以同时进行多少次计算。与此同时,新的软件AI算法突破正在推动新的AI芯片架构,以实现高效的深度学习计算。

继续阅读,了解更多关于AI的独特需求,AI芯片架构的许多好处,最后是AI芯片架构的应用和未来。

人工智能芯片的不同要求

人工智能工作负载是如此繁重和苛刻,以至于该行业在2010年代之前无法高效且经济地设计人工智能芯片,因为它需要的计算能力比传统工作负载高出几个数量级。人工智能需要大量的积乘函数的并行性,比如点积函数。传统的gpu能够以类似的方式对图形进行并行处理,因此它们被重新用于AI应用程序。

我们在过去十年看到的优化是剧烈的。人工智能需要具有合适处理器、存储器阵列、强大安全性的芯片架构,以及传感器之间可靠的实时数据连接。最终,最好的AI芯片架构是将最多的计算元素和内存浓缩到一个芯片中。今天,我们正在转向人工智能的多芯片系统,因为我们已经达到了在一个芯片上所能做的极限。

芯片设计人员在设计激活值的最大尺寸时,需要考虑称为权重和激活的参数。展望未来,为了优化AI芯片架构以获得更高的效率,能够同时考虑AI的软件和硬件设计是非常重要的。

AI芯片架构的好处

毫无疑问,我们正处于人工智能的复兴时期。现在我们正在克服设计能够处理人工智能工作量的芯片的障碍,有许多创新公司是该领域的专家,他们正在设计更好的人工智能芯片来完成十年前看起来非常遥不可及的事情。

当你向下移动处理节点时,AI芯片设计可以导致15 - 20%的时钟速度降低,15 - 30%的密度增加,这允许设计师在芯片上安装更多的计算元素。他们还增加了内存组件,允许人工智能技术在几分钟内完成训练,而不是在几小时内完成,这意味着大量的节省。当公司从在线数据中心租用空间来设计人工智能芯片时,情况尤其如此,但即使是那些使用内部资源的公司,也可以通过更有效地进行试错而受益。

我们现在正处于这样一个阶段:基于许多不同行业和应用的大数据,AI本身被用于设计新的AI芯片架构,并计算新的优化路径,以优化功率、性能和面积(PPA)。

人工智能芯片架构应用及未来展望

人工智能就在我们身边。从最小的物联网芯片到最大的服务器、数据中心和图形加速器,几乎所有类型的芯片都有人工智能处理器。对性能要求更高的行业当然会更多地利用人工智能芯片架构,但随着人工智能芯片的生产成本越来越低,我们将开始在物联网等领域看到人工智能芯片架构,以优化电源和其他我们可能还不知道是否可能实现的优化类型。

对于人工智能芯片架构来说,这是一个令人兴奋的时刻。Synopsys预测,由于性能需求,我们将继续看到下一代流程节点被积极采用。此外,关于不同类型的内存、不同类型的处理器技术以及与这些技术配套的软件组件,已经有了很多探索。

在内存方面,芯片设计人员开始将内存放在硬件的实际计算元素旁边,甚至放在硬件内部,以使处理时间更快。此外,软件正在驱动硬件,这意味着软件AI模型(如新的神经网络)需要新的AI芯片架构。经过验证的实时接口可以提供高速和低延迟所需的数据连接,同时安全性可以保护整个系统及其数据。

最后,我们将看到光子学和多芯片系统在新的AI芯片架构中发挥更大作用,以克服一些AI芯片瓶颈。光子学提供了一种更节能的方式来进行计算和多芯片系统(涉及到芯片的异构集成,通常将内存直接堆叠在计算板的顶部)也可以提高性能,因为不同处理元件之间以及处理和内存单元之间的可能连接速度增加了。

有一件事是肯定的:人工智能芯片架构的创新将继续丰富,而Synopsys将在帮助我们的客户在一系列行业设计下一代人工智能芯片的过程中占据最前沿的位置。

万一你错过了

关注这些与人工智能相关的博客文章,获取更多见解:

Baidu