Microsoft通过新的AI加速器和CPU涉足定制芯片

发布时间：2023-11-24 00:00:00

　　Microsoft 推出了两款新的定制设计芯片，以加速其服务器和数据中心中独特的 AI 和计算工作负载。这两款芯片在Microsoft Ignite上亮相，代表了Microsoft将其整个服务器架构引入内部开发的努力的高潮。

　　包括亚马逊和谷歌在内的许多组织已经转向定制芯片开发，以提高他们的计算性能。Microsoft的公告延续了这一趋势，最终将提供更多数据点来评估定制和商用芯片之间的权衡。

　　Maia AI 加速器和 Azure Cobalt CPU 简介

Microsoft通过新的AI加速器和CPU涉足定制芯片xx

　　Microsoft的两款新的定制芯片是Maia AI加速器和Azure Cobalt CPU。每个服务器最终都将在Microsoft定制的Copilot和Azure OpenAI服务器中发挥关键作用，因为开发人员需要为基于云的计算提供更高的性能。

　　Microsoft目前没有Maia和Cobalt芯片的全面规格表。然而，我们确实知道，每个芯片都是基于台积电 5 纳米工艺构建的，Maia AI 加速器包括超过 100 亿个晶体管和每个加速器 4.8 Tbps 的基于以太网的协议。

　　另一方面，Cobalt CPU 是基于 Arm 的 64 位 128 核处理器，旨在在并行处理任务中补充 Maia GPU。据报道，Cobalt 芯片的性能比当前一代 Azure 服务器提高了 40%，使设计人员能够获得更高的计算性能。

　　构建定制服务

　　随着Microsoft进军定制芯片，该公司加入了亚马逊和谷歌等其他公司的行列，这些公司已经放弃了商用芯片，转而使用专用芯片以优化性能。特别是在运行高级AI模型的云服务器的情况下，定制芯片的计算和效率改进可以极大地影响数据中心的整体性能。

　　在Microsoft的案例中，跳转到定制芯片是完全定制服务器所需的最后一个组件。Microsoft甚至采用了一种独特的方法来冷却Maia芯片。Microsoft没有使用大型液体冷却器，而是采用定制的服务器机架，为计算卡和包含液体冷却机制的“助手”提供空间。

　　在整个过程中，Microsoft与OpenAI合作，提供有关Maia和Cobalt芯片在大型语言模型中的性能的反馈。尽管Maia芯片可能提供更高的性能，但Microsoft仍将使用商用芯片来创建以客户为中心的解决方案，为其产品增加更多的多功能性。

　　定制芯片的趋势

　　随着越来越多的公司在其 HPC 和数据中心产品中转向定制芯片，AI 开发人员正在从改进的计算能力中获益。公司还可以定制他们的解决方案，以在其云计算中心中找到效率、计算能力和多功能性的最佳操作点。

　　尽管 Maia 和 Cobalt 最近才发布，但 Microsoft 报道称，它已经在设计第二代芯片，展示了定制芯片如何允许开发人员在不依赖第三方的情况下精确控制开发时间。