近日亚马逊展示了Graviton5的实物照片，由Annapurna Labs负责设计，采用了台积电（TSMC）3nm工艺制造，共拥有192个基于Neoverse V3的内核，每个对应1MB的专用缓存，支持12通道内存子系统，最高支持DDR5-8800规格，提供了超过800GB/s的封装内存带宽，另外还支持96条PCIe 6.0通道。

尽管采用异构芯片设计，但是Graviton5确保了其各小芯片之间具备完整的缓存一致性，这主要得益于420GB/s的芯片间互连带宽，每个小芯片对应48个内核、3通道DDR5内存控制器、以及24条PCIe 6.0通道。

根据之前亚马逊的介绍，这种高效的设计缩短了数据在核心间的传输距离，将核心间通信延迟降低了最多33%，同时提高了带宽，以更快的数据交换速度在处理核心之间扩展。每个Graviton5核心可访问的L3缓存容量是Graviton4的2.6倍，等待数据的延迟更少，应用响应时间更快。另外Graviton5的网络与存储带宽也提升了15%至20%，从而实现更快的数据传输、更快的备份以及分布式应用的性能提升。

亚马逊的目标是让Graviton5有更强的性能表现，比基于英特尔“Cascade Lake”或AMD“Genoa”的AWS G4实例高出25%的性能提升。

部署初期拥有数千万个Graviton核心，随着Meta的AI能力提升，灵活扩展。亚马逊表示，这份协议反映了AI基础设施构建方式的转变：虽然GPU仍是训练大型模型的关键，但代理式AI的兴起正在对CPU密集型工作负载产生巨大需求——实时推理、代码生成、搜索和多步任务编排。利用Graviton5，赋予了Meta高效且大规模运行的处理能力，以支持其AI任务。

去年末，亚马逊推出了Graviton5。其基于Arm架构的设计，拥有192个核心，缓存是上一代产品的五倍，核心间通信延迟降低了最多33%，采用了3nm工艺制造，适用于广泛的云工作负载，在保持领先能效的同时，计算性能比上一代提升了多达25%，能够更快地运行应用程序，降低成本，并实现可持续发展目标。此外，Graviton5基于AWS Nitro系统建立的安全体系，全面提升了用户的数据安全。

作为亚马逊的长期客户，Meta一直依赖对方高度可扩展且安全的云基础设施来支持其全球业务。随着行业对AI计算需求的增长，底层基础设施的效率变得越来越重要——无论是在成本管理还是减少环境影响方面。

据TrendForce报道，亚马逊正在探讨将自研芯片出售给外部客户的可能性，改变过去仅供内部使用的策略。亚马逊首席执行官Andy Jassy指出，市场需求依然强劲，最终或许会将芯片以机架形式出售给第三方。

Andy Jassy表示，目前亚马逊芯片业务的年化收入已超过200亿美元，同比增长率达三位数，如果独立运营并向客户出售芯片，预计年化收入将达到500亿美元。同时亚马逊愿意进行大规模资本支出，并承受短期自由现金流的压力，以换取中长期自由现金流盈余。

随着谷歌和亚马逊等大型云服务供应商加大内部芯片的开发，基于ASIC的AI服务器预计占2026年总AI服务器出货量的27.8%，到2030年将进一步增长，占比接近40%。

与此同时，Anthropic也在考虑开发自己的定制芯片，以应对更复杂的AI系统所需的芯片。如果仅依赖于外部采购，Anthropic担心未来难以买到足够的AI芯片。目前Anthropic通过多种硬件来训练和运行Claude，包括亚马逊的Trainium、谷歌的TPU、以及英伟达的GPU。

AWS也带来了基于Graviton5的EC2 M9g实例，里面拥有Amazon EC2中最高的CPU核心密度——单个封装中的192个核心。这种高效的设计缩短了数据在核心间的传输距离，将核心间通信延迟降低了最多33%，同时提高了带宽，以更快的数据交换速度在处理核心之间扩展。

每个Graviton5核心可访问的L3缓存容量是Graviton4的2.6倍，等待数据的延迟更少，应用响应时间更快。同时Graviton5的网络与存储带宽也提升了15%至20%，从而实现更快的数据传输、更快的备份以及分布式应用的性能提升。

Graviton5采用了3nm工艺制造，相同的工艺同样用于本周早些时候重磅发布的下一代AI芯片Trainium3。更先进的半导体制造工艺不但让Graviton5提供更强的性能，同时也更节能，结合亚马逊对应用场景优化设计，以及支持系统层面优化，实现了全面的能效提升。

此外，Graviton5基于AWS Nitro系统建立的安全体系，全面提升了用户的数据安全。

亚马逊AWS正在为OpenAI构建的基础设施部署采用了复杂的架构设计，而且经过针对性的优化，可最大限度地提高AI处理效率和性能。通过同一网络上的Amazon EC200 UltraServer对英伟达GPU（包括GB200和GB300）进行集群，可在互连系统中实现低延迟性能，使OpenAI能够以最佳性能高效运行工作负载。这些集群旨在支持各种工作负载，从ChatGPT推理到训练下一代模型，并具有适应OpenAI不断变化的需求的灵活性。所有容量目标是在2026年末之前部署，并在2027年及以后进一步扩展。

OpenAI联合创始人兼首席执行官Sam Altman表示：“扩展前沿人工智能需要大规模、可靠的计算，我们与AWS的合作加强了广泛的计算生态系统，这将为下一个时代提供动力，并为每个人带来先进的人工智能。”

OpenAI最近与英伟达、AMD、微软、博通和甲骨文建立了一系列合作伙伴关系，确保能够利用高端芯片和云系统的混合。到目前为止，OpenAI已经与英伟达合作了10吉瓦算力，与AMD合作了6吉瓦算力，与甲骨文合作了4.5吉瓦算力，正在朝着建立30吉瓦AI基础设施网络的既定目标稳步迈进。

Andy Jassy强调Trainium2已经有数十亿美元的业务量，环比增长150%，目前服务于一小部分超大型客户。其卓越的性价比（相比替代方案高出30-40%）结合人工智能推理工作负载需求的持续增长，正推动更广泛的市场关注。未来产品线将随Trainium3一起扩展，以满足大中型客户的需求，下一代AI芯片已经在这些客户前展现了足够的吸引力。

按照过去亚马逊的说法，与Alchip和Marvell共同开发的Trainium3芯片的速度将比其Trainium2快了两倍，同时将能源效率提高了40%。由Trainium3提供支持的UltraServer预计性能是Trn2 UltraServer的四倍，使得客户能够在构建模型时更快地迭代，并在部署模型时提供卓越的实时性能。

Andy Jassy指出，纵观亚马逊AWS的历史，从未依赖单一供应商主导任何主要技术组件或满足所有客户需求，因此会与英伟达保持长期合作关系，不受限制地购买其大量芯片，预计未来会继续这样做。

亚马逊AWS宣布，推出下一代AI芯片Trainium3，这将是其首款采用3nm工艺制造的芯片，为性能、能效和密度设定了新标准。相比于英伟达基于Blackwell架构芯片打造的服务器，亚马逊AWS可以将更多的芯片连接在一起，从而进一步提升运算速度。亚马逊AWS还确认，第一批基于Trainium3的实例将于2025年年底推出。

亚马逊AWS首席执行官Matt Garman透露，新款Trainium3芯片的速度将比其Trainium2快了两倍，同时将能源效率提高了40%。由Trainium3提供支持的UltraServer预计性能是Trn2 UltraServer的四倍，使得客户能够在构建模型时更快地迭代，并在部署模型时提供卓越的实时性能。

近期亚马逊AWS还推出了新的数据中心服务器，其中搭载了Trainium2。更为重要的是，苹果选择加入，成为了Trainium2的客户。

据Wccftech报道，亚马逊正在开发定制的人工智能（AI）芯片，由Annapurna Labs负责开发工作，以减少对英伟达的依赖，并降低运营成本。亚马逊有可能会选择在下个月介绍其定制人工智能芯片，作为Trainium系列的一部分。

亚马逊的这种做法并不奇怪，竞争对手微软、Meta和谷歌都有自己针对性设计的人工智能芯片，分别是Maia 100、Trillium和Artemis。随着大型科技公司不断扩大数据中心，削减与芯片购买相关的成本的需求越来越强烈，为此一边设计定制的AI加速器提升特定工作负载下的效率，另外还会从英伟达和AMD购买AI芯片。

亚马逊的Graviton系列更多地适用于传统的数据中心工作负载，以降低使用英特尔和AMD的产品，Trainium系列则作为加速器来补充，旨在与大型语言模型配合使用。按照亚马逊的说法，有超过50,000名AWS客户正在使用Graviton系列芯片。

英特尔将在Intel 18A工艺上为AWS生产AI芯片，同时还会采用Intel 3工艺生产定制的Xeon 6系列芯片。通过这次扩展合作，双方强调了对加速美国半导体制造和在俄亥俄州创建充满活力的AI生态系统的承诺。英特尔将继续致力于新奥尔巴尼地区及其建立领先半导体制造的计划，AWS除了自2015年在俄亥俄州投资的103亿美元之外，还计划投资78亿美元来扩展其在俄亥俄州中部的数据运营中心。

英特尔表示，与AWS之间的合作已经有超过18年的历史致力于帮助各种规模的组织在云中开发、构建和部署其任务关键型工作负载，同时还支持对方降低成本和复杂性、提高安全性、加速业务成果并扩展以满足其当前和未来的计算需求。展望未来，英特尔和AWS还打算基于Intel 18A及未来制程节点（包括Intel 18AP和Intel 14A）探索更多的设计可能性。

Graviton4是Graviton系列自2018年推出后的第四代产品，相比Graviton3的内核数量增加了50%，内存带宽增加了75%，计算性能提升了30%，为在Amazon EC2上运行的各种工作负载提供了最佳的性价比和能效。此外，还对Graviton4的所有高速物理硬件接口进行了加密，以此进一步提高安全性。

Trainium2是亚马逊量子运算团队的最新成果，主要在量子纠错方面有很大的改变，以逻辑量子位元的方式，将比特翻转（Bit-flip）与相位反转（Phase-flip）错误分开。这种被动纠错方法大幅度降低了错误率，号称仅为0.1%，而且还能减少硬件过热现象。同时Trainium2相比上一代产品有着四倍的性能提升，能源效率也是原来的两倍。

AWS计算和网络副总裁David Brown表示，通过将芯片设计重点放在对客户重要的实际工作负载上，能够为他们提供最先进的云基础设施。Graviton4是亚马逊AWS在短短五年内交付的第四代芯片，为各种工作负载制造的功能最强大、最节能的芯片。随着对生成式人工智能的兴趣激增，新一代的Tranium2将帮助客户以更低的成本和更高的能源效率更快地训练他们的机器学习模型。

虽然AWS没有具体的说明，但有传言指，Graviton3使用了Armv9架构和Neoverse N2内核，支持DDR5内存。Graviton3将会为AWS的EC2 C7g实例提供支持，适用于HPC、EDA、分布式分析和基于CPU的机器学习推理等计算密集型工作负载。EC2 C7g实例提供了30 Gbps的网络带宽和弹性结构适配器（EFA）支持，目前正在运行预览阶段。

Trainium是AWS自研的云端推理芯片，用于训练深度学习模型，在2020年发布。这次基于Trainium芯片提供了最新的Trn1实例，AWS表示会让图像识别、自然语言处理和欺诈检测等应用实现最佳性价比。

此外，AWS的EC2 M6a实例中，采用了AMD基于Zen 3架构的EPYC 7003系列处理器。相比上一代的EC2 M5a实例，性价比提高了35%，成本比其他基于x86处理器的EC2实例降低了10%。据了解，AWS计划未来会推出更多采用AMD第三代EPYC系列处理器的实例。

新的G4ad实例采用了第2代AMD EPYC CPU和AMD Radeon Pro V520 GPU，将于本月晚些时候上市，这是亚马逊AWS首个同时采用7nm工艺的AMD CPU和GPU的实例。

G4ad旨在支持图形密集型的工作负载而构建的，与现有的Amazon EC2 G4dn实例相比，G4ad可以为客户在性价比上提高45%，同时图形性能也会有40%的提高，非常适合用于关键的工作站级应用和实时游戏引擎。由于基于RDNA架构GPU，AMD Radeon Pro V520 GPU可以为最苛刻的工作负载提供高响应速度，而且可以提供工作站级别的云计算体验，并具有企业级的可靠性。

这些实例还免费提供AMD Radeon Pro Software for Enterprise，为使用工作站应用程序，以及最新图形API的专业人士提供支持，如DirectX、OpenGL和Vulkan，为虚拟工作站提供专业级图形渲染。借助AMD EPYC处理器，开发者可以使用Amazon GameLift为多人游戏部署、运营和扩展专用高性能服务器，与同类实例相比，成本可降低10%。

Amazon除了作为一家电商巨头之外，在云服务方面发力较早，旗下的Amazon Web Services（简称AWS）被世界上许多互联网企业巨头使用着，市场占有率比较高。此前他们就开始提供使用AMD EPYC处理器的实例配置选项了，而且是在不停地增加。这次是在各种使用场景中一共增加了五个选项，分别覆盖了关键业务应用、Web和应用服务器、高性能需求场景以及适用于一般目的计算的平衡型工作场景。

不过这次增加的五个新选项使用的CPU都还是上一代14nm制程的EPYC处理器。Amazon在下一代名为Roma的EPYC即将问世的这个档口提供更多上一代产品的选项也不是没有理由的，首先就是价格原因，受到7nm制程的影响，Roma预计将会进行一定程度涨价；第二个就是AMD一直以来吸引着玩家的向前兼容了，无论是桌面级平台还是服务器平台，都有着良好的向前兼容性，也就是一代接口用许多代处理器，这使得云服务提供商在升级平台的时候可以减少大量的成本：只需要换CPU就行，不用换主板。

此前有报道称，AMD将在2020年将占据10%的服务器市场份额，就目前Ryzen 3000系列引领AMD在许多地区的市场中占有率直升的情况来看，这个目标很可能更早就会实现，或者说到时候AMD在服务器市场上的占有率可能会比10%更高。