近日，AMD对ROCm软件栈进行了更新，首次提及了下一代Radeon显卡，引入了“gfx12_rx8800”和“gfx12_rx8600”。其中“gfx12”表示的是一种新的GPU架构，另外更新日志中还明确提到了“添加nav4x arch”，可以确认两款GPU是基于新架构的Navi 4x芯片打造。

虽然更新内容没有透露新产品的规格和发布日期等信息，但是Radeon RX 8600/8800系列的出现意味着AMD正在推进新一代显卡项目，对应的分别是主流及高性能市场，以接替基于RDNA 3架构的Radeon RX 7600/7800系列产品。

ROCm是一个开放式软件平台，面向高性能计算（HPC）和人工智能（AI）工作负载，为追求高灵活性和高性能而构建，针对加速式计算且不限定编程语言，让机器学习和高性能计算社区的参与者能够借助各种开源计算语言、编译器、库和重新设计的工具来加快代码开发，适合大规模计算和支持多GPU计算。目前ROCm中新的GPU支持需要开发人员更新代码，这些代码通常通过GitHub共享。

最近海韵的功率计算器上已出现AMD Radeon RX 8800 XT的身影，显示整卡功耗为220W。

ROCm 6.3共有五大核心功能提升，包括：

ROCm 6.3中的SGLang - 生成式AI（GenAI）模型的超快速推理，专为优化AMD Instinct GPU上的LLM和VLM等尖端生成模型的推理而构建。

更高水平的Transformer优化 - 在AMD Instinct上重新设计FlashAttention-2，实现了更快、更高效的训练和推理。

AMD Fortran编译器 - 将传统代码桥接到GPU加速，运行基于Fortran的传统HPC应用程序的企业现在可以通过AMD Instinct加速器释放现代GPU加速的强大功能。

rocFFT中的新多节点FFT - HPC工作流的游戏规则改变者，在rocFFT中引入了多节点FFT支持，可实现高性能分布式FFT计算。

增强的计算机视觉库 - AV1、rocJPEG等， 使企业能够处理从视频分析到数据集增强的各种工作负载。

除了以上功能之外，值得强调的是，ROCm 6.2中引入的Omnitrace和Omniperf已更名为ROCm System Profiler和ROCm Compute Profiler。AMD称，此次品牌重塑将有助于增强可用性、稳定性，并无缝集成到当前的ROCm分析生态系统中。

ROCm 6.2共有五大核心功能提升，包括：

扩展了专为大语言模型（LLMs）所设计的vLLM的支持，提升了AMD Instinct系列加速器的AI推理能力；

对ROCm中的Bitsandbytes量化技术支持，提升了AMD Instinct系列的AI训练和推理能力，增强内存效率与性能；

通过全新的离线程序创建工具，简化了ROCm的安装过程；

全新的Omnitrace和Omniperf性能分析工具（Beta版），从而在AMD ROCm中引领AI（人工智能）与HPC（高性能计算）开发的变革；

更加广泛的FP8（数据处理方式）支持，通过使用ROCm 6.2增强了AI推理能力。

AMD表示，通过ROCm 6.2再次展示了其为人工智能和高性能计算领域提供强大、有竞争力且富有创新性解决方案的承诺，开发人员拥有了突破边界所需的工具和支持，开发人员可以将项目提升至前所未有的性能和效率水平。

通过提交的信息，可以了解到ROCm 6.1将升级配备MIPOpen 3.1版本，为 conv_hip_igemm_group_fwd_xdlops 求解器（solver）引入基于人工智能的参数预测模型，修复了现有版本的bug，并带来了新的求解器。此外，AMD的图形推理引擎MIGraphX已经支持FP8，并扩展了对大型语言训练模型（LLM），比如Llama-2和Stable Diffusion 2.1的支持。

另外一个令人兴奋的是AMD在HIP API的变化，旨在异构计算系统上实现编程及代码可移植性。现在已附带了一个新的“hipother”资源库，用于保存非AMD平台的HIP后端实现。HIP是AMD的C++ 运行时API和内核语言，HIPIFY工具可帮助用户将CUDA源转换为HIP。最近一个代码移植的场景，就是CUDA库通过ZLUDA在ROCm平台上的使用。

AMD表示，在大型语言模型训练方面，ROCm已经达到了与CUDA相当的软件水平。

近日，AMD宣布推出ROCm 6.0，进一步扩展了支持的范围，已支持Radeon PRO W7800和RX 7900 GRE显卡，意味着所有搭载Navi 31 GPU的桌面显卡和工作站显卡已得到完全支持。AMD希望通过对广泛产品组合的支持，帮助人工智能（AI）社区获得更多不同价位及性能水平的桌面显卡，以更好地进行开发工作。

AMD还通过支持ONNX Runtime，来补充其解决方案堆栈。ONNX是Open Neural Network Exchange的缩写，是一个中间机器学习框架，作为机器学习算法和软件工具的开放标准，用于不同ML框架之间转换AI模型。

PyTorch是由Facebook AI Research开发的深度学习库，作为一种开源工具，受到了业界的欢迎，并得到了CPU和GPU制造商的广泛支持。AMD最初对整合PyTorch支持的反应较慢，特别是对消费类Radeon和Radeon PRO显卡的支持更为迟缓，不过这种情况在过去一年里出现了较大的转变。此外，优先支持旗舰显卡也是考虑到大型语言模型（LLM）这样的人工智能应用需要大容量的显存。

AMD软件产品经理Erik Hultgren表示：我们对我们产品组合中的最新产品感到兴奋，这些高端GPU与ROCm结合，从软件核硬件的角度使人工智能变得更容易使用，因此开发人员可以选择最适合其需求的解决方案。

和其他两款显卡一样，RX 7900 XT拥有20GB的超大显存，Navi 31芯片上拥有总共168个AI加速单元，可提供快速的机械学习训练和推理性能。GPU还支持采用PyTorch的机械学习模型和演算法，这些模型和演算法转码针对AMD进行了最佳化，可以与运行22.04.3版本的Ubuntu Linux系统兼容。

希望这只是一个开始，因为AMD还有大量其他的RDNA 3架构GPU，消费者希望能获得ROCm支持，他们的对手NVIDIA和Intel一直在消费级显卡上提供较好的通用计算支持，比如CUDA和开源的Intel Compute Runtime，与之相比AMD的ROCm现在的支持相当有限。

PyTorch是由Facebook AI Research开发的深度学习库，作为一种开源工具，受到了业界的欢迎，并得到了CPU和GPU制造商的广泛支持。AMD最初对整合PyTorch支持的反应较慢，特别是对消费类Radeon和Radeon PRO显卡的支持更为迟缓，不过随着ROCm 5.7.1的推出，显然情况出现了较大的转变。

目前仅支持旗舰显卡也是考虑大型语言模型（LLM）这样的人工智能应用需要大容量的显存，同时还能让AMD尽可能地销售高端显卡。虽然Radeon Pro W7900和Radeon RX 7900 XTX的定价都不低，不过比起数据中心使用的计算卡，那可是便宜太多了。通过专业领域的人工智能和机器学习支持扩展到消费级产品，可以促进专业与游戏产品在功能上的融合，AMD也希望打造一个丰富的人工智能生态系统，并且让开源平台壮大，为提高成本效益和扩大使用范围铺平道路。

今年4月就有报道称，ROCm SDK即将登陆Windows操作系统，同时将扩展对消费级Radeon显卡的支持。随后AMD首席执行官苏姿丰博士确认未来ROCm会在GPU支持方面会加大投入，加入更多的消费级Radeon显卡，并致力于与社区合作为其用户提供更好的支持。

ROCm支持列表里，目前Instinct MI250X、MI250、MI210、MI100和MI50是完全支持的，Radeon Pro则是Radeon Pro W6800和Radeon Pro V620。AMD将名单扩大至Radeon RX 6900 XT、Radeon RX 6600和Radeon R9 Fury，不过只有Radeon R9 Fury具有ROCm平台的完整软件级支持，而其他两款RDNA 2架构产品仅部分支持。

据了解，AMD正在努力为ROCm添加RDNA 3架构的GPU，也就是对Radeon RX 7000系列显卡的支持。此外，AMD在今年晚些时候还会带来基于CDNA 3架构的新款Instinct计算卡。

ROCm支持列表里，被减少到Instinct和Radeon Pro的特定型号，目前Instinct MI250X、MI250、MI210、MI100和MI50是完全支持的，Radeon Pro则是Radeon Pro W6800和Radeon Pro V620。AMD将名单扩大至Radeon RX 6900 XT、Radeon RX 6600和Radeon R9 Fury，不过只有Radeon R9 Fury具有ROCm平台的完整软件级支持，而其他两款RDNA 2架构产品仅部分支持。

AMD最迟设计ROCm是为了与Linux一起使用，不过有一些变通的方法可以让其在基于Windows的系统上运行，比如Docker或Windows Subsystem for Linux（WSL）等虚拟化方法。与原生相比，性能多少都会受到影响，不过随着ROCm支持Windows操作系统，许多用户长久以来的要求得到了满足。

AMD扩宽了ROCm生态系统，继续朝着正确的方向前进，不过仍然有许多工作需要完善。