Advancing AI 2026!AMD 為代理式 AI 帶來第 6 代 AMD EPYC 等解決方案

Advancing AI 2026!AMD 為代理式 AI 帶來第 6 代 AMD EPYC 等解決方案

活動概述

AMD 於 2026 年 7 月 22 日至 23 日在舊金山 Moscone Center 舉辦年度旗艦活動「Advancing AI 2026」,以「代理式 AI(Agentic AI)」為核心主題,一氣發布多款全新產品與解決方案,涵蓋從資料中心到邊緣運算的完整 AI 堆疊。

本次活動不僅展示了 AMD 在 AI 基礎設施領域的技術突破,更透過與 Microsoft Azure、OpenAI 的深度合作,驗證了 AMD 全棧生態系的商業可行性。以下為重點產品線的詳細規格解析。


第 6 代 AMD EPYC™「Venice」伺服器 CPU

AMD 正式推出第 6 代 AMD EPYC™ 9006 系列伺服器處理器,內部代號「Venice」,採用全新 Zen 6 架構。這是首款支援 PCIe Gen 6 的伺服器 CPU,針對代理式 AI 工作負載進行了深度優化。

產品線規格總覽

規格項目Zen 6 標準版Zen 6c 高密度版高頻版
最高核心數128 核心 / 256 執行緒256 核心 / 512 執行緒96 核心
TDP600W600W600W
記憶體通道16 通道 MRDIMM16 通道 MRDIMM16 通道 MRDIMM
記憶體速度最高 12,800 MT/s最高 12,800 MT/s最高 12,800 MT/s
記憶體頻寬1.6 TB/s(每插槽)1.6 TB/s(每插槽)1.6 TB/s(每插槽)
I/O 介面PCIe Gen 6PCIe Gen 6PCIe Gen 6
時脈最高 5.0 GHz

關鍵突破:

  • 記憶體頻寬翻倍: 16 通道 MRDIMM 搭配 12,800 MT/s 記憶體速度,提供每插槽 1.6 TB/s 的記憶體頻寬,較上代 Genoa 提升超過一倍,大幅緩解 Agentic AI 多工作載載的記憶體瓶頸。
  • PCIe Gen 6 支援: 成為首款導入 PCIe Gen 6 的伺服器處理器,為高速 GPU 互連與 NVMe SSD 提供雙倍頻寬。
  • Zen 6c 高密度版本: 針對雲端與虛擬化場景,提供最高 256 核心的高密度選項,TDP 達 600W。

AMD 同時宣布與 Microsoft Azure 擴展合作,推出基於 EPYC Venice 的新一代 Azure 執行個體,並深化 Helios 機架級部署方案。


AMD Instinct™ MI400 系列 GPU:CDNA 5 架構首登 2 奈米節點

本次大會最矚目的產品之一,是基於全新 CDNA 5 架構的 AMD Instinct MI400 系列資料中心 GPU。這是 AMD 首款採用 2 奈米製程 的 GPU 產品線,涵蓋多個型號以滿足不同層級的 AI 基礎設施需求。

旗艦型號:Instinct MI455X 規格詳情

規格項目詳細數據
GPU 架構CDNA 5
製程節點2 nm
電晶體數量3,200 億顆(多晶片模組封裝)
封裝架構2 個 Fabric Dies + 2 個 I/O Dies 多晶片模組
記憶體容量432 GB HBM4
記憶體頻寬23.3 TB/s
FP4 (MXFP4) 運算效能40 PFLOPS
軟體支援ROCm.ai — PyTorch、TensorFlow、JAX、vLLM、Triton Day-0 支援

MI400 系列完整產品線包含三款型號:MI430XMI440X 與旗艦 MI455X,分別針對不同的運算密度與功耗需求進行設計。

AMD 更宣布與 OpenAI 合作,將 OpenAI 的 Triton 編譯框架整合至 AMD ROCm 軟體堆疊中,針對 MI455X 進行深度最佳化,進一步縮小與競爭對手的性能差距。


AMD Helios™ AI 機架級解決方案

AMD 推出 AMD Helios™ AI Rackscale Solution,專為「AI 工廠」(AI Factory)等級的超大規模推理與訓練設計。該方案定價約為 500 萬至 550 萬美元,整合了 MI455X 系列 GPU、第 6 代 EPYC CPU、AMD Pensando 資料處理單元(DPU)、高速互連技術與 AMD 自研系統軟體,提供從晶片到機櫃的端到端 AI 基礎設施。

Helios 機架規格詳情

規格項目詳細數據
GPU 數量72 張 Instinct MI455X(4-GPU 模組重複堆疊)
總 HBM4 記憶體31 TB
總記憶體頻寬1.7 PB/s(≈1,679 TB/s)
FP4 推理效能2.9 exaFLOPS
FP8 訓練效能1.4 exaFLOPS
散熱方式液冷散熱
網路卡AMD Pollara AI NIC
每美元推理 Token比競爭對手高 30%

Microsoft 已宣布將在 Azure 資料中心部署 AMD Helios 機架,進一步驗證其商業可行性。


AMD Instinct MI455X vs NVIDIA Vera Rubin NVL72:規格深度對比

在代理式 AI 時代的資料中心戰場上,AMD Helios 與 NVIDIA Vera Rubin NVL72 被視為最直接競爭對手。以下為兩款機架級平台的完整規格對比。

機架級規格對比(Helios 72-GPU vs Vera Rubin NVL72)

規格項目AMD Helios (72× MI455X)NVIDIA Vera Rubin NVL72 (72× R200)
GPU 總數量72 張72 張
總 HBM4 記憶體31.1 TB20.7 TB
總記憶體頻寬1.7 PB/s(≈1,679 TB/s)~1,580 TB/s
FP4 推論效能2.9 exaFLOPS3.6 exaFLOPS
FP8 訓練效能1.4 exaFLOPS1.26 exaFLOPS
FP32 SGEMM(含 Tensor Core)~35,000 TFLOPS(估算)28,800 TFLOPS
FP32 Dense(純向量)~11,326 TFLOPS9,360 TFLOPS
FP64 DGEMM(含 Tensor Core)~1,060 TFLOPS(估算)14,400 TFLOPS
FP64 Dense(純向量)~177 TFLOPS2,400 TFLOPS
互連技術UALink over Ethernet (UALoE)NVLink 6(3.6 TB/s 每卡)
總互連頻寬260 TB/s scale-up + 43 TB/s scale-out260 TB/s scale-up
散熱方式液冷散熱液冷散熱
每美元推理 Token比競爭對手高 30%

重點分析

  • 記憶體容量大幅領先: Helios 的 31.1 TB 總 HBM4 比 Vera Rubin NVL72 的 20.7 TB 多出約 50%。對於需要同時載入多個 Agent 模型的場景,這意味著更少的記憶體換頁與更高的並發能力。
  • FP4 推論性能差距縮小: Vera Rubin NVL72 以 3.6 exaFLOPS 領先 AMD Helios 的 2.9 exaFLOPS,差距約 24%。相較於前代 Blackwell(B200)與 MI300X 之間超過 50% 的差距,AMD 已大幅縮小性能落差。
  • FP8 訓練優勢: AMD Helios 提供 1.4 exaFLOPS FP8 訓練效能,略高於 Vera Rubin NVL72 的 1.26 exaFLOPS(約 11% 領先),在 FP8 訓練場景中具備微弱優勢。
  • 互連頻寬優勢: Helios 採用 UALink over Ethernet (UALoE) 架構,scale-up 頻寬達 260 TB/s,與 NVLink 6 持平;此外還有額外的 43 TB/s scale-out bandwidth 連接至資料中心其他節點,比 Vera Rubin NVL72 多出約 50% 的 scale-out 頻寬,在分布式訓練中具備顯著優勢。
  • 科學運算對比: NVIDIA Vera Rubin NVL72 在傳統 HPC 領域仍具壓倒性優勢——FP64 DGEMM(含 Tensor Core)達 14,400 TFLOPS(Helios 約 ~1,060 TFLOPS),FP64 Dense 純向量亦達 2,400 TFLOPS(Helios ~177 TFLOPS)。MI455X 定位為 AI-Dominant GPU,若需雙精度算力可考慮 AMD MI430X 系列(>200 TFLOPS FP64)。

AMD Ryzen™ AI Embedded X100 系列:邊緣 AI 新世代

除了資料中心,AMD 也擴展了邊緣與嵌入式 AI 版圖,推出面向工業自動化、智慧影像與邊緣推理的全新產品線。

Ryzen AI Embedded X100 規格詳情

規格項目詳細數據
CPU 架構AMD Zen 5(統一架構)
最高核心數16 核心 / 32 執行緒(支援 SMT)
NPUXDNA 2 架構
AI 運算效能最高 50 TOPS
整合繪圖AMD Radeon GPU(RDNA 3.5)
記憶體架構統一記憶體配置

產品型號

型號適用場景
Ryzen AI X199商用邊緣裝置
Ryzen AI X188商用邊緣裝置
Ryzen AI X168商用邊緣裝置
Ryzen AI P199工業級(Industrial)
Ryzen AI P188工業級(Industrial)
Ryzen AI P168工業級(Industrial)

AMD Kria™ AI SOM 與機器人開發平台

AMD 同步發表面向物理 AI(Physical AI)與自主機器人的全新解決方案。

Kria AI SOM 規格

規格項目詳細數據
核心處理器AMD Kria AI SoM(搭載 X199 16 核心 CPU)
記憶體選項64 GB 或 128 GB LPDDR5X
最大同時 Agent 數234 個(基於 mimik Agentix 測試基準)
每秒決策次數最高 8,000 次(基於 mimik Agentix 測試基準)

機器人開發平台特色

  • 異質運算整合: 結合 CPU、GPU、NPU 與載板 FPGA,提供完整的邊緣 AI 運算能力。
  • AMD Robotics Software Suite: 一整套機器人軟體框架,支援從開發到部署的完整生命週期。
  • 首創開放式機架平台: 首款開放、即插即用的自主機器人整合開發平台。

總結

Advancing AI 2026 展現了 AMD 在代理式 AI 時代的全棧戰略——

產品線關鍵規格亮點
EPYC 9006 Venice最高 256 核心、PCIe Gen 6、1.6 TB/s 記憶體頻寬
Instinct MI400 / MI455XCDNA 5 / 2nm / 432 GB HBM4 / 40 PFLOPS FP4
Helios 機架72 GPU / 2.9 EFLOPS FP4 / UALoE / 31 TB HBM4
Ryzen AI Embedded X100Zen 5 / 16 核心 / 50 TOPS NPU
Kria AI SOM234 同步 Agent(輕量 SLM 框架)/ 8,000 決策/秒

從底層晶片(EPYC Venice、MI455X CDNA 5)、機櫃級系統(Helios)到邊緣運算(Ryzen AI Embedded、Kria),再加上 ROCm 生態系與 OpenAI、Microsoft 等關鍵合作夥伴的深化協作,AMD 正以完整的產品矩陣挑戰 AI 運算市場的格局。

對於企業而言,選擇具備彈性與開放性的 AI 基礎設施已成為關鍵決策,而 AMD 在本屆大會上所展示的解決方案,無疑為資料中心與邊緣端的 AI 部署提供了更具競爭力的選項。