Skip to main content
Back to resources
Organizations📤

AMD

AMD: RDNA-architecture Radeon GPUs are the second consumer platform for local AI. Since ROCm 7, consumer cards (RX 7900 XTX, RX 9070 XT) are officially supported on Linux with no workarounds, and the Strix Halo APU brings up to 128GB of unified memory in a laptop. The GPUs and APUs in the catalog are the child resources.

Features

  • ROCm: the official inference stack (CUDA equivalent)
  • Consumer: 16GB (RX 9070 XT) and 24GB (RX 7900 XTX) of VRAM
  • Strix Halo: 128GB of unified memory in a laptop

Resources by AMD

Hardware🎮
AMD Radeon RX 7900 XTX 24GB
Released Dec 13, 2022Radeon RX 7900 XTXby AMD

La Radeon con la maggiore capacità consumer: 24GB GDDR6 a 960 GB/s (bus 384-bit). Per l'IA locale la capacità batte la novità: mentre le schede da 16GB non caricano i modelli 27B, qui Qwen3.8-27B e i 32B in Q4 ci stanno con contesto ampio. 960 GB/s è il 96% della RTX 4090. ROCm ufficiale (gfx1100), 355W.

AMDROCmGPU
Hardware🎮
AMD Radeon RX 9070 XT 16GB
Released Mar 6, 2025ROCm 7by AMD

La GPU RDNA 4 di AMD: 16GB GDDR6 su bus 256-bit (640 GB/s), 64 CU, 304W. Con ROCm 7 la prima Radeon consumer con supporto ufficiale su Linux (gfx1201, senza workaround): ~92 tok/s su gpt-oss-20b, ~52 tok/s su Qwen 14B. Il 640 GB/s è il 43% in più della RTX 5060 Ti 16GB: la carta 16GB più veloce per modelli 9-20B, ma il 16GB non tiene un 27B dense.

AMDROCmGPU
Hardware🖥️
AMD Ryzen AI Max+ 395 (Strix Halo)
Released Apr 24, 2025Ryzen AI Max 300 (Strix Halo)by AMD

La APU AMD con la massima memoria unificata su x86: fino a 128GB di LPDDR5X condivisa tra CPU (16 core Zen 5), GPU integrata (40 CU RDNA 3.5) e NPU. Fino a 96GB allocabili alla GPU: modelli fino a 100B+ a 4 bit senza GPU dedicata, su mini-PC o laptop. Bandwidth 256 GB/s.

AMDMemoria unificataEdge AIDesktop

Tags

Discover AMD

Visit the official site to download, learn more and start using AMD.

Visit the site