Şirket, bugünkü AMD Veri Merkezi etkinliğinin bir parçası olarak EPYC sunucu CPU güncellemelerinin yanı sıra, neredeyse bitmek üzere olan AMD Instinct MI300 hızlandırıcı ailesinin durumu hakkında da bir güncelleme sunuyor. Şirketin tek bir pakette hem Zen 4 CPU çekirdeğini hem de CDNA 3 GPU çekirdeğini kullanan yeni nesil HPC sınıfı işlemcileri, artık çok SKU’lu bir XPU ailesi haline geldi.
Daha önce duyurulan ve şimdi MI300A olarak adlandırılan 128 GB MI300 APU’ya katılan AMD, aynı tasarımı kullanarak saf bir GPU parçası da üretiyor. MI300X olarak adlandırılan bu çip, MI300A’daki CPU ve GPU döşemelerinin bir karışımı yerine sadece CDNA 3 GPU döşemelerini kullanıyor ve bu da onu 192 GB HBM3 bellekle eşleştirilen saf, yüksek performanslı bir GPU yapıyor. Doğrudan büyük dil modeli pazarını hedefleyen MI300X, en büyük modelleri çalıştırmak için alabilecekleri tüm bellek kapasitesine ihtiyaç duyan müşteriler için tasarlanmıştır.
İlk olarak geçen yılın Haziran ayında duyurulan ve CES 2023’te daha ayrıntılı olarak açıklanan AMD Instinct MI300, AMD’nin AI ve HPC pazarındaki büyük oyunu. Eşsiz, sunucu sınıfı APU, hem Zen 4 CPU çekirdeklerini hem de CDNA 3 GPU çekirdeklerini tek bir yonga tabanlı çipte toplar. AMD’nin rakiplerinden hiçbiri bu yıl MI300 serisi gibi birleşik bir CPU+GPU ürününe sahip değil (veya sahip olmayacak), bu nedenle bu, AMD’ye gerçekten birleşik bir bellek mimarisi ve CPU ile GPU döşemeleri arasında bol miktarda bant genişliği ile ilginç bir çözüm sunuyor.
MI300 ayrıca HBM3 yoluyla 8 yığın malzeme kullanan çip üzerinde bellek içerir. CES’in açıklandığı sırada, en yüksek kapasiteli HBM3 yığınları 16 GB idi ve bu da maksimum 128 GB yerel bellek havuzuna sahip bir çip tasarımı sağlıyordu. Ancak, 24 GB’lık HBM3 yığınlarının kısa süre önce piyasaya sürülmesi sayesinde, AMD şimdi MI300’ün %50 daha fazla belleğe veya 192 GB’a sahip bir sürümünü sunabilecek. MI300X’te bulunan ek GPU yongaları ile birlikte, onu en büyük ve en karmaşık LLM’leri işlemek için bir güç merkezi haline getirmeyi amaçlamaktadır.
Kaputun altında, MI300X aslında MI300A’dan biraz daha basit bir çiptir. AMD, MI300A’nın üçlü CPU yongasını yalnızca iki CDNA 3 GPU yongasıyla değiştirdi ve toplamda 12 yongacık tasarımıyla sonuçlandı – 8 GPU yongası ve başka bir 4 IO bellek yongası gibi görünüyor. Aksi takdirde, CPU çekirdeklerinin çıkarılmasına (ve APU’nun APU’dan çıkarılmasına) rağmen, yalnızca GPU’lu MI300X, MI300A’ya çok benziyor. Ve açıkça görülüyor ki AMD, aynı pakette hem APU hem de amiral gemisi CPU sunma sinerjisinden yararlanmayı hedefliyor.
Ham GPU performansını bir kenara bırakırsak (şu anda kesin rakamlara sahip değiliz), AMD’nin MI300X ile ilgili hikayesinin bir kısmı bellek kapasitesi olacak. Yapay zeka için mevcut nesil büyük dil modelleri (LLM’ler) için bellek kapasitesinin kısıtlayıcı faktör olduğu göz önüne alındığında, yalnızca 192 GB’lık bir çip sunmak çok önemli. NVIDIA ve diğerlerinin son gelişmelerinde gördüğümüz gibi, yapay zeka müşterileri GPU’ları ve diğer hızlandırıcıları ellerinden geldiğince çabuk alıyor ve bu arada daha da büyük modelleri çalıştırmak için daha fazla bellek talep ediyor. Bu nedenle, 8 kanal HBM3 bellek kullanan devasa bir 192 GB GPU sunabilmek, en azından MI300X piyasaya sürüldüğünde, mevcut pazarda AMD için oldukça büyük bir avantaj olacak.
MI300 ailesi, bu yıl içinde bir noktada sevk edilme yolunda ilerliyor. AMD’ye göre, 128GB MI300A APU şu anda müşterilere örnekleme yapıyor. Bu arada 192GB MI300X GPU, bu yılın 3. çeyreğinde müşterilere sunulacak.
Söylemeye bile gerek yok, bu duyuru ile AMD, rakip Intel’den en az 3 yıl önce esnek bir XPU tasarımı yaptıklarını sağlamlaştırdı. Intel, birleşik CPU+GPU Falcon Shores ürününü saf bir GPU Falcon Shores için rafa kaldırırken, AMD artık bu yılın sonunda esnek bir CPU+GPU/yalnızca GPU ürünü sunmayı planlıyor. Bu zaman diliminde, NVIDIA’nın Grace Hopper süper çipi gibi bir APU/XPU olmasa da, NVIDIA’nın Grace CPU’sunu yüksek bant genişliğine sahip bir NVLink aracılığıyla bir Hopper GPU’ya bağlayarak çok yaklaşan ürünlerle rekabet edecek. MI300X hakkında daha fazla ayrıntı beklerken, iki GPU titanı arasında çok ilginç bir savaş olmalı.
Genel olarak, MI300 ailesiyle ilgili olarak AMD üzerindeki baskı önemli. AI hızlandırıcılarına olan talep geçen yılın büyük bir bölümünde tavan yaptı ve MI300, AMD’nin pazarda önemli bir rol oynaması için ilk fırsatı olacak. MI300, şirket için tam anlamıyla başarılı bir ürün olmayacak, ancak tek çipli bir sunucu APU’su (ve bununla birlikte gelen övünme hakları) gönderen ilk kişi olmanın teknik avantajını elde etmenin yanı sıra, onlara aynı zamanda şunları da sağlayacak: alabildiği tüm donanımı satın alan bir pazara satılacak yeni bir ürün. Kısacası, MI300’ün AMD’nin para basma lisansı olması bekleniyor (NVIDIA’nın H100’ü), ya da AMD’nin hevesli yatırımcıları öyle umuyor.
AMD Infinity Mimari Platformu
Bugünkü 192GB MI300X haberlerinin yanı sıra AMD, kısaca AMD Infinity Architecture Platform adını verdiklerini de duyuruyor. Bu, 8 yollu bir MI300X tasarımıdır ve daha büyük iş yüklerinde çalışmak için 8 adede kadar AMD’nin üst düzey GPU’sunun birbirine bağlanmasına olanak tanır.
NVIDIA’nın 8 yollu HGX anakartlarında ve Intel’in Ponte Vecchio için kendi x8 UBB’sinde gördüğümüz gibi, 8 yollu işlemci yapılandırması şu anda üst düzey sunucular için tatlı nokta. Bu, hem fiziksel tasarım nedenlerinden dolayı – talaşları yerleştirmek için yer ve soğutmayı aralarından yönlendirmek için yer – hem de çok sayıda çipi aralarına çok fazla sekme koymadan bağlamak için mevcut olan en iyi topolojilerdir. AMD, NVIDIA ile başa baş gidecek ve HPC GPU pazarının bir bölümünü ele geçirecekse, bu, NVIDIA’nın donanım tekliflerini eşleştirmeleri gereken bir alan daha olacaktır.
AMD, Infinity Architecture Platform’u “endüstri standardı” bir tasarım olarak adlandırıyor. AMD’ye göre, burada temel olarak bir OCP sunucu platformu kullanıyorlar; ve bu, MI300X’in bir OAM form faktörü kullandığı anlamına gelse de, bunun açık bir şekilde onaylanmasını bekliyoruz.
