Bu hafta Linux Vakfı, grubun teknolojiyi yüksek performanslı bilgi işlem iş yükleri için uyarlamaya ve iyileştirmeye odaklanan yeni bir Ethernet konsorsiyumunun oluşumunu denetleyeceğini duyurdu. AMD, Arista, Broadcom, Cisco, Eviden, HPE, Intel, Meta ve Microsoft’un kurucu üyeleri tarafından desteklenen yeni Ultra Ethernet Konsorsiyumu, HPC ve AI sistemlerinin ihtiyaç duyduğu ve grubun mevcut Ethernet teknolojisinin göreve pek uygun olmadığını söylediği düşük gecikme ve ölçeklenebilirlik gereksinimlerini karşılamak için Ethernet’i geliştirmek için çalışacak.
Yeni grubun en büyük önceliği, Yapay Zeka ve ardından HPC iş yüklerinin ihtiyaçlarını daha iyi karşılayacak Ethernet için yeni bir taşıma katmanı protokolü olan Ultra Ethernet Aktarımı (UET) protokolünü tanımlamak ve geliştirmek olacaktır.
Ethernet kesinlikle çevredeki en yaygın teknolojilerden biridir, ancak yapay zeka ve HPC kümelerinin talepleri o kadar hızlı artıyor ki, gelecekte teknolojinin gücü tükenecek. Büyük AI modellerinin boyutu hızla artıyor. GPT-3, 2020’de 175 milyar parametreyle eğitildi. Bugün GPT-4’ün şimdiden bir trilyon parametreyi barındırdığı söyleniyor. Daha fazla sayıda parametreye sahip modeller daha büyük kümeler gerektirir ve bu kümeler ağ üzerinden daha büyük mesajlar gönderir. Sonuç olarak, bu ağ özelliği ne kadar yüksek bant genişliği ve daha kısa gecikme süresi sağlarsa, küme o kadar verimli çalışabilir.
Hyperion Research CEO’su Dr. Earl Joseph, “Birçok HPC ve AI kullanıcısı, sistem ara bağlantı yeteneklerindeki zayıflıklar nedeniyle sistemlerinden tam performans elde etmeyi zor buluyor” dedi.
Yüksek düzeyde, yeni Ultra Ethernet Konsorsiyumu, yalnızca hedeflerine ulaşmak için gerekli olan parçaları iyileştirip değiştirerek Ethernet’i cerrahi bir şekilde iyileştirmeyi hedefliyor. Başlangıçta, konsorsiyum, Ethernet teknolojisinin hem yazılımını hem de fiziksel katmanlarını iyileştirmeyi hedefliyor, ancak maliyet verimliliği ve birlikte çalışabilirliği sağlamak için temel yapısını değiştirmeden.
Konsorsiyumun teknik hedefleri, Ultra Ethernet iletişimleri için protokolleri, arayüzleri ve veri yapılarını tanımlamak için spesifikasyonlar, API’ler ve kaynak kodu geliştirmeyi içerir. Ayrıca konsorsiyum, büyük AI ve HPC kümelerinin ihtiyaçlarını daha iyi karşılamak için mevcut bağlantı ve taşıma protokollerini güncellemeyi ve yeni telemetri, sinyalleşme, güvenlik ve tıkanıklık mekanizmaları oluşturmayı hedefliyor. Bu arada, AI ve HPC iş yüklerinin bir takım farklılıkları olduğundan, UET uygun dağıtımlar için ayrı profillere sahip olacaktır.
Hewlett Packard Enterprise HPC ve Yapay Zekadan Sorumlu Başkan Yardımcısı ve Genel Müdürü Justin Hotard, “Üretken yapay zeka iş yükleri, ağlarımızı süper bilgi işlem ölçeği ve performansı için tasarlamamızı gerektirecek” dedi. “Ultra Ethernet Konsorsiyumunun önemi, bu yüksek performanslı iş yüklerinin verimli bir şekilde çalışmasını destekleyebilen açık, ölçeklenebilir ve uygun maliyetli bir ethernet tabanlı iletişim yığını geliştirmektir. Ethernet’in her yerde bulunması ve birlikte çalışabilirliği, müşterilere simülasyonlar ve AI modellerinin eğitimi ve ayarlanması dahil olmak üzere çeşitli veri yoğun iş yüklerini yönetme seçeneği ve performansı sağlayacaktır.”
Ultra Ethernet Konsorsiyumu, Linux Vakfı tarafından barındırılmaktadır, ancak gerçek iş üyeleri tarafından üstlenilecektir. AMD, Cisco, Intel ve diğer kurucular arasında, bu şirketlerin tümü ya yüksek performanslı CPU’lar, bilgi işlem GPU’ları ve AI ve HPC iş yükleri için ağ altyapısı tasarlar ya da AI ve HPC uygulamaları için süper bilgisayarlar veya kümeler oluşturur ve bu nedenle uygun teknolojilerle ilgili bol miktarda deneyime sahiptir. UEC’nin çalışmaları Fiziksel Katman, Bağlantı Katmanı, Aktarım Katmanı ve Yazılım Katmanı üzerinde çalışacak dört çalışma grubu tarafından yürütülecek.
Ve grup, herhangi bir rakip teknolojiyle ilgili olarak açıkça Ultra Ethernet’ten bahsetmese de, kurucu yönetim kurulu üyeleri – veya daha doğrusu kimler? Olumsuz bir kurucu üye – anlatıyor. Ultra Ethernet’in performans hedefleri ve HPC odağı, on yılı aşkın bir süredir düşük gecikmeli, HPC tarzı ağlar için tercih edilen ağ teknolojisi olan InfiniBand ile doğrudan rekabete girmesine neden olacaktır. Kendi ticaret birliği tarafından geliştirilen NVIDIA’nın, birkaç yıl önce Mellanox’u satın almaları karşısında grup üzerinde çok büyük bir etkiye sahip olduğu söyleniyor ve onlar, gözle görülür şekilde yeni grubun tuhaf adamı. Şirket, her ikisini de ölçeklenebilir DGX SuperPod sistemleri için kullanarak hem Ethernet hem de InfiniBand’ı dahili olarak önemli ölçüde kullanıyor.
Önerilen Ultra Ethernet standartlarına gelince, UEC üyeleri şimdiden yaklaşmakta olan UET teknolojisini ürünlerine nasıl entegre edeceklerini planlıyorlar.
AMD’nin CTO’su Mark Papermaster bir blog yazısında, “UEC’nin gelişmiş taşıma katmanı bizi özellikle cesaretlendiriyor ve portföyümüzün bundan yararlanmaya hazır olduğuna inanıyoruz” dedi. “UEC, tıkanıklığa veya hat başı blokajına neden olmadan birden fazla yol boyunca paket püskürtme dağıtımına izin verir; bu, işlemcilerimizin verileri kümeler arasında minimum yerleştirme sorunu veya merkezi yük dengeleme ihtiyacı ile başarılı bir şekilde paylaşmasını sağlar. Son olarak, UEC, AMD’nin güçlü güvenlik ve şifreleme yeteneklerimizden yararlanmasına yardımcı olan AI ve HPC iş yükleri için yerleşik güvenliği barındırır.”
Bu arada, şimdilik UEC, UET spesifikasyonunu ne zaman tamamlamayı planladığını söylemiyor. Grubun, çeşitli Ethernet standartlarını koruyan IEEE’den sertifika alması bekleniyor, bu nedenle oradan atlamak için ek bir dizi çember var.
Son olarak UEC, grubu tamamlamak için ek üyeler aradığını ve 2023’ün 4. çeyreğinden itibaren yeni üye başvurularını kabul etmeye başlayacağını belirtti. NVIDIA ile birlikte, yapay zeka veya HPC çalışmalarında yer alan ve grubun parçası olmayan birkaç başka teknoloji devi var, bu yüzden konsorsiyuma katılmak için bir sonraki en iyi şansları bu olacak.
Kaynak: The Linux Foundation, The Register
