NVIDIA Mellanox MQM9790-NS2F InfiniBand Anahtarı Uygulamada｜RDMA, HPC için Düşük Gecikmeli Bağlantı Optimizasyonu

NVIDIA Mellanox MQM9790-NS2F InfiniBand Anahtarı Uygulamada｜RDMA, HPC ve Yapay Zeka Kümeleri için Düşük Gecikmeli Bağlantı Optimizasyonu

Modern yapay zeka eğitimi, HPC simülasyonu ve dağıtılmış depolama ortamlarında gerçek darboğaz nadiren ham işlem gücüdür — düğümden düğüme bağlantının verimliliğidir. NVIDIA Mellanox MQM9790-NS2F, 400Gb/s NDR InfiniBand anahtarı, tam olarak bu katmanı ele almak için tasarlanmıştır. Bu makale, MQM9790-NS2F'nin düşük gecikmeli ağ tasarımı aracılığıyla RDMA, HPC ve yapay zeka kümesi performansını nasıl iyileştirdiğini göstermek için temsili bir dağıtım senaryosunu incelemektedir.

Arka Plan ve Zorluklar

Tipik bir araştırma veya kurumsal yapay zeka kümesi yüzlerce GPU sunucusu, paralel bir dosya sistemi ve MPI ve NCCL iş yüklerini dağıtan bir iş zamanlayıcısından oluşabilir. GPU nesli ilerledikçe, her düğüm 200Gb/s HDR ağının rahatça kaldırabileceğinden çok daha fazla doğu-batı trafiği üretebilir. Ekipler yaygın olarak üç sorunlu nokta bildirmektedir: toplu işlemler sırasında artan kuyruk gecikmesi, ağ katmanları boyunca yayılan tıkanıklık ve ek atlamalar eklemeden port sayısını ölçeklendirme zorluğu.

Ağ mimarları için zorluk sadece bağlantı hızını yükseltmek değildir. Gereksiz gecikmeyi önlemek için ağı yeterince düz tutarken deterministik, kayıpsız taşıma sağlamaktır. MQM9790-NS2F özelliklerini gerçek iş yükü profillerine karşı değerlendirmenin temel olduğu yer burasıdır.

Çözüm ve Dağıtım Yaklaşımı

Bu senaryoda, küme MQM9790-NS2F InfiniBand anahtarı etrafında inşa edilmiş 400Gb/s NDR omurga-yaprak ağına geçirildi. Bir MQM9790-NS2F 400Gb/s NDR 64-port OSFP platformu olarak, tek bir anahtarda yüksek radiks sağlar, bu da tasarımın engelsiz bant genişliğini korurken ağ katmanlarını azaltmasına olanak tanır. Dağıtım yapılandırılmış bir yaklaşımı izledi:

• Yaprak katmanı: MQM9790-NS2F anahtarları GPU düğümlerini ve depolama hedeflerini 400Gb/s NDR bağlantıları aracılığıyla bağlar
• Omurga katmanı: ek MQM9790-NS2F birimleri yapraklar arası bağlantı ve yol çeşitliliği sağlar
• Toplu hızlandırma: NVIDIA SHARPv3, MPI ve NCCL işlemlerini ağa boşaltır
• Tıkanıklık kontrolü: uyarlanabilir yönlendirme ve gelişmiş QoS, incast ve sıcak noktalara karşı korur
• Yönetim: ağ sağlığını izlemek için standart InfiniBand araçları ve telemetri

MQM9790-NS2F InfiniBand anahtarı Quantum-2 ailesinin bir parçası olduğundan, mevcut InfiniBand yönetim uygulamaları ve adaptör ekosistemleriyle birlikte çalışır. MQM9790-NS2F uyumlu donanımı değerlendiren ekipler, ana bilgisayar kanal adaptörlerinin, OSFP kablolarının ve bellenim düzeylerinin NDR gereksinimleriyle uyumlu olduğunu doğrulamalıdır. Bu tür bir MQM9790-NS2F InfiniBand anahtarı çözümü, karıştırılmış nesil darboğazları önlemek için genellikle GPU yenileme döngüleriyle birlikte planlanır.

Sonuçlar ve Faydalar

Dağıtımdan sonra, en görünür değişiklik sıkıca bağlı iş yükleri için iş tamamlama süresindeydi. Daha önce tıkanıklıkta duran toplu işlemler artık daha düşük ve daha tutarlı kuyruk gecikmesiyle tamamlanıyor. 64-port OSFP yoğunluğu ayrıca kablolamayı basitleştirdi ve herhangi iki uç nokta arasındaki anahtarlama atlamalarının sayısını azalttı, bu da RDMA performansına doğrudan fayda sağladı.

Operasyonlar açısından, ağın anlaşılması daha kolay hale geldi. Daha az katman, daha az hata alanı ve daha basit sorun giderme anlamına gelir. NVMe over Fabrics dahil olmak üzere depolama trafiği, işlem trafiğiyle aynı düşük gecikmeli taşıma özelliğini paylaşır, bu da genel küme kullanımını iyileştirir. BT yöneticileri için temel çıkarım, ağ katmanına yatırım yapmanın işlem katmanında zaten ödenmiş kapasiteyi ortaya çıkarabileceğidir.

Satın alma ve planlama ekipleri genellikle bir tasarımı sonlandırmadan önce port sayısı, güç ve soğutma zarflarını doğrulamak için MQM9790-NS2F veri sayfasını inceler. MQM9790-NS2F fiyatı ve satılık MQM9790-NS2F bulunabilirliği hakkındaki sorular, fiyatlandırma yapılandırma, destek ve bölgeye bağlı olduğundan, yetkili distribütörlere ve NVIDIA kurumsal temsilcilerine yönlendirilmelidir. 

Özet ve Görünüm

NVIDIA Mellanox MQM9790-NS2F, yüksek radiksli 400Gb/s NDR platformunun ağ karmaşıklığı eklemeden yapay zeka, HPC ve RDMA kümesi performansını nasıl yeniden şekillendirebileceğini göstermektedir. İş yükleri ölçeklendikçe ve GPU yoğunluğu arttıkça, düşük gecikmeli InfiniBand anahtarlama temel bir yatırım olmaya devam edecektir. Bir sonraki ağ yenilemesini planlayan mimarlar için MQM9790-NS2F, deterministik, yüksek verimli bağlantı için pratik bir yapı taşıdır.