NVIDIA Mellanox MCX631432AN-ADAB: RDMA / RoCE Düşük Gecikme Taşıma ve Sunucu Verimliliği Optimizasyonu
July 28, 2026
NVIDIA Mellanox MCX631432AN-ADAB: RDMA / RoCE Düşük Gecikme Taşıma ve Sunucu Verimliliği Optimizasyonu
Arkaplan ve Zorluklar: Yapay Zeka Eğitim Klusterindeki Ağ Bozukluğu
Önde gelen bir fintech şirketi, son zamanlarda yüksek frekanslı ticaret stratejisi eğitimi için tasarlanmış 64 düğümlü GPU tabanlı bir AI kümesi yerleştirdi.,Uygulama başladıktan sonra, gerçek eğitim oranı beklentilerin çok altında kaldı.Uygulama sonrası analiz, 10GbE TCP/IP tabanlı düğümlerarası iletişim dokusunun birincil engelle dönüştüğünü ortaya çıkardı.All-Reduce toplu iletişim operasyonları 4-5 milisaniye kadar gecikme gösterdi.ağ protokolü işleme için CPU overhead % 40 ¢ ciddi açlık GPU veri işlem öncesi boru hattı aşmıştırEkip, hem iletişim gecikmesini önemli ölçüde azaltabilecek hem de CPU işlem kapasitesini geri kazanabilecek bir ağ çözümüne acilen ihtiyaç duyuyordu.
Çözüm ve dağıtım: MCX631432AN-ADAB ile bir RoCE Kayıpsız Ağı Kurmak
Kapsamlı bir teknik değerlendirme sonrasında ekip,NVIDIA Mellanox MCX631432AN-ADABHer bir sunucu birMCX631432AN-ADAB ConnectX-6 Lx çift portlu 25GbE SFP28Adaptör, her iki SFP28 portunu da yüksek oranda kullanılabilir bir mimari oluşturmak için gereksiz NVIDIA Spectrum-3 anahtarlarına bağlar.
Uygulama üç farklı aşamada gerçekleştirildi:
- Aşama 1 pilot (8 düğüm):Ekip,MCX631432AN-ADAB Ethernet adaptör kartıGPU sunucularının bir alt kümesinde, kayıpsız bir Ethernet dokusu oluşturmak için RoCEv2'yi öncelik akış kontrolü (PFC) ve açık tıkanıklık bildirimi (ECN) ile yapılandırmak.NCCL (NVIDIA Toplu İletişim Kütüphanesi) RDMA desteği ile yeniden derlendi.
- 2. aşama Düzenleme ve doğrulama:Telemetri verilerini kullanarakMCX631432AN-ADAB veri sayfası, ekip, sıfıra yakın paket kaybını korurken PFC duraklama fırtınalarını ortadan kaldırmak için DCB parametrelerini ve tampon eşiğini ince ayarladı.MCX631432AN-ADAB özellikleribelirli iş yükü profili için kesinti moderasyonu ve kuyruk derinliklerinin optimize edilmesini yönlendirdi.
- Aşama 3 ✓ Tam Üretim Sergilenmesi (64 düğüm):Başarılı doğrulama sonrasında, kalan düğümler yeni adaptöre göç edildi.MCX631432AN-ADAB uyumlusürücüler mevcut Ubuntu tabanlı ortam ve Mellanox OFED yığını ile sorunsuz bir şekilde entegre.
Ekip,MCX631432AN-ADAB Ethernet adaptör kart çözümüAdaptörler mevcut SFP28 kablolama ve anahtar altyapıları ile tamamen uyumlu olduğundan, pahalı yardımcı yükseltmelere gerek kalmadığı için basit bir göç yolu sağladı.
Sonuçlar ve Faydalar: Gecikme ve Verimlilikte Ölçülebilir Dönüşüm
Görev ile elde edilen performans kazanımlarıNVIDIA Mellanox MCX631432AN-ADABAşağıdaki tablo, yükseltmeden önce ve sonra kilit ölçümleri özetliyor:
| Metrik | Ön yükseltme (10GbE TCP/IP) | Yükseltme sonrası (MCX631432AN-ADAB RoCE ile) | Geliştirme |
|---|---|---|---|
| Tüm azaltma gecikmesi (ortalama) | 4.7 ms | 0.32 ms | 14.7x azaltma |
| Ağ CPU Kullanımı (bir düğüm başına) | % 42 | % 9 | 33 pp serbest bırakıldı |
| GPU Kullanımı (veri yükleme aşaması) | % 61 | % 89 | %28 |
| Grup Eğitimi Servisi | 1.8x başlangıç seviyesi | 4.3x başlangıç seviyesi | 2.4 kat artış |
Bu kantitatif kazanımların ötesinde, ekip, geliştiricilerin üretkenliğini doğrudan etkileyen operasyonel iyileştirmeler gözlemledi.Daha önce 36 saat süren model eğitim koşularını sadece 15 saatte tamamladılarDonanım tabanlı NVMe-oF yüklenmesi de depolama erişim gecikmesini% 35 oranında azalttı ve veri yoğunluklu kontrol noktası işlemlerini daha da hızlandırdı.İş durumunu değerlendiren kuruluşlar için,MCX631432AN-ADAB fiyatı2.4x verim artışı ve ek GPU sunucu satın almalarını erteleme yeteneği karşısında ölçüldüğünde son derece rekabetçi olduğunu gösterdi.MCX631432AN-ADAB satılıkNVIDIA Spektrum anahtarları ile paketler gelecekteki ölçeklendirme için en uygun maliyetli yolu sundu.
Özet & Görünümler: Gelecekteki İş Yükü İnovasyonu için Bir Temel
Bu üretim devreye girmesi,NVIDIA Mellanox MCX631432AN-ADABBu, modern GPU hızlandırılmış bilgisayarın tüm potansiyelini açığa çıkaran dönüştürücü bir altyapı unsuru.50 Gb/s toplam bant genişliği kombinasyonu, 0.4ms altındaki toplu iletişim gecikmesi ve çarpıcı CPU yüklenme yetenekleri, bu adaptörü dağıtılmış AI, HPC,ve gerçek zamanlı analitik iş yükleri.
İleriye bakıldığında, fintech ekibi, veri yolu programlanabilirliğini daha da hızlandırmak ve gelecekteki küm genişlemeleri için sıfır dokunuşlu tedarik uygulamak için NVIDIA DOCA ile entegrasyonu araştırıyor.Ayrıca adaptörün telemetri yeteneklerini de değerlendiriyorlar.MCX631432AN-ADAB veri sayfası Önceden tahmin edilebilir tıkanıklık yönetimi modelleri oluşturmak.MCX631432AN-ADAB Ethernet adaptör kart çözümüDeğerini kanıtlamaya devam ederken, şirket gelecekteki tüm altyapı yatırımları için bu platformda standartlaştırmayı planlıyor.Yeni nesil yapay zekaya dayalı finansal uygulamalar için sağlam ve ölçeklenebilir bir temel sağladığına eminim.