Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Switch: Düşük Gecikme İlişkisini Optimize Etmek
May 29, 2026
Gerçek dünyadaki yapay zeka eğitimi ve yüksek performanslı bilgisayar dağıtımlarında, ağ gecikmesi ve CPU üst maliyeti genellikle ölçeklenebilirliğin sessiz katilleri haline gelir.Bu başvuru kısacası, orta büyüklükte bir araştırma kuruluşunun tam olarak bu zorluklarla nasıl başa çıktığını,Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0GPU tabanlı araştırma kümelerinin çekirdek dokusu olarak InfiniBand anahtarı.
Organizasyonun miras 100Gb / s Ethernet RoCE kumaşı, PFC (Öncelikli Akış Kontrolü) fırtınaları ve verimsiz tıkanıklık yönetimi nedeniyle öngörülemeyen kuyruğu gecikme süresi nedeniyle acı çekti.Yapay zekâ modellerinin boyutları 10 milyardan 50 milyardan fazla parametreye kadar büyüdü., toplu iletişim işlemleri (All-Reduce, All-to-All) toplam tekrarlama zamanının yaklaşık% 45'ini tüketti.doğrusal performans ölçeklendirmeyi korurken RDMA'yı tam olarak kullanabilecek düşük gecikmeli kumaşArama hızla...920-9B110-00FH-0D0En umut verici yapı taşı olarak.
Ekip,920-9B110-00FH-0D0 MQM8790-HS2F 200 Gb/s HDRDört raf boyunca 64 GPU düğümünü birbirine bağlayan omurilik katmanı omurgası olarak değiştirin.920-9B110-00FH-0D0 InfiniBand anahtarı OPNsipariş çerçevesinde, her biri 40 HDR bağlantısı olan iki redundant omurilik anahtarı yerleştirdiler ve engellemeyen 1: 1 fazla abonelik oranına ulaştılar.Uyumlu Yönlendirme ve SHARPv2 (ölçülebilir Hiyerarşik Toplama ve Kısıtlama Protokolü) kullanıldı920-9B110-00FH-0D0 veri sayfası¢ kolektif işlemleri doğrudan anahtar dokusuna yüklemek için.920-9B110-00FH-0D0 uyumluEkosistem, mevcut ConnectX-6 HDR adaptörlerini ve standart QSFP56 optiklerini içeriyordu.
Uygulama sonrası telemetri, çarpıcı gelişmeler gösterdi. Her iki GPU düğümü arasındaki uçtan uca gecikme 3.2μs'den (RoCE) 1.1μs'in altına düştü.NVIDIA Mellanox 920-9B110-00FH-0D0512-GPU işleri için tamamlanma süresini% 57 oranında azalttı.
| Metrik | Önceki (RoCE) | 920-9B110-00FH-0D0 ile |
|---|---|---|
| Ortalama P2P Gecikme (MPI pingpong) | 3.2 μs | 1.08 μs |
| All-Reduce (512 GPU, 1GB mesaj) | 17.3 ms | 7.4 ms |
| Etkili Bant Genişliği Kullanımı | 62% | 94% |
| CPU Overhead (10Gb/s başına) | ~8% | % 1 |
Çiğ rakamların ötesinde920-9B110-00FH-0D0 InfiniBand anahtarı OPN çözümüNVIDIA UFM (Unified Fabric Manager) kullanılarak, ekip gerçek zamanlı kumaş görünürlüğü, otomatik yol optimizasyonu,ve proaktif sıkışıklık uyarıları .920-9B110-00FH-0D0 özellikleriaynı zamanda enerji verimli çalışmayı da sağladı: 1U şasi, sadece 180W'yi tam yükle tüketti ve PUE katkılarını düşürdü.
Benzer yükseltmeleri değerlendiren kuruluşlar için,920-9B110-00FH-0D0 fiyatıDaha düşük NIC genel masrafları ve pahalı kayıpsız-Ethernet lisanslarının ortadan kaldırılması nedeniyle eşdeğer 200Gb / s Ethernet anahtarlarına karşı olumlu bir şekilde karşılaştırılır.920-9B110-00FH-0D0 satılıkTakımın ROI analizi, GPU kullanımının iyileştirilmesinden sadece 9 aylık bir geri ödeme süresi gösterdi.
Gönderme,NVIDIA Mellanox 920-9B110-00FH-0D0Yeni nesil AI kümelerini veya HPC sistemlerini tasarlayan mimarlar için,Bu düğme kanıtlanmış birİş yükleri eksascale'e doğru ölçeklenmeye devam ettikçe,920-9B110-00FH-0D0Yüksek performanslı bağlantı tasarımında ön planda kalacak.