NVIDIA Mellanox 920-9B110-00FH-0D0 Teknik Referansı: RDMA/HPC/Yapay Zeka için Optimize Edilmiş Düşük Gecikmeli Bağlantı

NVIDIA Mellanox 920-9B110-00FH-0D0 Teknik referans: 200Gb/s HDR'de RDMA/HPC/AI kümeleri için Optimized Low-Latency Interconnect

1Proje Arkaplanı ve Gereksinimler Analizi

HPC ve AI kümeleri ölçeklenmeye devam ettikçe, dağıtılmış eğitim ve bilimsel simülasyon iş yükleri giderek daha sıkı ağ bant genişliği, gecikme ve ölçeklenebilirliği gerektiriyor. not every cluster requires 400Gb/s NDR infrastructure—a significant number of production environments are already standardized on 200Gb/s HDR and seek performance improvements within a controlled budgetTipik gereksinimler şunlardır:

• Deterministik düşük gecikme:MPI kolektif iletişimi, kuyruk gecikmesinin eğitim yakınlaşmasını etkilemesini önlemek için, mikrosaniye altındaki bir limandan limana gecikme süresi sürdürmelidir.
• Kayıpsız kumaş:RDMA verimliliğini sağlamak ve performans çöküşünü önlemek için sıfır paket tıkanıklık altında düşer.
• Ağ içi hesaplama yükü:All-Reduce gibi toplu işlemlerin ağ dokusuna yüklenmesi, ev sahibi CPU / GPU kaynaklarını serbest bırakmak için.
• Pürüzsüz ölçeklenebilirlik:Mevcut HDR kabloları ve optik alıcılar için uyumluluk ile yüzlerce ila binlerce düğümden engelleme olmayan genişleme desteği.

Bu gereksinimleri karşılamak için, bu çözümNVIDIA Mellanox 920-9B110-00FH-0D0Orta ve büyük ölçekli dağıtımlar için performans, yoğunluk ve maliyet etkinliğini dengeleyen temel yapı bloğu olarak 200Gb/s HDR InfiniBand anahtarı.

2Genel Ağ Mimarlığı Tasarımı

Önerilen çözüm, öngörülebilir gecikme ve basitleştirilmiş kablolama ile ölçeklenebilir, engellemez bir kumaş sağlayan iki katmanlı yaprak omurilik topolojisini kullanır.Her bir hesaplama rafı bir tane ile donatılmıştır.920-9B110-00FH-0D0 InfiniBand anahtarı OPN(Ordering Part Number), OSFP'den OSFP'ye doğrudan bağlı bakır (DAC) veya aktif optik kablolar (AOC) aracılığıyla GPU sunucularına 200Gb/s HDR bağlantısı sağlayan 40 port sunar.MQM8790-HS2F anahtarlarının ikinci katmanı920-9B110-00FH-0D0 MQM8790-HS2F 200 Gb/s HDRTüm yaprak anahtarlarını birbirine bağlar ve tam bant genişliği olan bir yağ ağacı kumaşı oluşturur.

1500 düğümden daha büyük kümeler için, üç katlı katlanmış kapalı mimari uygulanabilir,920-9B110-00FH-0D0 ile her seviyede tutarlı bir performans sağlamak için hem yaprak hem de omurga olarak hizmet ediyorAşağıdaki tablo bu anahtarın etrafında inşa edilen 2 katmanlı HDR kumaşı için kilit ölçekleme parametrelerini özetliyor:

3. NVIDIA Mellanox 920-9B110-00FH-0D0'nun Rolü ve Anahtar Özellikleri

Bu mimari içinde,NVIDIA Mellanox 920-9B110-00FH-0D0Temel bir geçiş elemanı olarak hizmet eder ve birkaç kritik yeteneği sağlar:

• 200Gb/s HDR'de 40 port:Her bir OSFP portu, güvenilir genişletilmiş erişim bağlantısı için ileri hata düzeltmesi (FEC) ile iki yönlü 200Gb / s'yi destekler.
• Entegre SHARPv2 (ölçülebilir Hiyerarşik Toplama ve Redüksiyon Protokolü):Toplu iletişim işlemlerini boşaltır, tipik HPC iş yüklerinde MPI All-Reduce gecikmeyi% 30'a kadar azaltır.
• Uyumlu yönlendirme ve tıkanıklık kontrolü:Trafiği dinamik bir şekilde yönlendirir, bu da çatışmalı trafik düzenlerinde öngörülebilir performans sağlar.
• Gelişmiş telemetri:Her akış ve her liman sayıcıları, tampon işgal izlemesi ile birlikte kumaş sağlığına derin bir görünürlük sağlar.

Buna göre920-9B110-00FH-0D0 veri sayfası, anahtar 200ns altındaki kesme gecikmesi sağlar ve toplam anahtarlama kapasitesinin 8.0 Tb/s'ye kadar desteklenmesini sağlar.920-9B110-00FH-0D0 özellikleriAyrıca, görev kritik iş yükleri için 99.999% kullanılabilirliği sağlayan çift redundant güç kaynaklarını ve sıcak değiştirilebilir fan modüllerini de vurgulayacaktır.

4. Uygulama ve ölçeklenebilirlik önerileri

Kuruluşlar için920-9B110-00FH-0D0 InfiniBand anahtarı OPN çözümü, aşağıdaki dağıtım kılavuzları önerilir:

• Kablolama stratejisi:OSFP-OSFP DAC kablolarını raf içi bağlantılar için (3 metreye kadar) ve AOC veya optik alıcıları raflar arası ve omurilik bağlantıları için (100 metreye kadar) kullanın.920-9B110-00FH-0D0 uyumluNVIDIA uyumluluk matrisi.
• İstihbarat:Tek bir arıza noktasını ortadan kaldırmak için her yaprakta en az iki omurilik anahtarı kullanın.
• Firmware yönetimi:Tüm anahtarların aynı NVIDIA firmware sürümlerini çalıştığından emin olun.
• Ölçeklenebilirlik yolu:1.600 düğümün ötesinde kümeler için, üç katlı katlanmış kapalı topolojiye geçiş veya uyarlanabilir yönlendirme ile akrep + kullanın.920-9B110-00FH-0D0, tek bir alt ağ yöneticisi altında tek bir kumaşta 64'e kadar anahtarı destekler.

Toplam mülkiyet maliyetini hesaplarken, daha düşük radiksli alternatiflere kıyasla daha az sayıda anahtar katmanı ve basitleştirilmiş kablolamayı dikkate alın.920-9B110-00FH-0D0 fiyatıbirim başına EDR (100Gb/s) anahtarlarından daha yüksek, port başına maliyet NDR'den önemli ölçüde daha düşük, bu da maliyet bilincine sahip HDR dağıtımları için optimal bir seçim haline getiriyor.

5. İşlemler, İzleme ve Sorun Çözme

Bir HDR kumaşının etkili bir şekilde yönetilmesi kapsamlı bir izleme ve hata giderme çerçevesi gerektirir.NVIDIA Mellanox 920-9B110-00FH-0D0Ürün bazlı, şunları sunan:

• Topoloji görselleştirme:Tüm anahtarların, bağlantıların ve uç noktaların otomatik keşfi ve grafik temsil edilmesi.
• Performans tablosu:Liman kullanımının, hata oranlarının ve tıkanıklık göstergelerinin gerçek zamanlı görüntüleri.
• Proaktif uyarı:Bağlantı bozulması, sıcaklık anomalileri ve güç kaynağı arızası için eşiğe dayalı alarmlar.
• Hata yalıtımı:Kusurlu kabloları, alıcıları veya anahtar portlarını belirleyen kılavuzlu sorun giderme iş akışları.

Gelişmiş sorun giderme için, döngü testleri ve BER (bit hata oranı) analizi de dahil olmak üzere anahtarın yerleşik teşhis araçlarını kullanın.Üretim iş yüklerini dağıtmadan önce bağlantı bütünlüğünü doğrulamak içinErken dağıtımlarda karşılaşılan yaygın sorunlar, eşit olmayan bağlantı hızları veya eşleşmeyen kablo türlerinden kaynaklanan optimum olmayan yönlendirmeyi içerir.Uyumlu yönlendirmeyi etkinleştirmek ve tüm bağlantıların 200Gb / s'de (FEC etkinleştirilerek) çalıştığını doğrulamak, performans anormalliklerinin çoğunu çözer.920-9B110-00FH-0D0 InfiniBand anahtarı OPNAyrıca yedek alt ağ yöneticisi yapılandırmalarını da destekler, yönetim düğümünün arızalanması durumunda dokusunun yeniden yapılandırılmasının manuel müdahale olmadan gerçekleşmesini sağlar.

6Özet & Değer Değerlendirme

Bu920-9B110-00FH-0D0HDR tabanlı HPC ve AI kümelerini inşa eden veya genişleten kuruluşlar için zorlayıcı bir değer önerisi sunar.ve kurumsal düzeyde yönetilebilirlik, hepsi maliyet etkin bir 1U platformundaTemel değer noktaları şunlardır:

• Performans:İletişim yoğunluklu iş yükleri için SHARPv2 boşaltma ve uyarlanabilir yönlendirme yoluyla iş tamamlama sürelerinin% 35'e kadar azaltılması.
• Maliyet etkinliği:NDR alternatiflerine kıyasla daha düşük TCO, HDR ölçekli dağıtımlar için optimize edilmiş port başına maliyetlerle.
• İşlem basitliği:UFM ile derin entegrasyon, birleşik yönetim, proaktif izleme ve otomatik hata geçiş için.
• Yatırım koruması:Mevcut HDR kabloları, optikleri ve yazılım yığınları ile tam uyumluluk, üretimi kesintisiz aşamalı yükseltmeleri sağlar.

Önemli değerlendirmeleri yapan kuruluşlar için920-9B110-00FH-0D0 satılıkNVIDIA'nın kanal ortakları aracılığıyla, detaylı920-9B110-00FH-0D0 veri sayfasıve belirli iş yükü ve ölçek gereksinimleri için tasarımı doğrulamak için sertifikalı bir çözüm mimarı ile çalışmak.NVIDIA Mellanox 920-9B110-00FH-0D0HPC ve AI yeniliği için dengeli, yüksek performanslı bir bağlantı temeli sunuyor.