Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 InfiniBand Switch üretimde

Doğu Asya'nın önde gelen bir yapay zeka araştırma enstitüsü, ortak ama kritik bir engelle karşı karşıya kaldı.İşlerin ölçeklendirilmesiyle birlikte ciddi performans bozukluğundan muzdaripti.. Kök nedeni, TCP/IP üst masraflarının ve incast olayları sırasında paket kaybının GPU boş zamanlarının %35'e ulaşmasına neden olduğu eski 100Gb/s Ethernet kumaşıydı.RDMA'yı destekleyebilecek ve deterministik performansı tehlikeye atmadan binlerce düğüme ölçeklendirebilecek ultra düşük gecikmeli kumaşBirçok çözümü değerlendirdikten sonra,Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0Yeni omurilik yapısının çekirdeği olarak InfiniBand anahtarı.

Yayınlama,920-9B210-00FN-0D0ConnectX-7 adaptörleri aracılığıyla 512 NVIDIA A100 GPU'yu bağlayan 32 yaprak anahtarı ile omurilik katmanı olarak.920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRSwitch, daha önceki HDR çözümlerinin bant genişliğini iki katına çıkararak ve aynı zamanda mikrosaniye altındaki geçiş gecikmesini koruyarak, port başına 400Gb/s sağlar.920-9B210-00FN-0D0 InfiniBand anahtarı OPNAğ mühendisleri detaylı bilgiyi kullanmışlardır.920-9B210-00FN-0D0 veri sayfasıve920-9B210-00FN-0D0 özellikleriGüç ve termal gereksinimleri doğrulamak için, mevcut 19 inç raflara sorunsuz bir entegrasyon sağlıyor.920-9B210-00FN-0D0 uyumluHem mevcut HDR altyapısı hem de daha yeni NDR uç noktaları ile, aşamalı bir göçe izin verir.

• RDMA verimliliği artıyor:- Evet.NVIDIA Mellanox 920-9B210-00FN-0D0donanım tabanlı tıkanıklık kontrolünü sağlayan RDMA yazma gecikmesi 12μs'den 1.2μs'e düştü.
• HPC Uygulama Hızlandırması:Ana hava modelleme kodu (MPI tabanlı) anahtarın uyarlanabilir yönlendirmesi ve SHARP v2 kolektif boşaltmaları nedeniyle 2.7 kat performans iyileştirmesi gördü.
• Yapay zekâ eğitimi:175 milyar parametrel LLM eğitim işi için, yeni kumaş tüm azaltma süresini% 68 oranında azalttı ve genel GPU kullanımını% 62'den% 91'e yükseltti.
• Operasyonel Basitlik:Bu920-9B210-00FN-0D0 InfiniBand anahtarı OPN çözümüNVIDIA'nın UFM platformu ile entegre edilmiş, gerçek zamanlı telemetri ve öngörüsel arıza uyarıları sağlayan.

Araştırma enstitüsü projeyi değerlendirirken,920-9B210-00FN-0D0 fiyatıRekabet eden Ethernet çözümlerine karşı. Daha yüksek ön maliyetine rağmen, toplam sahip olma maliyeti (TCO), daha yüksek GPU kullanımı ve Gb / s başına daha düşük güç nedeniyle InfiniBand'i tercih etti.Birimler kolayca mevcuttur.920-9B210-00FN-0D0 satılıkNVIDIA'nın dağıtım kanalları üzerinden, diğer NDR anahtarlarına kıyasla önemli ölçüde daha kısa teslim süreleri ile.920-9B210-00FN-0D0 özellikleriAyrıca yedek güç kaynakları ve sıcak değiştirilebilir fanlar için desteği de doğruladı, bu da enstitünün 24/7 AI araştırma operasyonları için güvenilirlik gereksinimlerini karşılıyor.

Yapay zeka araştırma enstitüsü artık920-9B210-00FN-0D0Bu gerçek dünya durumu, planlanan 2.048-GPU NDR200 kumaş da dahil olmak üzere tüm gelecekteki kümeler genişlemeleri için.NVIDIA Mellanox 920-9B210-00FN-0D0Bu, AI ve HPC ortamlarında doğrusal performans ölçeklendirmeyi başarmak için temel bir bileşen.- Evet.920-9B210-00FN-0D0 InfiniBand anahtarı OPN çözümüDenenmiş, üretime hazır bir yol sunuyor.