Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Anahtarı Çalışırken – Düşük Gecikmeli Ara Bağlantı Optimizasyonu

Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Değiştirme Eylemde ¢ RDMA/HPC/AI Klüsterleri için Düşük Gecikme İlişkileri Optimizasyonu

Bölgesel bir süper hesaplama merkezi son zamanlarda yapay zeka bilgisayar altyapısına büyük bir yükseltme yaptı.Büyük ölçekli dil modeli eğitimi ve genomik dizileme iş yüklerini desteklemek için 64'ten 256 NVIDIA A100 GPU'sına genişletilmesiBununla birlikte, mevcut 100GbE RoCEv2 ağı sürekli bir sıkıntı haline geldi. Sık sık PFC fırtınaları, öngörülemeyen kuyruk gecikmesi,ve karmaşık ECN ayarlamaları önemli bir mühendislik çabası harcadı ve iş tamamlama sürelerini % 40'tan fazla uzattıBu vaka çalışması, merkezinMellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0Dokusunu dönüştürmek için InfiniBand anahtarı, RDMA yoğun uygulamalar için deterministik düşük gecikme bağlantısı sağlar.

Arkaplan ve Zorluklar Ethernet Tavanı

Merkezin başlangıç mimarisi, GPU sunucularını ve paralel bir dosya sistemini bağlayan RoCEv2 ile iki 100GbE yaprak anahtarı kullandı.İlk olarak, PFC (Öncelik Akış Kontrolü) çıkmazları günlük olarak meydana geldi, manuel sıfırlamalara zorlandı; ikincisi, tüm azaltma toplu işlemleri, GPU kullanımını doğrudan yavaşlatan 200 μs'yi aşan kuyruğu gecikme süreleri yaşadı;Üçüncü, hata giderme, zaman alıcı ve nadiren kesin olan derin paket incelemesi gerektiriyordu.Zarar görmeyenlere rızık veremezdi., yeni nesil yapay zeka iş yükleri için gerekli olan deterministik doku.

Çözüm ve Uygulama920-9B110-00FH-0D0 InfiniBand Switch OPNYeni Omurga olarak

Çoklu seçenekleri değerlendirdiği için merkez,NVIDIA Mellanox 920-9B110-00FH-0D0Değiştirme,920-9B110-00FH-0D0 MQM8790-HS2F 200 Gb/s HDRUygulama, iki katlı bir yağ ağacı topolojisini kullandı:920-9B110-00FH-0D0yapraklar olarak anahtarlar (her biri 200G bağlantıları üzerinden 64 GPU düğümünü bağlar) ve tam bölme bant genişliği sağlayan iki ek ünite ile bağlantı kuruldu.,İstifadesi920-9B110-00FH-0D0 uyumluEkosistemde sorunsuz entegrasyonu sağlamak için.

• Kablolama:200G HDR optik modülleri, 100 metreye kadar omurilik mesafeleri için, raf içi bağlantılar için pasif DAC'larla.
• Yönetim:NVIDIA UFM (Unified Fabric Manager) otomatik topoloji keşfi, uyarlanabilir yönlendirme politikaları ve gerçek zamanlı telemetri için.
• Toplu boşaltma:SHARPv2, tüm azaltma işlemlerini hızlandırmayı, ana CPU'lardan iş yükünü indirmeyi ve ağ sohbetini azaltmayı sağladı.

Ekip,920-9B110-00FH-0D0 veri sayfasıve920-9B110-00FH-0D0 özellikleriGüç ve soğutma gereksinimlerini doğrulamak için ′′ anahtarın 1U form faktörü ve port yoğunluğu başına 200G, ek altyapı değişiklikleri yapmadan mevcut raflara düzgün bir şekilde sığar.920-9B110-00FH-0D0 InfiniBand anahtarı OPN çözümüAynı zamanda, doğru yapılandırmayı sağlayan tam bir OPN ( sipariş parça numarası) ile satın alma işleminin de basitleştirilmesi.

Ölçülebilir Sonuçlar ve Faydalar

İki haftalık dağıtım ve doğrulama sonrasında, merkez, anahtar performans göstergelerinde önemli iyileşmeler kaydetti.Aşağıdaki tablo, temsil edici bir 256 GPU eğitim işi için (BERT-büyük önceden eğitim) önce ve sonrası ölçümlerini özetler.:

Rakamların ötesinde, ekip,NVIDIA Mellanox 920-9B110-00FH-0D0PFC geri kazanımı için daha önce gerekli olan manuel müdahaleleri tamamen ortadan kaldıran sıfır paketli bir kumaş teslim etti.920-9B110-00FH-0D0 InfiniBand anahtarı OPNAyrıca, proaktif kapasite planlamasına olanak sağlayan, akış başına sıkışıklık ve yol kullanımına dair ayrıntılı görünürlük sağladı.920-9B110-00FH-0D0 fiyatı400G NDR anahtarlarına yükseltme ile karşılaştırıldığında maliyetli olduğunu kanıtladı, bu da merkezin orta aralık bütçesi için ideal bir uyum sağladı.

Özet & Görünüm ¢ Düşük Gecikme İlişkisine Dayanıklı Bir Yol

Süperbilgisayar merkezi'nin deneyimi,Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0Hem mücadele eden Ethernet kumaşlarına hem de pahalı yüksek seviye çözümlere pragmatik, yüksek performanslı bir alternatif sunar.ve kayıpsız RDMA taşımacılığı, geçiş, kuruluşların GPU yatırımlarının tüm potansiyelini açığa çıkarmalarını sağlar.

Geleceğe bakıldığında, merkez aynı teknolojiyi kullanarak 512 GPU'ya kadar genişletmeyi planlıyor.920-9B110-00FH-0D0 InfiniBand anahtarı OPN çözümü, mevcut omurilik altyapısını korurken ek yaprak anahtarları ekleyerek ölçeklendirme.Switch'in gelecekteki NVIDIA adaptörleriyle (ConnectX‐7 dahil) uyumluluğu, sorunsuz bir yükseltme yolunu sağlarBenzer yükseltmeleri değerlendiren kuruluşlar için,920-9B110-00FH-0D0 özelliklerive920-9B110-00FH-0D0 veri sayfasıTüm gerekli tasarım parametrelerini sağlar ve birimler kolayca kullanılabilir (920-9B110-00FH-0D0 satılıkyetkili kanallar üzerinden).

Bu gerçek dünya dağıtımı,920-9B110-00FH-0D0bir üründen daha fazlası ̇ düşük gecikme ve yüksek verimlilikte kümelenmiş ağlar için kanıtlanmış bir destekçidir ve önümüzdeki on yılın yapay zekâ ve bilimsel bilişim gereksinimlerini karşılamaya hazır.