Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Switch Teknik Çözüm

Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Anahtar Teknik Çözümü – RDMA/HPC/AI Kümeleri için Düşük Gecikmeli Ara Bağlantı Optimizasyonu

Bu teknik teknik rapor, aşağıdakiler etrafında oluşturulmuş kapsamlı bir çözüm mimarisi sunmaktadır:Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0InfiniBand anahtarı. Ağ mimarlarını, satış öncesi mühendislerini ve operasyon liderlerini hedefleyen bu belge,920-9B110-00FH-0D0orta ve büyük ölçekli HPC ve AI kümeleri için deterministik düşük gecikme süresi, kayıpsız RDMA ve ölçeklenebilir 200 Gb/s HDR bant genişliği sunar. Mimari tasarımı, temel teknolojileri, dağıtım topolojilerini, operasyonel en iyi uygulamaları ve değer değerlendirmesini kapsıyoruz.

1. Proje Arka Planı ve Gereksinim Analizi

Modern yapay zeka eğitimi, bilimsel simülasyon ve veri yoğunluklu analitik, tutarlı mikrosaniyenin altında gecikme süresi, sıfır paket kaybı ve yüksek ikiye bölme bant genişliği sağlayan ağ yapılarını gerektirir. Geleneksel Ethernet tabanlı çözümler, RoCEv2 geliştirmeleriyle bile, karmaşık tıkanıklık yönetimi, PFC ayarlama ek yükü ve yük altında öngörülemeyen kuyruk gecikmesi nedeniyle sıklıkla yetersiz kalıyor. 64 ila 512 GPU düğümünden oluşan kümeleri dağıtan kuruluşlar için performans, maliyet ve operasyonel basitliği dengeleyen, amaca yönelik oluşturulmuş bir ara bağlantıya açık bir ihtiyaç vardır.

Tipik HPC/AI dağıtımlarında tanımlanan temel proje gereksinimleri şunları içerir:

• Tam yük altında uçtan uca anahtar gecikmesi < 1 μs (port'tan port'a)
• Sıfır tıkanıklıktan kaynaklanan paket düşüşüne sahip kayıpsız yapı
• Tam ikiye bölme bant genişliği ile 64-512 düğümü destekleyen ölçeklenebilir topoloji
• Entegre telemetri ve otomatik arıza kurtarma ile basitleştirilmiş işlemler
• Orta ölçekli bütçeler için uygun maliyetli bağlantı noktası başına fiyatlandırma

NVIDIA Mellanox 920-9B110-00FH-0D0200 Gb/sn HDR (Yüksek Veri Hızı) teknolojisini, uyarlanabilir yönlendirmeyi ve SHARP toplu boşaltmayı 1U, enerji açısından verimli bir platformda birleştirerek bu talepleri doğrudan karşılar.920-9B110-00FH-0D0 InfiniBand anahtarı OPNAçık bir sipariş parça numarasıyla satın almayı basitleştirerek dağıtımlar arasında tutarlı yapılandırma sağlar.

2. Genel Ağ / Sistem Mimarisi Tasarımı

Önerilen mimari, iki katmanlı bir yaprak omurga (yağ ağacı) topolojisini takip ederek tam ikiye bölünmüş bant genişliği ve yüksek esneklik sağlar. Her bir yaprak bloğu birden fazla raftan oluşur ve her bir raf muhafazası iki adettir.920-9B110-00FH-0D0yedeklilik için anahtarlar. Omurga katmanı, tüm yaprak anahtarlardan gelen trafiği toplayarak herhangi iki uç nokta arasında engelleyici olmayan iletişim sağlar. Tipik bir 256 GPU kümesi için tasarım, tümü 200G HDR optik veya DAC kabloları kullanılarak birbirine bağlanan sekiz yaprak anahtar (her biri 200G bağlantıları aracılığıyla 32 GPU düğümünü birbirine bağlar) ve dört omurga anahtar kullanır.

Anahtarın bağlantı noktası başına 200 Gb/sn yoğunluğu, aşağıdakiler dahil olmak üzere esnek topolojilere olanak tanır:

• 3 aşamalı Clos (yağ ağacı):Tahmin edilebilir trafik düzenlerine sahip dengeli iş yükleri için idealdir.
• Yusufçuk+:Yüksek taban ve verimli küresel iletişim gerektiren ultra büyük kümeler için.

920-9B110-00FH-0D0 MQM8790-HS2F 200 Gb/sn HDRplatform, ConnectX‑6 ve ConnectX‑7 adaptörleri de dahil olmak üzere NVIDIA'nın HDR ekosistemiyle uyumluluğu sağlayarak anahtarın temelini oluşturur.920-9B110-00FH-0D0 uyumlutasarım aynı zamanda NVIDIA'nın iş ortağı programı aracılığıyla doğrulanan üçüncü taraf optikleri de destekleyerek dağıtım esnekliği sunar.

3. Rol ve Temel ÖzelliklerMellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0Çözümde

NVIDIA Mellanox 920-9B110-00FH-0D0bu çözümün temel taşıdır ve sağlam bir dizi gelişmiş ağ oluşturma yeteneği sağlar:

• Bağlantı noktası başına 200 Gb/sn HDR– 900 ns'nin altında portlar arası gecikme sağlayan geçiş anahtarlamayla, gecikmeye duyarlı RDMA ve MPI iş yükleri için idealdir.
• Uyarlanabilir Yönlendirme– paket başına en az sıkışık yolu dinamik olarak seçer, sıcak nokta bağlantılarından kaçınır ve asimetrik trafik düzenlerinde bile tutarlı performansı korur.
• SHARPv2 (Ölçeklenebilir Hiyerarşik Toplama ve Azaltma Protokolü)– toplu iletişimin (tümü azaltma, yayınlama) yükünü ana bilgisayar CPU'larından alır, ağdaki sohbeti azaltır ve yapay zeka eğitim verimliliğini %25'e kadar artırır.
• Ağ içi bilgi işlem– Veri azaltma ve segmentasyonu destekleyerek değerli GPU kaynaklarını hesaplama için serbest bırakır.
• Gelişmiş Telemetri– bağlantı noktası başına sayaçlar, ara bellek doluluk histogramları ve yol düzeyinde gecikme ölçümleri; tümü proaktif izleme için UFM veya REST API'leri aracılığıyla dışa aktarılabilir.

920-9B110-00FH-0D0 özellikleriayrıca hem pasif bakır DAC'ler hem de aktif optik modüller için destek içerir; raf içi (≤5 m) raflar arası (200G SR4 optik ile 100 m'ye kadar) mesafe esnekliği sağlar. Yüksek yoğunluklu dağıtım gerektiren kuruluşlar için, anahtarın 1U form faktörü ve düşük güç tüketimi (bağlantı noktası başına ≈1,5 W) operasyonel ek yükü en aza indirir.

4. Dağıtım ve Ölçeklendirme Önerileri (Tipik Topoloji)

Aşamalı dağıtım için aşağıdaki yaklaşımı öneririz:

• Aşama 1 – Pilot (64 GPU düğümü):2 yaprak anahtarı ve 2 omurga anahtarını konuşlandırın. Performansı şuna göre doğrulayın:920-9B110-00FH-0D0 veri sayfasıGecikme, verim ve SHARP boşaltma verimliliğine odaklanan parametreler.
• Aşama 2 – Ölçek genişletme (128–256 düğüm):Aşırı aboneliğin ≤ 1:1 olmasını sağlamak için raf başına 2'lik artışlarla yaprak anahtarları ve gerektiğinde omurga anahtarları ekleyin. 200G bağlantı noktası yoğunluğu, tek bir yaprak anahtarın 32-64 düğümü desteklemesine olanak tanır (düğüm yukarı bağlantı hızına bağlı olarak).
• Aşama 3 – Çok düzlemli (512+ düğüm):Anahtarın sanal şeritler ve bölümleme anahtarları desteğinden yararlanarak rota tabanlı yük dengeleme ile birden fazla bağımsız yapı (örn. 2× veya 4× düzlem) uygulayın.

Tipik kablolamada, raf içi bağlantılar (≤3 m) için OSFP'den OSFP'ye DAC'ler ve 100 m'ye kadar omurga yaprağı mesafeleri için OSFP'den 200G'ye SR4 optik modülleri kullanılır.920-9B110-00FH-0D0 InfiniBand anahtar OPN çözümüLojistiği basitleştirir – OPN, tüm birimlerde tutarlı donanım ve ürün yazılımı revizyonları sağlayarak dağıtım hatalarını azaltır.

5. Operasyonlar, İzleme, Arıza Teşhisi ve Optimizasyon

Üretimde gecikmeyi düşük tutmak için etkili işlemler kritik öneme sahiptir. Çözüm ile entegre olurNVIDIA UFM (Birleşik Yapı Yöneticisi), şunları sağlar:

• Gerçek zamanlı kontrol paneli– bağlantı noktası başına bant genişliği, hata sayaçları ve tıkanıklık ısı haritaları.
• Otomatik yol yeniden optimizasyonu– bir bağlantı bozulduğunda veya arızalandığında UFM, operatör müdahalesi olmadan rotaları yeniden hesaplar ve uyarlanabilir yönlendirme tablolarını yeniden yapılandırır.
• Tarihsel telemetri– ölüm sonrası analiz ve kapasite planlaması için gecikme ve akış verilerini depolar.

Önerilen sorun giderme ve optimizasyon iş akışı:

1. Bağlantı noktası başına duraklatma çerçevelerini ve atılanları izleyin– sıfır atık bekleniyor; herhangi bir iptal, yanlış yapılandırmayı veya hatalı optikleri gösterir. Sorunları proaktif bir şekilde belirlemek için UFM uyarılarını kullanın.
2. SHARPv2 işlemini doğrulayın– azaltma operasyonlarının yükünün boşaltıldığından emin olmak için UFM'nin toplu istatistiklerini kontrol edin; değilse, ürün yazılımı ve adaptör yapılandırmalarını doğrulayın.
3. Uyarlanabilir yönlendirme eşiklerini optimize edin– iş yükü modellerine göre yük algılama aralıklarını ayarlayın.920-9B110-00FH-0D0yönetim arayüzleri aracılığıyla ince ayar yapılmasına olanak tanır.
4. Düzenli ürün yazılımı güncellemeleri– performans iyileştirmeleri ve güvenlik yamaları da dahil olmak üzere NVIDIA'nın destek portalı aracılığıyla edinilebilir.

Değerlendiren kuruluşlar için920-9B110-00FH-0D0 fiyatıoperasyonel basitlik ve azaltılmış mühendislik yükü, sürekli ayarlama gerektiren Ethernet alternatifleriyle karşılaştırıldığında daha düşük toplam sahip olma maliyetine doğrudan katkıda bulunur.

6. Özet ve Değer Değerlendirmesi

Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0RDMA/HPC/AI küme ağı için kanıtlanmış, uygun maliyetli bir temel sunar. 200 Gb/sn HDR hızı, gelişmiş ağ içi bilgi işlem ve güçlü telemetriyi birleştirerek, geleneksel performans darboğazlarını ortadan kaldırır ve zorlu Ethernet yapılarından net bir yükseltme yolu sağlar. Anahtar değer önerileri şunları içerir:

• Performans:SHARPv2 aracılığıyla 900 ns'nin altında gecikme, sıfır paket kaybı ve %25'e kadar daha hızlı toplu işlemler.
• Ölçeklenebilirlik:Hem yağ ağacı hem de Dragonfly+ topolojilerine uyarlanabilen, tam ikiye bölme bant genişliğine sahip 64-512'den fazla düğüm kümesini destekler.
• Operasyonel verimlilik:UFM entegrasyonu ve otomatik arıza kurtarma, manuel müdahaleyi %80'in üzerinde azaltır.
• Maliyet etkinliği:Bağlantı noktası başına rekabetçi fiyatlandırma (920-9B110-00FH-0D0 fiyatı) ve düşük güç tüketimi etkileyici bir TCO sağlar.

920-9B110-00FH-0D0 veri sayfasıVe920-9B110-00FH-0D0 özelliklerikapsamlı teknik ayrıntılar sağlar ve birimler kolayca temin edilebilir (920-9B110-00FH-0D0 satılıkNVIDIA'nın küresel kanal ağı aracılığıyla). Anahtarın mevcut NVIDIA adaptörleriyle uyumluluğu, halihazırda Mellanox ekosistemine yatırım yapmış kuruluşlar için sorunsuz bir geçiş yolu sağlar.

Özetle, bu teknik çözüm,920-9B110-00FH-0D0 InfiniBand anahtar OPN çözümüYeni nesil yapay zeka ve HPC bilişimin temel taşı olan, en zorlu düşük gecikmeli ara bağlantı gereksinimlerini karşılayan sağlam, operasyonel açıdan verimli bir yapı sunar.