N

NVIDIA Mellanox 920-9B110-00FH-0D0 InfiniBand Anahtarı Teknik Çözümü｜RDMA, HPC ve Yapay Zeka Kümeleri için Düşük Gecikmeli Bağlantı Optimizasyonu

Proje Arka Planı ve Gereksinim Analizi

Yapay zeka eğitimi, HPC simülasyonu ve dağıtılmış depolama destekleyen modern veri merkezleri, ağ katmanında bant genişliği ve gecikme konusunda ikili bir baskı altındadır. GPU düğüm yoğunluğu artmaya devam ederken, düğümler arası iletişim kuyruk gecikmesi ve titremesi, genel küme verimliliği için sınırlayıcı faktör haline gelmektedir. Birçok kuruluş için pratik soru, 400Gb/s NDR'yi benimseyip benimsemeyeceği değil, deterministik performans sunmaya devam eden kanıtlanmış, uygun maliyetli bir HDR kumaşının nasıl oluşturulacağıdır.

Böyle bir proje için tipik gereksinimler arasında düşük gecikmeli RDMA taşıma, kayıpsız kumaş davranışı, mevcut EDR ve FDR altyapısıyla geriye dönük uyumluluk ve net bir ölçeklendirme yolu yer alır. NVIDIA Mellanox 920-9B110-00FH-0D0, NVIDIA Quantum ailesi içinde 200Gb/s HDR InfiniBand anahtarı olarak bu gereksinimleri karşılamak üzere konumlandırılmıştır.

Genel Ağ ve Sistem Mimarisi Tasarımı

Önerilen mimari, 200Gb/s HDR bağlantılarına dayalı iki katmanlı bir spine-leaf InfiniBand kumaşıdır. Leaf anahtarları hesaplama düğümlerini, depolama hedeflerini ve yönetim sunucularını bağlarken, spine anahtarları yapraklar arası bağlantı ve yol çeşitliliği sağlar. Bu tasarım, atlama sayısını düşük tutar ve HPC ve yapay zeka iş yüklerinde baskın olan doğu-batı trafiği için engelsiz bant genişliği sağlar.

Uç nokta katmanında, ana bilgisayar kanal adaptörleri RDMA modunda çalışarak CPU müdahalesi olmadan bellekten belleğe aktarımları mümkün kılar. Kumaş, tıkanıklık kontrolü, uyarlanabilir yönlendirme ve toplu hızlandırma işlemlerini yönetir. Yönetim ve telemetri trafiği aynı fiziksel altyapıyı paylaşır ancak izlemenin üretim iş yüklerine müdahale etmemesi için QoS politikalarıyla izole edilir.

Temel tasarım ilkeleri şunları içerir:

• Gecikmeyi en aza indirmek ve sorun gidermeyi basitleştirmek için düz topoloji
• Katmanlar arasında engelsiz veya düşük aşırı abonelikli bağlantılar
• Gerektiğinde EDR/FDR geriye dönük uyumluluk ile uçtan uca tutarlı HDR
• Yüksek kullanılabilirlik ve yük dengeleme için yedekli yollar
• Operasyonel tutarlılık için standart InfiniBand yönetimi

NVIDIA Mellanox 920-9B110-00FH-0D0'ın Rolü ve Temel Özellikleri

NVIDIA Mellanox 920-9B110-00FH-0D0, bu kumaşın temel yapı taşı olarak hizmet vermektedir. 920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR platformu olarak, 1U form faktöründe 40 adet QSFP56 bağlantı noktası ve 16Tb/s engelsiz anahtarlama kapasitesi sunar. Bu yoğunluk, yüksek radiksli yaprak rollerini destekler ve yoğun raflarda kablolamayı basitleştirir.

920-9B110-00FH-0D0 özelliklerini inceleyen ekipler için anahtar, toplu işlem boşaltma için RDMA, MPI ve NVIDIA SHARP'ı destekler. Gelişmiş tıkanıklık kontrolü ve uyarlanabilir yönlendirme, yapay zeka eğitimi ve MPI iş yüklerinde yaygın olan kuyruk gecikmesi ve incast sorunlarını hedefler. 920-9B110-00FH-0D0 InfiniBand anahtarı OPN, standart InfiniBand yönetim araçlarıyla da entegre olarak operasyonel öğrenme eğrisini azaltır.

920-9B110-00FH-0D0 InfiniBand anahtarı OPN çözümü planlarken, mimarlar QSFP56 kabloları, ana bilgisayar kanal adaptörleri ve bellenim sürümleri dahil olmak üzere 920-9B110-00FH-0D0 uyumlu bileşenleri doğrulamalıdır. Tasarım aşamasının başlarında 920-9B110-00FH-0D0 veri sayfasını gözden geçirmek, tedarik öncesinde güç, soğutma ve raf alanı gereksinimlerini doğrulamaya yardımcı olur.

Dağıtım ve Ölçeklendirme Önerileri

Tipik bir dağıtım, bir çift 920-9B110-00FH-0D0 yaprak anahtarına bağlı 32 ila 64 hesaplama düğümünden oluşan bir pilot pod ile başlar. Küme büyüdükçe yapraklar arasındaki engelsiz bant genişliğini koruyarak yaprak bağlantısı eklenir. Bu artımlı yaklaşım, tam ölçekli dağıtımdan önce gecikme ve verim doğrulamasına olanak tanır.

Ölçeklendirme için kumaşı simetrik tutun: aşırı abonelik oranlarının öngörülebilir kalması için yaprak ve yaprak kapasitesini eşleşen artışlarla ekleyin. Kablo yönetimi ve bağlantı noktası etiketlemesi baştan standartlaştırılmalıdır, çünkü fiziksel düzen tutarsızsa yüksek yoğunluklu QSFP56 dağıtımlarının bakımı zorlaşır.

Aşağıdaki tablo, temsili bir iki katmanlı tasarım değerlendirmesini özetlemektedir:

İşlemler, İzleme, Sorun Giderme ve Optimizasyon

Operasyonel başarı görünürlüğe bağlıdır. InfiniBand kumaşları, bağlantı hataları, tıkanıklık olayları ve arabellek kullanımı için sayaçlar sağlar. Bunlar sürekli olarak toplanmalı ve iş zamanlayıcı verileriyle ilişkilendirilmelidir, böylece performans gerilemeleri belirli kumaş segmentlerine bağlanabilir, tahmin edilmek yerine.

Yaygın sorun giderme senaryoları arasında kredi duraklamaları, yanlış yapılandırılmış QoS ve anahtarlar ile adaptörler arasındaki bellenim uyumsuzlukları yer alır. Yapılandırılmış bir kontrol listesi—bağlantı hızını doğrulayın, hata sayaçlarını kontrol edin, yönlendirme politikasını onaylayın, tıkanıklık telemetrisini inceleyin—çözüm süresini ortalama olarak azaltabilir. Optimizasyon çabaları, HPC ve yapay zeka iş yükleri en kötü durum davranışına duyarlı olduğundan, ortalama verim yerine kuyruk gecikmesine odaklanmalıdır.

Tedarik ve yaşam döngüsü planlaması için ekipler genellikle yetkili kanallar arasında 920-9B110-00FH-0D0 fiyatını ve satılık 920-9B110-00FH-0D0 seçeneklerini karşılaştırır. Fiyatlandırma yapılandırmaya, destek düzeyine ve bölgeye bağlıdır, bu nedenle distribütörler ve NVIDIA kurumsal temsilcileriyle erken etkileşim önerilir.

Özet ve Değer Değerlendirmesi

NVIDIA Mellanox 920-9B110-00FH-0D0, RDMA, HPC ve yapay zeka kümesi bağlantısı için kanıtlanmış bir 200Gb/s HDR temeli sağlar. Kumaş katmanlarını azaltarak, toplu hızlandırmayı destekleyerek ve kayıpsız düşük gecikmeli taşıma sağlayarak, gerçek dünya küme verimliliğini sınırlayan darboğazları ele alır. Ağ mimarları ve satış öncesi mühendisler için, net bir ileriye dönük yolla HDR InfiniBand kumaşları için pratik ve ölçeklenebilir bir yapı taşı temsil eder.