Mellanox (NVIDIA) 920-9B110-00FH-0D0 InfiniBand Anahtar Teknik Çözümü｜Düşük Gecikmeli Ara Bağlantıyı Optimize Etme

1. Proje Arka Planı ve Gereksinim Analizi

Yapay zeka eğitimi ve HPC iş yükleri için modern hızlandırılmış bilgi işlem kümelerinin dağıtımı ve ölçeklendirilmesi, benzersiz ağ zorlukları sunar. Geleneksel TCP/IP tabanlı ağlar, önemli gecikme süresi ve CPU yükü getirerek birincil darboğaz haline gelir. Yeni nesil bir ara bağlantı çözümü için temel gereksinimler şunlardır: GPU tıkanmasını önlemek için deterministik mikrosaniyenin altında gecikme süresi, tümden tüm iletişim desenleri için yüksek iki yönlü bant genişliği, toplu işlemleri boşaltmak için ölçeklenebilir ağ içi bilgi işlem ve operasyonel basitlik için sağlam kumaş yönetimi.

NVIDIA Mellanox 920-9B110-00FH-0D0 tam olarak bu talepleri karşılamak üzere tasarlanmıştır ve performansa sahip ve verimli bir 920-9B110-00FH-0D0 InfiniBand anahtar OPN çözümü temelini oluşturur. Bu belge, dağıtımı için kapsamlı bir teknik planı özetlemektedir.2. Genel Ağ/Sistem Mimarisi Tasarımı

Önerilen mimari, öngörülebilir, yüksek bant genişliğine sahip HPC ve AI kümeleri oluşturmak için fiili standart olan bir omurga-yaprak, engelsiz bir yağ ağacı topolojisidir. Bu tasarım, herhangi iki düğüm arasında tutarlı atlama sayısı ve gecikme süresi sağlayarak aşırı aboneliği ve sıcak noktaları ortadan kaldırır. Mimari, tam yığın, NVIDIA tarafından optimize edilmiş bir ekosistem üzerine kurulmuştur.

Bilgi İşlem Katmanı:

• NVIDIA DGX veya HGX sistemleri veya NVIDIA ConnectX-7 NIC'lere sahip eşdeğer GPU sunucuları.Ara Bağlantı Katmanı:
• Yaprak (Top-of-Rack) ve omurga anahtarları olarak görev yapan 920-9B110-00FH-0D0 yüksek kökünü kullanarak, birden fazla pod, özel omurga-omurga anahtarları kullanılarak veya yağ ağacı hiyerarşisini genişleterek birbirine bağlanabilir. Yönetim ve Orkestrasyon Katmanı:
• NVIDIA UFM®, NVIDIA Magnum IO yığını aracılığıyla Slurm veya Kubernetes gibi küme zamanlayıcılarıyla entegre edilmiş kumaş yönetimi için.Bu uçtan uca mimari, RDMA ve GPUDirect iletişimleri için optimum performansı sağlayarak birleşik bir "kumaşın bir bilgi işlem kaynağı olarak" oluşturur.

3. 920-9B110-00FH-0D0'ın Rolü ve Temel Teknik Özellikleri

Bu mimaride,

920-9B110-00FH-0D0 yüksek kökünü kullanarak, birden fazla pod, özel omurga-omurga anahtarları kullanılarak veya yağ ağacı hiyerarşisini genişleterek birbirine bağlanabilir. Temel Teknik Sütunlar:

Ultra Düşük Gecikme Süresi ve Yüksek Bant Genişliği:

• 920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR ASIC tarafından desteklenir, RDMA trafiği için kritik olan endüstri lideri bağlantı noktası-bağlantı noktası gecikmesi ve tam tel hızı 200Gb/s bağlantı noktası başına bant genişliği sağlar.Ağ İçi Bilgi İşlem (SHARP):
• Anahtar donanımı, ağ içinde veri toplama gerçekleştirerek MPI ve NCCL toplu işlemlerini (Tüm-Azaltma, Yayın) hızlandırır. Bu, GPU boşta kalma süresini ve CPU yükünü önemli ölçüde azaltır.Gelişmiş Tıkanıklık Kontrolü:
• Uyarlanabilir Yönlendirme ve Zamanında tıkanıklık kontrol mekanizmaları, trafik akışlarını dinamik olarak yöneterek paket düşmelerini önler ve yapay zeka eğitimi için yaygın olan incast senaryolarında adil bant genişliği dağılımı sağlar.Telemetri ve Görünürlük:
• NVIDIA'nın telemetri altyapısı için entegre destek, performans ayarlaması için gerekli olan trafik desenleri, arabellek doluluğu ve bağlantı durumu hakkında derin bilgiler sağlar.Mühendisler, güç, soğutma ve bağlantı noktası yapılandırmaları hakkında ayrıntılı

920-9B110-00FH-0D0 özellikleri için resmi 920-9B110-00FH-0D0 veri sayfasını incelemelidir.4. Dağıtım ve Ölçeklendirme Önerileri

Dağıtım,

920-9B110-00FH-0D0 uyumlu bileşen listesinin dikkatli bir analizi ile başlar. Tipik bir ölçeklendirme birimi, engelsiz bir yağ ağacı ile oluşturulmuş bir "pod"dur.Örnek: 512-GPU Küme Podu

Yaprak Katmanı:

• Her biri 16'ya kadar GPU sunucusunu (örneğin, 8x DGX A100 sistemleri) bağlayan, Top-of-Rack (ToR) olarak 920-9B110-00FH-0D0 yüksek kökünü kullanarak, birden fazla pod, özel omurga-omurga anahtarları kullanılarak veya yağ ağacı hiyerarşisini genişleterek birbirine bağlanabilir. Omurga Katmanı:
• Tüm yaprak anahtarlarını birbirine bağlayan, tam iki yönlü bant genişliği sağlayan 920-9B110-00FH-0D0 yüksek kökünü kullanarak, birden fazla pod, özel omurga-omurga anahtarları kullanılarak veya yağ ağacı hiyerarşisini genişleterek birbirine bağlanabilir. Kablolama:
• Tüm 200Gb/s anahtar ve sunucu bağlantıları için QSFP56 HDR kabloları (pasif veya aktif) kullanın.Bir Podun Ötesinde Ölçeklendirme:

920-9B110-00FH-0D0 yüksek kökünü kullanarak, birden fazla pod, özel omurga-omurga anahtarları kullanılarak veya yağ ağacı hiyerarşisini genişleterek birbirine bağlanabilir. 920-9B110-00FH-0D0 InfiniBand anahtar OPN genişleme sırasında parça birlikte çalışabilirliği için net bir yol haritası sağlar.5. Operasyonlar, İzleme, Sorun Giderme ve Optimizasyon

En yüksek kumaş performansını korumak için proaktif yönetim çok önemlidir. NVIDIA UFM®, önerilen merkezi yönetim platformudur.

Operasyon Alanı

6. Sonuç ve Değer Değerlendirmesi

Mellanox (NVIDIA) 920-9B110-00FH-0D0 tabanlı bir küme ara bağlantısı uygulamak, RDMA, HPC ve AI iş yükleri için geleceğe hazır, yüksek performanslı bir temel sağlar. Değer önerisi çok yönlüdür: iletişim yükünü en aza indirerek GPU kullanımını ve ROI'yi en üst düzeye çıkarır, ölçeklenebilir küme büyümesini sağlar ve entegre yönetim ve telemetri aracılığıyla işlemleri basitleştirir.

920-9B110-00FH-0D0 fiyatı premium bir yatırımı temsil ederken, İşletme Maliyeti (TCO), iş tamamlama süresindeki dramatik azalmalar, iyileştirilmiş araştırmacı verimliliği ve maliyetli kumaş yeniden tasarımlarından kaçınan verimli ölçeklendirme dikkate alındığında uygundur. 920-9B110-00FH-0D0 satılık değerlendiren kuruluşlar, bunu bir ağ gideri olarak değil, stratejik bir bilgi işlem hızlandırıcı olarak görmelidir. Bu teknik çözüm, hızlandırılmış bilgi işlem altyapılarının tüm potansiyelini ortaya çıkarmak için planı sağlar.