NVIDIA Mellanox MCX631432AN-ADAB Sunucu Adaptörü Teknik Çözüm: RDMA/RoCE Düşük Gecikmeli Aktarım ve Sunucu

NVIDIA Mellanox MCX631432AN-ADAB Sunucu Adaptörü Teknik Çözüm: RDMA/RoCE Düşük Gecikme Taşıma ve Sunucu Verimliliği Artırma Mimarlığı

1Proje Arkaplanı ve Gereksinimleri Analizi

Yapay zeka, yüksek performanslı bilgisayarlama ve dağıtılmış depolama iş yükleri giderek yaygınlaştıkça, veri merkezi ağları benzeri görülmemiş performans zorluklarıyla karşı karşıya kalıyor.Geleneksel TCP/IP ağ protokol yığını büyük ölçekli dağıtılmış iletişimi ele alırken yapısal eksiklikler gösterir., öngörülemeyen gecikme ve optimum olmayan bant genişliği kullanımı.Her 1 milisaniyelik ağ gecikmesi, genel eğitim verimliliğini %10~15 azaltabilir..

Tipik işletme gereksinimleri şunlardır:

• Mikrosaniye ölçeğinde iletişim gecikmesi:Dağıtılmış eğitim ve gerçek zamanlı çıkarım senaryoları, 1 milisaniyenin altındaki düğümlerarası iletişim gecikmesini gerektirir ve titre 100 mikrosaniye içinde kontrol edilir.
• CPU hesaplama yükü:Ağ protokolü işleme, hesaplama ve veri öncesi işleme kapasitesi için CPU kaynaklarının% 10'undan daha azını tüketmelidir.
• Doğrusal bant genişliği ölçeklenebilirliği:Klüsterler onlardan yüzlere kadar düğümlere kadar ölçeklendikçe, ağ bant genişliği bir kısıtlama olmamalıdır ve 25GbE'den 100GbE'ye doğru pürüzsüz bir evrimi destekler.
• Kayıpsız ağ garantisi:RoCE, paket kaybına karşı son derece hassastır ve uygun şekilde yapılandırılmış PFC ve ECN mekanizmaları ile uçtan uca kayıpsız bir Ethernet ortamı gerektirir.

BuNVIDIA Mellanox MCX631432AN-ADABBu gereksinimleri ConnectX-6 Lx mimarisi ile karşılıyor ve kapsamlı boşaltma yetenekleriyle donanım hızlandırılmış RDMA sunuyor.

2Genel Ağ/Sistem Mimarlığı Tasarımı

Önerilen mimari, özellikle RoCE taşımacılığı için optimize edilmiş bir yaprak omurilik topolojisini kullanmaktadır.MCX631432AN-ADAB Ethernet adaptör kart çözümü, iki portlu 25GbE bağlantısı sağlamak için her sunucu düğümünde yerleştirilmiştir.

Mimarlık katmanları:

• Hesaplama/Bellekleme Düğümleri:Her sunucu birMCX631432AN-ADAB ConnectX-6 Lx çift portlu 25GbE SFP28Adaptörün PCIe 4 özelliği, yüksek kullanılabilirlik ve yük dengeleme için kullanılan her iki portla aktif-aktif modunda yapılandırılmıştır.0 x8 arayüzü, ana otobüsün bir işlem boğazı olmamasını sağlar.
• Yaprak katmanı:NVIDIA Spectrum-3 anahtarları, RoCE bilinçli tıkanıklık kontrolü (PFC / ECN) ve gelişmiş tampon yönetimi ile düşük gecikme, kayıpsız Ethernet yönlendirmesini sağlar.
• Omurilik katmanı:Yüksek kapasiteli omurilik anahtarları, 100GbE yukarı bağlantıları aracılığıyla yaprak düğümlerini birbirine bağlar ve tüm kumaş boyunca engellemeyen performans sağlar.
• Yönetim Planı:Bant dışı yönetim ağı, NVIDIA DOCA ve MLNX-OS aracılığıyla telemetri toplamasını, yapılandırma orkestrasyonunu ve sağlık izlemesini sağlar.

Tasarım, mikro segmentasyon ve trafik izolasyonu için donanım tabanlı vSwitch offload'u içerir ve kiracı trafiğinin herhangi bir performans bozulması olmadan izole edilmesini sağlar.

3Çözümde NVIDIA Mellanox MCX631432AN-ADAB'ın Rolü ve Anahtar Özellikleri

Her sunucu için temel ağ arayüzü olarak,NVIDIA Mellanox MCX631432AN-ADABGenel mimarinin performans ve verimlilik hedeflerini gerçekleştirmede kilit bir rol oynar.

Buna göreMCX631432AN-ADAB veri sayfası, adaptör ayrıca, hattaki IPsec ve MACsec şifreleme motorlarını da içermektedir.MCX631432AN-ADAB özellikleriGelişmiş telemetri yeteneklerinin desteğini teyit edin. Bu özellikler proaktif ağ operasyonları için gerekli olan akış başına sayıcılar, gecikme histogramları ve tıkanıklık tespit ölçümleri de dahil olmak üzere.

4. Uygulama ve ölçeklendirme önerileri (Tipik Topoloji ile)

Üretimi planlayan kuruluşlar içinNVIDIA Mellanox MCX631432AN-ADAB, aşağıdaki aşamalı yaklaşım önerilir:

Aşama 1 pilot dağıtım (4-8 düğüm):RoCE yapılandırmasını doğrulamak, PFC/ECN parametrelerini ince ayarlamak ve uygulama performansını karşılaştırmak için küçük bir kümeden başlayın.MCX631432AN-ADAB Ethernet adaptör kartıEn iyi uyumluluğu ve performansı sağlamak için en son Mellanox OFED sürücüleri ve firmware ile yüklenmelidir.

2. aşama: Pod genişlemesi (20-50 düğüm):Kayıpsız Ethernet yapılandırması ile bir çift yaprak anahtarı yerleştirerek tam bir raf veya pod'a ölçeklendirin.Donanım tabanlı tıkanıklık yönetimini etkinleştirin ve onaylanmış en iyi uygulamalara göre DCB (Data Center Bridging) parametrelerini yapılandırınBu aşamada,MCX631432AN-ADAB uyumluÇözümün doğası mevcut yönetim araçlarıyla entegrasyonu kolaylaştırır.

Aşama 3 ¢ Fabric-Wide Rollout (100+ düğüm):Yaprak düğümlerini birbirine bağlayan omurilik anahtarları ile birden fazla raf arasında dağıtmak.ve NVIDIA Unified Fabric Manager'ı orkestrasyon ve otomatik sağlama için kullanın..

Tipik Topoloji Açıklaması:Standart bir raf konfigürasyonu, her biri bir tane ile donatılmış 20 hesaplama/story sunucusundan oluşur.MCX631432AN-ADAB ConnectX-6 Lx çift portlu 25GbE SFP28. Port 1 Leaf Switch A'ya bağlanır, Port 2 Leaf Switch B'ye bağlanır, yedek aktif-aktif yollar sağlar.Bu topoloji, tek bir bağlantı veya anahtar arızasının uygulama kullanılabilirliğini etkilememesini sağlarAdaptörün donanım hata geçiş mekanizmaları saniyenin altındaki kurtarma sağlarken.

5İşlemler, İzleme, Sorun Çözme ve Optimizasyon

RoCE tabanlı bir ağın etkili çalışması, uzmanlaştırılmış izleme ve sorun giderme uygulamalarını gerektirir.MCX631432AN-ADABBu faaliyetleri desteklemek için kapsamlı yerleşik enstrümanlama sağlar:

• Telemetri Koleksiyonu:Adaptörün donanım sayaçlarını, akış başına çıkış, kuyruğun derinliği, paket düşmeleri ve gecikme dağılımını saniyenin altındaki inceliklerde izlemek için kullanın.Bu veriler merkezi izleme panolarına (e.g., Grafana, Prometheus) gerçek zamanlı görünürlük için.
• Trafik sıkışıklığı tespiti ve analizi:PFC duraklama çerçevelerini, ECN ile işaretlenmiş paketleri ve mikro patlamaları ve trafik sıcak noktalarını tanımlamak için tampon işgalini izleyin.MCX631432AN-ADAB veri sayfasıBu sayaçların yorumlanması ve uyarı eşiğinin belirlenmesi konusunda ayrıntılı rehberlik sağlar.
• Firmware ve sürücü yaşam döngüsü yönetimi:Performans, güvenlik ve özellik geliştirmeleri için NVIDIA OFED sürücü yığını ve adaptör yazılımının düzenli güncellemeleri gereklidir.Büyük filolarda sıfır temas yaşam döngüsü yönetimi.
• Performans ayarlama yönergeleri:Ana ayar parametreleri arasında PFC tampon sınırları, ECN işaretleme sınırları (genellikle kuyruğun derinliğinin 80-90%) bulunur.ve adaptör kesinti moderasyon ayarları iş yükü profillerine dayalı olarak optimum gecikme ve performans dengelemek için.
• Sorun giderme çerçevesi:Çoğu performans sorunu, DCB yanlış yapılandırmaları, MTU uyumsuzlukları veya uyumsuz sürücü sürümleri ile izlenebilir.ve mlxlink) operasyonel durumla ilgili kapsamlı bir görünürlük sağlar, bağlantı sağlığı ve hata istatistikleri.

Toplam mülkiyet maliyetini değerlendiren kuruluşlar için,MCX631432AN-ADAB fiyatıBirçok işletme, CPU tasarruflarının yanı sıra (genellikle sunucu başına 2-3 çekirdek geri alınır) ve işlem verimi kazanımlarının da göz önünde bulundurulması gerekir.MCX631432AN-ADAB satılıkNVIDIA Spektrum anahtarları ile paketler, yeşil alan dağıtımları için en uygun maliyetli yolu sunar.

6Özet ve Değer Değerlendirme

BuNVIDIA Mellanox MCX631432AN-ADABÜç boyutta ölçülebilir iş değeri sağlayan stratejik bir altyapı yatırımını temsil eder:

Sonundan sonuna kadarMCX631432AN-ADAB Ethernet adaptör kart çözümü, kuruluşların modern AI, HPC ve dağıtılmış depolama uygulamalarının potansiyelini tam olarak gerçekleştiren kayıpsız, yüksek performanslı ağlar oluşturmalarını sağlar.Kurumsal veri merkezlerinde kullanılıp kullanılmadığı, bulut hizmet sağlayıcı ortamları veya araştırma tesisleri,MCX631432AN-ADABBir sonraki nesil iş yükleri için altyapı mimarlarının talep ettiği düşük gecikme, yüksek işlem ve operasyonel basitliği tutarlı bir şekilde sunar.