Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 Teknik Beyaz Kitabı | Yüksek Güvenilirlikli Bağlantı ve Operasyon Optimizasyonu

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 Teknik Beyaz Kitabı | Veri Merkezi ve Kurumsal Ağlar için Yüksek Güvenilirlikli Bağlantı ve Operasyon Optimizasyonu

Bu beyaz kitap, modern veri merkezleri ve kurumsal ağlar için yüksek güvenilirlikli bağlantı ve operasyonel mükemmellik stratejisinin temel taşı olarak Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 ağ cihazına odaklanmaktadır. 980-9I45T-00H020, yapay zeka kümeleri, HPC ortamları ve kritik altyapılardaki en zorlu iş yüklerini işlemek üzere tasarlanmış yüksek performanslı bir ara bağlantı çözümüdür.

1. Arka Plan ve İş Gereksinimleri

Modern veri merkezleri, CPU merkezli mimarilerden GPU ve DPU odaklı tasarımlara geçiş yapmaktadır. Yapay zeka eğitimi, büyük veri analizi ve gerçek zamanlı işlem sistemleri bant genişliği, gecikme süresi ve paket kaybı oranları üzerinde aşırı talepler oluşturmaktadır. Eş zamanlı olarak, kurumsal ağlar çoklu site ara bağlantısı, çoklu bulut erişimi ve düzenleyici uyumluluk konularında zorluklarla karşı karşıya olup, geleneksel üç katmanlı ağ mimarilerini esnek iş ölçeklendirmesi için yetersiz kılmaktadır.

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020'nin tanıtılması aşağıdaki kritik sorun noktalarına çözüm sunmaktadır:

• Performans darboğazları: Mevcut 25G/40G ağları, 800G sınıfı GPU kümelerinin kuzey-güney trafik gereksinimlerini karşılayamamaktadır;
• Operasyonel karmaşıklık: Çok satıcılı ekipman, izole edilmiş izleme ve uzun onarım ortalama süresine (MTTR) yol açmaktadır;
• Güvenilirlik açıkları: Bağlantı hataları ve tıkanıklık olayları, önemli uygulama performansı düşüşlerine ve SLA ihlallerine neden olmaktadır.

Bu çözüm için temel başarı metrikleri arasında mikrosaniye altı gecikme süresi, tıkanıklık altında sıfır paket kaybı ve otomatik hata tespiti ve düzeltme yer almaktadır.

2. Genel Ağ Mimarisi Tasarımı

Önerilen mimari, deterministik düşük gecikme süresi ve devasa ölçeklenebilirlik yeteneği sağlayan iki katmanlı bir Clos tasarımı ile bir spine-leaf fabric topolojisini benimsemektedir. Leaf katmanında, %50 daha düşük operasyonel ek yük, 800G/400G OSFP portları aracılığıyla GPU sunucularına ve depolama düğümlerine bağlanır. Spine katmanında, yüksek yoğunluklu anahtarlar, blokajsız raf içi bağlantı sağlar.

Temel mimari prensipler şunları içerir:

• Sıfır kayıplı RDMA fabric: NVMe-oF ve GPUDirect Storage için kayıpsız taşıma sağlamak üzere RoCEv2 ve PFC/ECN akış kontrolünden yararlanma;
• Uyarlanabilir yönlendirme: Manuel müdahale olmadan tıkanık bağlantılardan kaçınarak gerçek zamanlı telemetriye dayalı dinamik yol seçimi;
• Çoklu kiracı izolasyonu: Donanım tabanlı VXLAN ve GENEVE katman desteği, karışık AI, HPC ve genel amaçlı iş yükleri için güvenli segmentasyona olanak tanır.

Mimari, 980-9I45T-00H020 veri merkezi yüksek hızlı ağ cihazının bilgi işlem/depolama bağlantısı için birincil kenar düğümü olarak hizmet vermesiyle, kumaş pod başına 2.048 adede kadar GPU düğümünü destekleyecek şekilde tasarlanmıştır.

3. Mellanox (NVIDIA Mellanox) 980-9I45T-00H020'nin Çözümdeki Rolü

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020, ana bilgisayar veriyolu (PCIe 6.0) ile fabric (InfiniBand veya Ethernet) arasında köprü kuran çok fonksiyonlu bir ağ bağdaştırıcısı/anahtar öğesidir. Temel teknik katkıları şunlardır:

• 800G hat hızı iletimi: Gelecek GPU nesilleri (örneğin, B100, X100) için yeterli boşluk sağlayarak XDR InfiniBand ve 800GbE'yi destekler;
• Ağ içi hesaplama boşaltma (SHARPv3): Toplama işlemlerini doğrudan ağ fabric'inde gerçekleştirerek MPI toplu iletişim süresini %30'a kadar azaltır;
• Donanım telemetrisi: Dahili tıkanıklık tespiti (örneğin, ECN işaretleme, akış hızı sınırlama), CPU yükü olmadan kuyruk dinamiklerine ayrıntılı görünürlük sağlar;
• Gelişmiş güvenlik: Donanım güven kökü, güvenli önyükleme ve satır içi IPSec/MACsec şifreleme, veri-içi aktarımı fiziksel katman saldırılarından korur.

Bir 980-9I45T-00H020 ağ ürünü çözümü olarak, mevcut Mellanox anahtarları ve NVIDIA DOCA yazılım yığını ile sorunsuz bir şekilde entegre olur, entegrasyon riskini azaltır ve üretime geçiş süresini hızlandırır.

4. Dağıtım ve Ölçeklendirme Önerileri

Tipik dağıtım senaryoları şunları içerir:

• Küçük ölçekli (64 adede kadar GPU): Düşük gecikmeli raf içi iletişim için doğrudan bağlı OSFP-OSFP DAC kabloları kullanarak, sunucu başına 1x 980-9I45T-00H020 ile iki raflı dağıtım;
• Büyük ölçekli (256+ GPU): Tam bisection bant genişliği sağlayan 800G yukarı bağlantıları aracılığıyla leaf anahtarlarını spine anahtarlarına toplayan 980-9I45T-00H020 cihazlarıyla çoklu pod mimarisi;
• Hibrit AI + depolama fabric: 980-9I45T-00H020, sermaye harcamalarını azaltmak için bilgi işlem ve depolama ağlarına aynı anda hizmet vermek üzere port bölme (2x 400G veya 8x 100G) ile yapılandırılabilir.

Topoloji çizimi (basitleştirilmiş):

Gelecekteki genişleme için mimari, spine katmanını yeniden tasarlamadan ek leaf blokları ekleyerek kullandıkça öde ölçeklendirmeyi destekler.

5. Operasyonel İzleme, Sorun Giderme ve Optimizasyon

980-9I45T-00H020, aşağıdaki konularda gerçek zamanlı görünürlük sağlamak için NVIDIA'nın telemetri yığını ile entegre olur:

• Mikro burst tespiti: Önleyici QoS ayarlamalarına olanak tanıyan, akış başına tampon doluluğunun donanım düzeyinde raporlanması;
• Bağlantı kalitesi izleme: Optik bağlantı bozulması için FEC (İleri Hata Düzeltme) sayaçları ve sinyal-gürültü oranı uyarıları;
• Ağ simülasyonu: Ne-olursa-analizi için trafik modellerini bir dijital ikiz ortamında yeniden oluşturmak üzere yerleşik telemetri verilerini kullanma.

Önerilen operasyonel en iyi uygulamalar:

• Normal yük altında gecikme süresi ve verimlilik için otomatik temel profiller ayarlayın ve sapmalar %10'u aştığında uyarıları tetikleyin;
• En son NVIDIA DOCA ve sürücü sürümleriyle uyumluluğu sağlamak için firmware sürümlerini düzenli olarak denetleyin;
• Belirli trafik karışımları (örneğin, all-reduce'a karşı all-to-all desenleri) için tampon eşiklerini kalibre etmek üzere 980-9I45T-00H020 özelliklerini980-9I45T-00H020 ağ ürünü980-9I45T-00H020 veri sayfasını kullanın;
• Ölçeklendirme yaparken, sinyal bütünlüğü sorunlarını önlemek için resmi uyumluluk matrisini kullanarak 980-9I45T-00H020 uyumlu optikleri ve kabloları doğrulayın.

6. Özet ve Değer Değerlendirmesi

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020, yüksek güvenilirlikli, operasyonel olarak verimli veri merkezi ağları oluşturmak için kanıtlanmış bir yol sunar. 800G verimliliği, ağ içi hesaplama ve ayrıntılı telemetri kombinasyonu, kuruluşların şunları başarmasını sağlar:

• Optimize edilmiş toplu iletişim yoluyla yapay zeka eğitim tamamlama süresinde %30-40 azalma
• ;Uyarlanabilir yönlendirme ve saniyenin altında hata devralma sayesinde
• bağlantı hataları sırasında sıfır kullanıcı etkisi;

Birleşik izleme ve otomatik düzeltme iş akışları aracılığıyla %50 daha düşük operasyonel ek yük. 980-9I45T-00H020 ağ ürünü kenar temeli olarak, işletmeler güvenilirliği, güvenliği ve toplam sahip olma maliyetini tam olarak kontrol altında tutarken, gelecek nesil yapay zeka iş yüklerini güvenle dağıtabilir. Ayrıntılı 980-9I45T-00H020 fiyatı