NVIDIA Mellanox 920-9B210-00FN-0D0 Duyuruldu: 400Gb/s NDR ile Ultra Ölçekli Yapay Zeka Ağı Temelini Yeniden Tanımlıyor

NVIDIA Mellanox 920-9B210-00FN-0D0 Açıklandı: 400Gb/s NDR ile Ultra-Scale AI Network Foundation'ı Yeniden Tanımlamak

Büyük dil modelleri, yüz milyarlardan trilyonlarca parametreye kadar ölçeklendikçe,Geleneksel 200Gb/s HDR ağları yoğun toplu iletişim senaryolarında sınırlamalarını gösteriyor.NVIDIA, resmi olarak GPU kullanımının ağ tıkanıklığı nedeniyle düştüğünü açıkladı.NVIDIA Mellanox 920-9B210-00FN-0D0, en zorlu AI ve HPC iş yükleri için gerekli bant genişliği, yoğunluk ve ağ içi istihbaratı sunmak için tasarlanmış 400Gb / s NDR InfiniBand anahtarı.

Zorluk: HDR Engelli Olduğunda

GPU kümelerini 2.000 düğümün ötesine ölçeklendiren kuruluşlar için, 200Gb/s HDR'nin sınırlamaları giderek daha belirgin hale geliyor.Dağıtılmış eğitim için temel olan all-reduce ve all-to-all işlemleri sırasında ağ tıkanıklığı, GPU kullanımını %85'ten %50'nin altına düşürür., bilgisayar yatırımında milyonlarca dolar harcamak.Ağ mimarları, binlerce uç noktasında kayıpsız performansı korurken deterministik mikrosaniye altındaki gecikme süresi sunmanın ikili zorluğuyla karşı karşıyadır..

Bu920-9B210-00FN-0D0 InfiniBand anahtarı OPN(Ordering Part Number) 400Gb/s NDR performansını 64 portlu bir OSFP platformuna getirerek bu zorlukları karşılamaktadır.En zorlu AI eğitim ortamlarında bile ağdan kaynaklanan durakları ortadan kaldırmak için gereken baş alanı ve istihbarat sağlama.

Temel Teknik Özellikler

Yaygın olarak kabul edilen MQM9790-NS2F ile aynı silikon üzerine inşa edilmiş olan920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRplatform, eksascale sınıfı dağıtımlar için tasarlanmış kapsamlı bir özellik seti sunar.920-9B210-00FN-0D0 veri sayfasıDeğiştirme:

• 64 port 400Gb/s NDR:Her bir OSFP portu, ileri hata düzeltmesi (FEC) ile iki yönlü 400Gb / s'yi destekler ve toplam 51.2 Tb / s devre değiştirme kapasitesi sağlar.
• Ultra düşük gecikme:100ns altındaki kesme gecikmesi,920-9B210-00FN-0D0 özellikleri, RDMA ve MPI operasyonları için asgari genel masrafları sağlar.
• Entegre SHARPv3:Toplu işlemleri (her şeyi azaltmak, her şeyi herkese, yayın) doğrudan anahtar dokusuna yükler, büyük ölçekli işler için iletişim gecikmesini %40'a kadar azaltır.
• Uyumlu yönlendirme ve tıkanıklık kontrolü:Hotspot'lardan kaçınmak için trafiği dinamik olarak yönlendirir ve düşmanca trafik kalıplarında bile öngörülebilir performans sağlar.
• Gelişmiş telemetri:Akış başına ve liman başına sayaçlar, tampon işlenme izlemesi ile birlikte, proaktif yönetim için derin görünürlük sağlar.

Bu920-9B210-00FN-0D0 uyumluEkosistem, mevcut HDR veya yeşil alan NDR ortamlarına sorunsuz entegrasyon sağlayan geniş bir yelpazede NVIDIA sertifikalı OSFP kabloları, optik alıcılar ve yazılım araçlarını içerir.Bir sonraki nesil altyapısını planlayan kuruluşlar için, anahtar, karışık HDR/NDR kumaşlarını destekler ve üretim iş yüklerini bozmadan aşamalı yükseltmeleri sağlar.

Gerçek Dünyadaki Görev Gereksinimlerini Karşılamak

Yeni AI eğitim kümeleri tasarlayan veya mevcut HDR kumaşlarını yükselten ağ mimarları için,920-9B210-00FN-0D0 InfiniBand anahtarı OPN çözümü64 port yoğunluğu, bir anahtar başına 64 çift portlu sunucuya kadar üst rak dağıtımlarını sağlar.40 portlu alternatiflere kıyasla gereken anahtar ve kablo sayısını azaltmakYaprak omurilik topolojilerinde, bu daha az omurilik katmanına, daha düşük gecikmeye ve sahip olma toplam maliyetinin azalmasına yol açar.

Değiştirme ayrıca NVIDIA'nın InfiniBand portföyünün sağlam yönetim yeteneklerini miras alır.Otomatik olarak sağlama, ve üretim iş yüklerini etkilemeden önce anormallikleri proaktif olarak tespit eder.Görev kritik uygulamaları için %999 kullanılabilirlik.

Değerlendirirken920-9B210-00FN-0D0 fiyatıve toplam sahip olma maliyeti, bu değişim büyük ölçekli dağıtımlar için ikna edici bir ekonomi sunuyor.Port başına maliyet ve GPU başına ağ maliyeti, büyük bir kümede amortize edildiğinde önemli ölçüde daha düşüktür., NDR'yi, exa ölçekli projeler için giderek daha uygun maliyetli bir seçenek haline getirir.920-9B210-00FN-0D0 satılıkNVIDIA'nın kanal ortakları aracılığıyla mevcuttur ve ilk müşteri gönderileri zaten devam etmektedir.

Özet: Yeni Nesil Yapay Zeka için NDR Vakfı

BuNVIDIA Mellanox 920-9B210-00FN-0D0Yeni nesil AI ve HPC kümeleri için gerekli bant genişliği, yoğunluk ve istihbaratı sağlayarak yüksek performanslı ağlardaki önemli bir adımdır.400Gb/s NDR hızı ile 64 port OSFP yoğunluğu ve SHARPv3 ağ içi bilgisayar işlemini birleştirerek, bu anahtar mimarların, en zorlu trilyonlarca parametre iş yüküyle ayak uydurabilecek ölçeklenebilir, belirleyici kumaşlar inşa etmelerini sağlar.

Bir sonraki nesil altyapısını planlayan kuruluşlar için, 920-9B210-00FN-0D0 açık,Yüksek performanslı ilerleme yolu, yeşil alan kullanımı olarak veya mevcut HDR kumaşlarından stratejik bir yükseltme olarakGüçlü özellik seti, kurumsal düzeyde yönetilebilirliği ve daha geniş NVIDIA ekosistemiyle kesintisiz uyumluluğu ile bu anahtar, eksascale sınıfı ağların temel taşı haline gelmeye hazır..