Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 InfiniBand Switch üretimde

Yapay zeka eğitimini ve HPC simülasyonlarını ölçeklendiren kuruluşlar ve araştırma kurumları sıklıkla ortak bir darboğazla karşı karşıyadır: Ağ kaynaklı gecikme ve GPU hesaplama döngülerini boşa harcayan tıkanıklık. Bu dağıtım vaka çalışması, orta ölçekli bir yapay zeka araştırma laboratuvarının küme performansını nasıl dönüştürdüğünü inceliyor.Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0InfiniBand anahtarı, zorlu paralel iş yükleri için deterministik, düşük gecikmeli yapıya ulaşıyor.

Arka Plan ve Zorluk: Ethernet Darboğaz Olduğunda

Laboratuvarın mevcut 100 Gb Ethernet yapısı, tamamen azaltma işlemleri sırasında sürekli olarak kuyruk gecikmesinde ani artışlar sergileyerek, büyük ölçekli eğitim işlerinde GPU boşta kalma sürelerinin %25'e kadar çıkmasına neden oldu. Eski anahtarları RDMA uyumlu tıkanıklık kontrolü ve ağ içi bilgi işlem yeteneklerinden yoksundu. Mimarların, genişleyen 400 Gb/s NDR omurgası için mikrosaniyenin altında gecikme süresi, kayıpsız aktarım ve kusursuz ölçeklenebilirlik sağlayabilecek bir çözüme ihtiyacı vardı. Birden fazla seçeneği değerlendirdikten sonra ekip,920-9B210-00FN-0D0yeni InfiniBand yapısının temel yapı taşı olarak.

Çözüm ve Dağıtım: Düşük Gecikmeli Yapay Zeka Yapısı Oluşturma

Dağıtımın merkezi920-9B210-00FN-0D0 MQM9790-NS2F 400 Gb/sn NDR32 GPU sunucusu için yaprak omurgası görevi gören anahtar. Temel dağıtım kararları şunları içeriyordu:

• Tam RDMA desteği:NVIDIA'nın tescilli aktarım katmanını kullanarak çekirdek atlama yükünü ortadan kaldırır.
• Uyarlanabilir yönlendirme:Sıcak noktalardan kaçınmak için trafiği birden fazla yol boyunca dinamik olarak dengelemek.
• SHARPv3 ağ içi toplama:Toplu işlemlerin ana bilgisayar CPU'larından anahtar veri düzlemine aktarılması.

Mühendisler referans verdi920-9B210-00FN-0D0 veri sayfasıVe920-9B210-00FN-0D0 özellikleriMevcut ConnectX-7 adaptörleriyle uyumluluğu doğrulamak için.920-9B210-00FN-0D0 uyumluekosistem, kablo değişikliği olmadan önceki omurga anahtarlarının anında değiştirilmesine izin verdi. Ek olarak,920-9B210-00FN-0D0 InfiniBand anahtarı OPN(parça numarası sipariş etme) basitleştirilmiş satın alma ve RMA iş akışları.

Sonuçlar ve Faydalar: HPC ve Yapay Zeka için Ölçülebilir Kazanımlar

Bölgeye göç ettikten sonraNVIDIA Mellanox 920-9B210-00FN-0D0Laboratuvar, 30 günlük değerlendirme süresi boyunca aşağıdaki gelişmeleri kaydetti:

Toplam sahip olma maliyetini değerlendiren BT yöneticileri için920-9B210-00FN-0D0 fiyatıküme boşta gücünde %40'lık bir azalma ve daha hızlı iş verimi ile dengelendi.920-9B210-00FN-0D0 satılıkyetkili distribütörler aracılığıyla kanal aynı zamanda uzun vadeli HPC altyapı planlaması için kritik olan 5 yıllık yaşam döngüsü desteği de sağladı.

Özet ve Görünüm: Yeni Nesil Yapay Zeka Kümeleri için Bir Taslak

Araştırma laboratuvarı artık standart hale geldi920-9B210-00FN-0D0 InfiniBand anahtar OPN çözümütüm yeni GPU genişletmeleri için. Ekip ileriye dönük olarak aynı anahtarlama platformunu kullanarak, engellemeyen mimarisinden ve tıkanıklık kontrolünden yararlanarak 32'den 256'ya kadar NDR bağlantı noktasını ölçeklendirmeyi planlıyor. Düşük gecikmeli RDMA yapıları tasarlayan mimarlar içinNVIDIA Mellanox 920-9B210-00FN-0D0Küçük yapay zeka prototipleme kümelerinden üst ölçekli HPC dağıtımlarına kadar ağdaki öngörülemezliği ortadan kaldıran, kanıtlanmış, üretime hazır bir temel sağlar.