NVIDIA Ağ Adaptörü Çözümleri: RDMA/RoCE Düşük Gecikmeli İletim Optimizasyonu için Mimari Çerçeve

NVIDIA ağ adaptörü çözümü, donanımdan uygulama seviyesine veri iletimini optimize etmek için tasarlanmış çok katmanlı bir mimari kullanır. Bu entegre yaklaşım, çeşitli altyapı ortamlarında kesintisiz çalışmayı sağlarken, mümkün olan en düşük gecikmeyi ve en yüksek verimi korur.

NVIDIA ConnectX ağ adaptörleri, çözümün donanım omurgasını oluşturur ve şunları içerir:

• Çift portlu 100/200/400 GbE bağlantı seçenekleri
• Hem RoCE hem de InfiniBand'i destekleyen donanım tabanlı RDMA motorları
• Akıllı akış yönlendirme özellikli gelişmiş paket işleme hatları
• Maksimum bant genişliği için PCIe 4.0/5.0 ana bilgisayar arayüzleri

Uzaktan Doğrudan Bellek Erişimi (RDMA) uygulaması, geleneksel ağ darboğazlarını şunlarla ortadan kaldırır:

• İşletim sistemi çekirdeklerini atlayan sıfır kopyalı veri aktarımları
• Verilerin doğrudan uygulama bellek alanlarına yerleştirilmesi
• Ağ adaptörü donanımına aktarım katmanı boşaltma
• Uygulama iş yükleri için ana bilgisayar kaynaklarını serbest bırakan CPU atlama mekanizmaları

Yakınsak Ethernet Üzerinden RDMA (RoCE), standart Ethernet altyapısı üzerinde yüksek performanslı RDMA işlemleri sağlar ve şu özel optimizasyonları içerir:

• Katman 3 ağlarında yönlendirme için RoCE v2 desteği
• Akış kontrolü için Açık Tıkanıklık Bildirimi (ECN)
• Kayıpsız Ethernet için Öncelik Tabanlı Akış Kontrolü (PFC)
• Kararlı performans için Gelişmiş Tıkanıklık Kontrol algoritmaları

Yapay zeka iş yükleri için çözüm, özel bir mimari uygular:

• Ağ ve GPU belleği arasında doğrudan veri aktarımı için GPU-doğrudan RDMA
• Optimize edilmiş toplu işlemler için NCCL (NVIDIA Collective Communications Library) entegrasyonu
• Büyük ölçekli model eğitimi destekleyen çoklu ana bilgisayar adaptör yapılandırmaları
• Basitleştirilmiş küme işlemleri için otomatik kumaş yönetimi

Çözüm, NVMe-over-Fabrics uygulamaları aracılığıyla depolama iş yüklerine kadar uzanır:

• NVMe-of-TCP ve NVMe-of-RDMA hedef desteği
• Adaptör donanımına depolama protokolü işleme boşaltma
• Uçtan uca hizmet kalitesi uygulaması
• Şifreleme boşaltma dahil entegre güvenlik özellikleri

Çözüm, kapsamlı performans ayarlama yeteneklerini içerir:

• Optimal yol seçimi için uyarlanabilir yönlendirme algoritmaları
• İş yükü modellerine dayalı dinamik kesme dengeleme
• Trafik önceliklendirmesi için Hizmet Kalitesi (QoS) politikaları
• Performans analizi için kapsamlı izleme ve telemetri

Başarılı dağıtım, yapılandırılmış bir yaklaşımı izler:

• Değerlendirme Aşaması: Altyapı değerlendirmesi ve gereksinim analizi
• Tasarım Aşaması: Ağ mimarisi planlaması ve yapılandırma belirtimi
• Dağıtım Aşaması: Donanım kurulumu ve yazılım yapılandırması
• Optimizasyon Aşaması: Performans ayarlama ve doğrulama testi

NVIDIA ağ adaptörü çözümünü uygulayan kuruluşlar tipik olarak şunları elde eder:

• Dağıtılmış uygulamalar için ağ gecikmesinde %85-95 azalma
• Ağ işleme için CPU kullanımında %60-80 azalma
• Veri yoğun iş yükleri için uygulama veriminde 3-5 kat iyileşme
• Altyapı konsolidasyonu yoluyla toplam sahip olma maliyetinde önemli azalma

RDMA ve RoCE optimizasyonlu NVIDIA ağ adaptörü çözümü, veri merkezi ağ performansını dönüştürmek için eksiksiz bir mimari çerçeve sunar. Gelişmiş donanım yeteneklerini sofistike yazılım entegrasyonuyla birleştirerek, kuruluşlar en zorlu iş yükleri için benzeri görülmemiş verimlilik ve performans seviyelerine ulaşabilirler. Veri yoğun uygulamalar gelişmeye devam ettikçe, bu çözüm, standartlara dayalı uygulama yoluyla yatırım korumasını korurken, yeni nesil bilgi işlem gereksinimlerini desteklemek için gereken temel altyapıyı sağlar.