Teknologi CAST dari Broadcom terbukti mengurangi kemacetan jaringan pada klaster GPU AMD MI300X
Hsinchu, Taiwan – 6 Januari 2026 — Edgecore Networks, penyedia solusi jaringan terbuka (open networking) terkemuka, mengumumkan hasil studi performa bersama dengan mitra teknologi strategisnya. Studi ini menguji teknologi Congestion Aware Sprayed Traffic (CAST) dari Broadcom yang dijalankan pada switch Edgecore AIS800-64O 800G, digunakan dalam klaster GPU AMD MI300X, serta dampaknya terhadap beban kerja komunikasi kolektif pada lingkungan Artificial Intelligence (AI) dan High Performance Computing (HPC).
Mengapa Jaringan Sangat Penting untuk AI?
Dalam sistem AI modern, terutama untuk pelatihan model besar dan komputasi paralel, banyak GPU harus terus bertukar data dalam jumlah besar dan sangat cepat. Jika jaringan mengalami kemacetan (congestion), maka performa AI akan turun drastis—GPU mahal menjadi menunggu, bukan bekerja.
Masalah utama bukan hanya kecepatan link, tetapi bagaimana lalu lintas data dibagi dan diarahkan di dalam jaringan.
Apa Itu Teknologi CAST dari Broadcom?
CAST (Congestion Aware Sprayed Traffic) adalah teknologi pintar yang mengatur lalu lintas jaringan dengan cara yang lebih cerdas dibanding metode load balancing tradisional.
Alih-alih membagi trafik secara statis, CAST:
-
Memantau kondisi jaringan secara real-time
-
Mengukur Round-Trip Time (RTT) atau waktu bolak-balik data
-
Mengarahkan data ke jalur yang paling lancar dan tidak macet
Dengan pendekatan ini, data tidak menumpuk di satu jalur saja, sehingga kemacetan dapat dikurangi secara signifikan.
Fokus Pengujian: Operasi Komunikasi Kolektif
Studi ini berfokus pada empat jenis operasi komunikasi kolektif yang sangat umum digunakan dalam AI dan HPC, khususnya saat banyak GPU bekerja bersama:
-
All-Reduce – menggabungkan data dari semua GPU dan membagikannya kembali
-
All-Gather – setiap GPU mengumpulkan data dari GPU lain
-
Reduce-Scatter – kombinasi pengurangan data dan pembagian hasil
-
All-To-All – setiap GPU bertukar data dengan semua GPU lain
Operasi-operasi ini sangat sensitif terhadap performa jaringan. Sedikit kemacetan saja bisa berdampak besar pada waktu pelatihan AI.
Tiga Skenario Jaringan yang Diuji
Pengujian dilakukan dalam tiga konfigurasi jaringan berbeda:
-
Oversubscribed (2:1)
Kapasitas trafik lebih besar dari kapasitas jaringan -
Non-blocking (1:1)
Kapasitas jaringan seimbang -
Undersubscribed (1:2)
Kapasitas jaringan lebih besar dari kebutuhan trafik
Hasilnya, CAST memberikan peningkatan performa di semua skenario, yaitu:
-
Oversubscription (2:1): hingga 26,7% lebih cepat
-
Non-blocking (1:1): hingga 35,6% lebih cepat
-
Undersubscription (1:2): hingga 29,8% lebih cepat
Ini menunjukkan bahwa CAST bukan hanya efektif di kondisi ideal, tetapi juga di kondisi jaringan yang padat.
Peran Edgecore dalam Studi Ini
Edgecore Networks berkontribusi melalui keahliannya dalam:
-
Open networking
-
Jaringan Ethernet berkecepatan tinggi
-
Lingkungan RDMA multi-rail (teknologi komunikasi latensi rendah)
Selain itu, studi ini menggunakan solusi telemetri dan monitoring SONiC & Broadcom Thor 2 NIC, yang memberikan visibilitas jaringan secara mendalam, termasuk:
-
Konfigurasi jaringan
-
Tingkat pemakaian
-
Suhu perangkat
-
Status kontrol kemacetan seperti PFC dan DCQCN
Dengan observabilitas ini, performa jaringan dapat diukur secara akurat dan real-time.
Pandangan dari Broadcom dan Edgecore
Menurut Karen Schramm, VP Architecture di Broadcom:
“Mengatasi kemacetan jaringan adalah hal yang sangat penting untuk jaringan AI. Dengan teknologi CAST, solusi Edgecore mampu membatasi kemacetan dan meningkatkan performa aplikasi AI, sekaligus tetap kompatibel dengan standar RoCEv2.”
Sementara itu, Nanda Ravindran, VP PLM Edgecore Networks, menyatakan:
“Seiring pesatnya pertumbuhan beban kerja AI, performa dan kepastian jaringan menjadi semakin krusial. Integrasi CAST dengan Enterprise SONiC pada solusi jaringan 800G Edgecore memberikan cara efektif untuk mengurangi kemacetan tanpa mengorbankan kompatibilitas.”
Dampak Bisnis dan Teknologi
Kolaborasi ini menunjukkan bahwa:
-
Open networking dapat memberikan performa tinggi
-
Optimalisasi jaringan tidak harus mengorbankan standar terbuka
-
Observabilitas dan optimasi sistem secara menyeluruh sangat penting untuk AI skala besar
Bagi perusahaan yang membangun AI data center, hasil ini membuktikan bahwa jaringan yang dirancang dengan baik dapat meningkatkan efisiensi GPU secara nyata—tanpa harus mengganti seluruh arsitektur.
Tentang Edgecore Networks
Edgecore Networks adalah anak perusahaan dari Accton Technology Corporation, salah satu produsen perangkat jaringan terbesar di dunia. Edgecore menyediakan solusi jaringan kabel dan nirkabel untuk berbagai segmen, termasuk AI/ML, data center cloud, service provider, enterprise, dan SMB.
Edgecore dikenal sebagai pemimpin di bidang open networking, dengan portofolio lengkap mulai dari WiFi, router, hingga switch data center berkecepatan 1G hingga 800G, yang mendukung sistem operasi jaringan komersial maupun open-source seperti SONiC.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan edgecore indonesia, merupakan bagian dari PT. iLogo Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
Hubungi kami sekarang atau kunjungi edgecore.ilogoindonesia.id untuk informasi lebih lanjut!