Seiring dengan cepatnya perluasan skala model besar, jaringan telah menjadi bagian kunci di era AI. Artikel ini akan membahas sumber permintaan jaringan, evolusi protokol komunikasi, dan arah inovasi perangkat keras jaringan.
Sumber Kebutuhan Jaringan
Perbedaan antara volume model dan batas atas kartu tunggal semakin besar, perlu menggunakan kluster beberapa server untuk menyelesaikan masalah pelatihan.
Jaringan digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut persyaratan lebih tinggi pada kepadatan dan kapasitas jaringan.
Waktu pelatihan sangat terkait dengan kecepatan perhitungan, meningkatkan daya komputasi dengan memperluas jumlah perangkat dan efisiensi paralel.
Sinkronisasi multi-kartu memerlukan operasi penyelarasan parameter yang sering, yang menuntut persyaratan lebih tinggi untuk transmisi jaringan.
Interupsi pelatihan dapat menyebabkan kerugian besar, biaya kerusakan jaringan sangat tinggi.
Evolusi Protokol Komunikasi
Protokol komunikasi dalam node: PCIe, NVLink, Infinity Fabric, dll., adalah penghalang utama bagi vendor.
Protokol komunikasi antar node: InfiniBand dan keluarga protokol Ethernet RoCE, mendukung fungsi RDMA.
Persaingan antara protokol IB dan protokol RoCE mencerminkan persaingan kekuasaan bicara antara produsen GPU.
Pembentukan Aliansi Super Ethereum bertujuan untuk menciptakan protokol jaringan yang terbuka, fleksibel, dan berkinerja tinggi.
Arah Inovasi Perangkat Keras Jaringan
Media transmisi: persaingan antara cahaya, tembaga, dan silikon, dalam jangka pendek tembaga masih memiliki keunggulan, tetapi dalam jangka panjang tren cahaya menggantikan tembaga tetap tidak berubah.
Inovasi modul cahaya: Teknologi LPO/LRO, silikon optik, dan lithium niobate film tipis mengurangi biaya.
Switch: Kebangkitan sakelar optik, inovasi terus berlanjut pada chip sakelar listrik.
Arsitektur Jaringan: Evolusi dari arsitektur Leaf-Spine ke arsitektur baru seperti Dragonfly, Rail-only, dll.
Kluster pusat data: Menjelajahi solusi interkoneksi daya komputasi antar pusat data.
Saran Investasi
Perhatikan inti sistem komunikasi: Zhongji Xuchuang, Xinyisheng, Tianfu Communication, Hudian Co., Ltd. dan lainnya.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
7 Suka
Hadiah
7
7
Bagikan
Komentar
0/400
gaslight_gasfeez
· 2jam yang lalu
AI puncak benar-benar sangat ketat.
Lihat AsliBalas0
LongTermDreamer
· 8jam yang lalu
Tunggu tiga tahun lagi, dapatkan keuntungan besar.
Lihat AsliBalas0
CoinBasedThinking
· 8jam yang lalu
Infrastruktur tidak dapat mengikuti, semuanya berantakan.
Lihat AsliBalas0
FloorPriceWatcher
· 8jam yang lalu
Bukankah itu hanya membakar uang untuk meningkatkan throughput?
Lihat AsliBalas0
MetaLord420
· 9jam yang lalu
Ah, kita harus mulai mendistribusikan lagi.
Lihat AsliBalas0
AirdropChaser
· 9jam yang lalu
Siapa yang masih mempertimbangkan investasi dengan model besar ini?
Lihat AsliBalas0
MetaverseVagrant
· 9jam yang lalu
Hah, jaringan tidak mendukung, jangan bicara tentang AI.
Peluang dan Tantangan Inovasi Jaringan di Era AI
Pentingnya Jaringan di Era AI dan Arah Inovasi
Seiring dengan cepatnya perluasan skala model besar, jaringan telah menjadi bagian kunci di era AI. Artikel ini akan membahas sumber permintaan jaringan, evolusi protokol komunikasi, dan arah inovasi perangkat keras jaringan.
Sumber Kebutuhan Jaringan
Perbedaan antara volume model dan batas atas kartu tunggal semakin besar, perlu menggunakan kluster beberapa server untuk menyelesaikan masalah pelatihan.
Jaringan digunakan untuk menyinkronkan parameter model antar kartu grafis, yang menuntut persyaratan lebih tinggi pada kepadatan dan kapasitas jaringan.
Waktu pelatihan sangat terkait dengan kecepatan perhitungan, meningkatkan daya komputasi dengan memperluas jumlah perangkat dan efisiensi paralel.
Sinkronisasi multi-kartu memerlukan operasi penyelarasan parameter yang sering, yang menuntut persyaratan lebih tinggi untuk transmisi jaringan.
Interupsi pelatihan dapat menyebabkan kerugian besar, biaya kerusakan jaringan sangat tinggi.
Evolusi Protokol Komunikasi
Protokol komunikasi dalam node: PCIe, NVLink, Infinity Fabric, dll., adalah penghalang utama bagi vendor.
Protokol komunikasi antar node: InfiniBand dan keluarga protokol Ethernet RoCE, mendukung fungsi RDMA.
Persaingan antara protokol IB dan protokol RoCE mencerminkan persaingan kekuasaan bicara antara produsen GPU.
Pembentukan Aliansi Super Ethereum bertujuan untuk menciptakan protokol jaringan yang terbuka, fleksibel, dan berkinerja tinggi.
Arah Inovasi Perangkat Keras Jaringan
Media transmisi: persaingan antara cahaya, tembaga, dan silikon, dalam jangka pendek tembaga masih memiliki keunggulan, tetapi dalam jangka panjang tren cahaya menggantikan tembaga tetap tidak berubah.
Inovasi modul cahaya: Teknologi LPO/LRO, silikon optik, dan lithium niobate film tipis mengurangi biaya.
Switch: Kebangkitan sakelar optik, inovasi terus berlanjut pada chip sakelar listrik.
Arsitektur Jaringan: Evolusi dari arsitektur Leaf-Spine ke arsitektur baru seperti Dragonfly, Rail-only, dll.
Kluster pusat data: Menjelajahi solusi interkoneksi daya komputasi antar pusat data.
Saran Investasi
Perhatikan inti sistem komunikasi: Zhongji Xuchuang, Xinyisheng, Tianfu Communication, Hudian Co., Ltd. dan lainnya.
Melacak inovasi: Yangtze Optical Fiber, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication, dll.
Memperhatikan peluang industri yang dibawa oleh teknologi baru, seperti kabel tembaga, serat optik khusus, dan switch domestik.