Importance et directions d'innovation du réseau à l'ère de l'IA

Avec l'expansion rapide de l'échelle des grands modèles, le réseau est devenu un maillon clé de l'ère de l'IA. Cet article explorera les sources de la demande en réseau, l'évolution des protocoles de communication et les directions innovantes du matériel réseau.

Sources de la demande réseau

1. L'écart entre le volume du modèle et la limite par carte individuelle s'élargit, nécessitant un cluster de serveurs multiples pour résoudre les problèmes d'entraînement.

2. Le réseau est utilisé pour synchroniser les paramètres du modèle entre les cartes graphiques, ce qui impose des exigences plus élevées en termes de densité et de capacité du réseau.

3. Le temps d'entraînement est étroitement lié au taux de calcul, et la puissance de calcul peut être augmentée en élargissant le nombre d'appareils et l'efficacité parallèle.

4. La synchronisation multi-cartes nécessite des opérations d'alignement de paramètres fréquentes, ce qui impose des exigences plus élevées en matière de transmission réseau.

5. Les interruptions d'entraînement peuvent causer d'énormes pertes, le coût des pannes de réseau est élevé.

L'évolution des protocoles de communication

1. Protocoles de communication interne des nœuds : PCIe, NVLink, Infinity Fabric, etc., sont des barrières fondamentales pour les fournisseurs.

2. Protocole de communication entre nœuds : Famille de protocoles InfiniBand et RoCE Ethernet, supportant la fonction RDMA.

3. La concurrence entre le protocole IB et le protocole RoCE reflète la lutte pour le pouvoir de parole des fabricants de GPU.

4. La création de l'Alliance Hyper Ethernet vise à établir un protocole de réseau ouvert, flexible et haute performance.

Directions innovantes dans le matériel réseau

1. Médium de transmission : la concurrence entre la lumière, le cuivre et le silicium, à court terme, le fil de cuivre a encore un avantage, à long terme, la tendance est à la lumière avançant et le cuivre reculent.

2. Innovation des modules optiques : LPO/LRO, silicium photonique, films minces de niobate de lithium et autres technologies réduisant les coûts.

3. Commutateur : l'essor des commutateurs optiques, l'innovation continue des puces de commutateurs électriques.

4. Architecture réseau : Évolution de l'architecture en feuilles vers de nouvelles architectures comme Dragonfly et Rail-only.

5. Cluster de centres de données : explorer les solutions d'interconnexion de la puissance de calcul entre les centres de données.

Conseils d'investissement

1. Suivre les éléments clés du système de communication : Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Huadian Co., Ltd., etc.

2. Suivre les maillons d'innovation : Yangtze Optical Fibre, Zhongtian Technology, Hengtong Optic-Electric, Shengke Communication, etc.

3. Suivez les opportunités industrielles offertes par les nouvelles technologies, telles que les câbles en cuivre, les fibres optiques spéciales, les commutateurs nationaux, etc.