La importancia de la red en la era de la IA y las direcciones de innovación

Con la rápida expansión de la escala de los grandes modelos, la red se ha convertido en un elemento clave de la era de la IA. Este artículo explorará el origen de la demanda de red, la evolución de los protocolos de comunicación y las direcciones de innovación en el hardware de red.

Origen de la demanda de red

1. La diferencia entre el volumen del modelo y el límite de una sola tarjeta se amplía, lo que requiere una solución de agrupación de múltiples servidores para resolver el problema de entrenamiento.

2. La red se utiliza para sincronizar los parámetros del modelo entre las tarjetas gráficas, lo que plantea mayores requisitos para la densidad y la capacidad de la red.

3. El tiempo de entrenamiento está estrechamente relacionado con la velocidad de cálculo, y se mejora la potencia de cálculo mediante la expansión del número de dispositivos y la eficiencia paralela.

4. La sincronización de múltiples tarjetas requiere operaciones de alineación de parámetros frecuentes, lo que plantea mayores exigencias para la transmisión de datos en la red.

5. Las interrupciones en el entrenamiento pueden causar grandes pérdidas, y los costos de fallos en la red son elevados.

La evolución de los protocolos de comunicación

1. Protocolo de comunicación dentro del nodo: PCIe, NVLink, Infinity Fabric, etc., son barreras fundamentales para los fabricantes.

2. Protocolo de comunicación entre nodos: familia de protocolos InfiniBand y Ethernet RoCE, que soporta la funcionalidad RDMA.

3. La competencia entre el protocolo IB y el protocolo RoCE refleja la lucha por el poder de influencia entre los fabricantes de GPU.

4. La creación de la Alianza de Hyperledger está destinada a construir un protocolo de red abierto, flexible y de alto rendimiento.

Direcciones innovadoras en hardware de red

1. Medio de transmisión: competencia entre luz, cobre y silicio, a corto plazo los cables de cobre aún tienen ventaja, a largo plazo la tendencia de que la luz avance y el cobre retroceda sigue siendo la misma.

2. Innovación en módulos ópticos: tecnologías LPO/LRO, fotónica de silicio, y películas delgadas de niobato de litio, entre otras, reducen costos.

3. Conmutador: Surge el conmutador óptico, los chips de conmutación eléctrica continúan innovando.

4. Arquitectura de red: evolución de la arquitectura de hoja a nuevas arquitecturas como Dragonfly, Rail-only, etc.

5. Clúster de centros de datos: Explorar soluciones de interconexión de potencia informática entre centros de datos.

Sugerencias de inversión

1. Prestar atención a los elementos clave del sistema de comunicaciones: Zhongji Xuchuang, New Yi Sheng, Tianfu Communication, HuDian Co., etc.

2. Seguimiento de los segmentos de innovación: Yangtze Optical Fibre, Zhongtian Technology, Hengtong Optic-electric, Shengke Communication, etc.

3. Prestar atención a las oportunidades industriales que traen las nuevas tecnologías, como cables de cobre, fibra óptica especial, conmutadores nacionales, etc.