Важность и направления инноваций в сети в эпоху ИИ

С ростом масштаба больших моделей сеть стала ключевым элементом эпохи ИИ. В этой статье будут исследованы источники сетевого спроса, эволюция коммуникационных протоколов и направления инноваций в сетевом оборудовании.

Источник сетевых требований

1. Разница между объемом модели и лимитом на одну карту увеличивается, необходимо решение проблемы обучения с помощью многосерверного кластера.

2. Сеть используется для синхронизации параметров модели между видеокартами, что предъявляет более высокие требования к плотности и ёмкости сети.

3. Время тренировки тесно связано со скоростью вычислений, и увеличение количества устройств и параллельной эффективности может повысить вычислительную мощность.

4. Многокарточная синхронизация требует частых операций согласования параметров, что предъявляет более высокие требования к сетевой передаче.

5. Прерывание обучения может привести к огромным потерям, а стоимость сетевых сбоев высока.

Эволюция коммуникационных протоколов

1. Протоколы внутренней связи узлов: PCIe, NVLink, Infinity Fabric и т.д., являются ключевыми барьерами для производителей.

2. Протоколы связи между узлами: InfiniBand и семейство протоколов Ethernet RoCE, поддерживающие функцию RDMA.

3. Конкуренция между протоколом IB и протоколом RoCE отражает борьбу за влияние среди производителей GPU.

4. Создание Альянса Hyper Ethernet направлено на разработку открытого, гибкого и высокопроизводительного сетевого протокола.

Направления инноваций в сетевом оборудовании

1. Средства передачи: конкуренция между светом, медью и кремнием, в краткосрочной перспективе медные провода все еще имеют преимущество, в долгосрочной перспективе тренд свет вперед, медь назад остается неизменным.

2. Инновации в оптических модулях: технологии LPO/LRO, кремниевый свет, тонкие пленки ниобата лития и другие технологии снижают затраты.

3. Коммутатор: возникновение оптических коммутаторов, постоянные инновации в чипах электрических коммутаторов.

4. Сетевая архитектура: эволюция от архитектуры Leaf-Ridge к новым архитектурам, таким как Dragonfly, Rail-only и т.д.

5. Кластер центров обработки данных: исследование решений по взаимосвязанности вычислительных мощностей между центрами обработки данных.

Инвестиционные рекомендации

1. Обратите внимание на ключевые элементы системы связи: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Huadian Co. и др.

2. Отслеживание инновационных ссылок: YOFC, Zhongtian Technology, Hengtong Optoelectronics, Centec Communications и т. Д.

3. Обратите внимание на возможности, связанные с новыми технологиями, такими как медные кабели, специальные оптоволоконные кабели, отечественные коммутаторы и т.д.