الكأس المقدس للذكاء الاصطناعي في العملات الرقمية: استكشاف الحدود للتدريب اللامركزي

في سلسلة القيمة الكاملة لـ AI، تعتبر عملية تدريب النماذج هي المرحلة الأكثر استهلاكاً للموارد والأعلى من حيث عتبة التكنولوجيا، حيث تحدد مباشرة الحد الأقصى لقدرات النموذج وتأثيره الفعلي في التطبيقات. بالمقارنة مع الاستدعاءات الخفيفة في مرحلة الاستدلال، تتطلب عملية التدريب استثماراً مستمراً كبيراً في القوة الحاسوبية، وعمليات معالجة بيانات معقدة، ودعم خوارزميات تحسين عالية الكثافة، مما يجعلها "صناعة ثقيلة" حقيقية في بناء أنظمة الذكاء الاصطناعي. من حيث نماذج البنية، يمكن تقسيم أساليب التدريب إلى أربع فئات: التدريب المركزي، التدريب الموزع، التعلم الفيدرالي، والتدريب اللامركزي الذي سيتم مناقشته في هذه المقالة.

التدريب المركزي هو الطريقة التقليدية الأكثر شيوعًا، حيث يتم تنفيذ جميع عمليات التدريب بواسطة مؤسسة واحدة داخل مجموعة محلية عالية الأداء، من الأجهزة، والبرامج الأساسية، ونظام جدولة المجموعة، إلى جميع مكونات إطار التدريب، يتم تنسيق تشغيلها بواسطة نظام تحكم موحد. تتيح هذه البنية المتكاملة الكثيفة مشاركة الذاكرة، وتزامن التدرجات، وآليات التحمل بأقصى كفاءة، مما يجعلها مناسبة جدًا لتدريب نماذج كبيرة مثل GPT وGemini، حيث تتمتع بكفاءة عالية، وموارد قابلة للتحكم، لكنها في الوقت نفسه تواجه مشكلات احتكار البيانات، وحواجز الموارد، واستهلاك الطاقة، ومخاطر النقاط الفردية.

التدريب الموزع هو الطريقة الرئيسية الحالية لتدريب النماذج الكبيرة، حيث يتمثل جوهره في تقسيم مهمة تدريب النموذج ثم توزيعها على عدة آلات لتنفيذها بشكل متزامن، لتجاوز قيود الحوسبة والتخزين على جهاز واحد. على الرغم من أن لديها ميزات "اللامركزية" من الناحية الفيزيائية، إلا أن الكل لا يزال تحت سيطرة مؤسسة مركزية للتحكم والتنسيق، وغالبًا ما يعمل في بيئة شبكة محلية سريعة، من خلال تقنية NVLink لربط الحافلات عالية السرعة، حيث يتم تنسيق المهام الفرعية من قبل العقدة الرئيسية. تشمل الطرق الرئيسية ما يلي:

• التوازي البياني: كل عقدة تدرب معلمات بيانات مختلفة، يجب أن تتطابق أوزان النموذج
• التوازي النماذجي: نشر أجزاء مختلفة من النموذج على عقد مختلفة لتحقيق قابلية التوسع العالية
• الأنابيب المتوازية: تنفيذ تسلسلي على مراحل، وزيادة معدل الإرسال
• التوازي المتجه: تقسيم دقيق لحساب المصفوفة، تحسين درجة التوازي

التدريب الموزع هو مزيج من "التحكم المركزي + التنفيذ الموزع"، على غرار رئيس واحد يدير عن بعد تعاون عدة موظفين في "مكاتب" لإنجاز المهمة. حاليًا، يتم تدريب جميع النماذج الكبيرة الرئيسية تقريبًا بهذه الطريقة.

اللامركزية التدريب تمثل مسارًا مستقبليًا أكثر انفتاحًا ومقاومةً للرقابة. تتمثل ميزته الأساسية في: عدة عقد غير موثوقة تتعاون لإكمال مهام التدريب دون منسق مركزي، عادةً من خلال بروتوكولات تقود توزيع المهام والتعاون، وبدعم من آلية تحفيز تشفيرية لضمان نزاهة المساهمات. تشمل التحديات الرئيسية التي يواجهها هذا النموذج:

• صعوبة التنسيق بين الأجهزة المتنوعة وتقسيم المهام: صعوبة التنسيق بين الأجهزة المتنوعة وانخفاض كفاءة تقسيم المهام.
• عنق الزجاجة في كفاءة الاتصال: الاتصال الشبكي غير مستقر، وعائق مزامنة التدرج واضح.
• عدم وجود تنفيذ موثوق: نقص في بيئة التنفيذ الموثوقة، مما يجعل من الصعب التحقق مما إذا كانت العقدة تشارك فعليًا في الحساب.
• نقص التنسيق الموحد: لا يوجد جهاز تحكم مركزي، توزيع المهام، آلية التراجع عن الاستثناءات معقدة

يمكن فهم التدريب اللامركزي على أنه: مجموعة من المتطوعين من جميع أنحاء العالم، يساهمون كل واحد منهم بقوة الحوسبة لتدريب النموذج بشكل متعاون، لكن "التدريب اللامركزي الكبير القابل للتطبيق" لا يزال تحديًا هندسيًا نظاميًا، يتضمن بنية النظام، بروتوكولات الاتصال، أمان التشفير، الآليات الاقتصادية، والتحقق من النموذج على عدة مستويات، لكن هل يمكن تحقيق "التعاون الفعال + تحفيز الأمانة + النتائج الصحيحة" لا يزال في مرحلة استكشاف النماذج الأولية المبكرة.

التعلم الفيدرالي كحالة انتقالية بين التوزيع و اللامركزية، يركز على الاحتفاظ بالبيانات محليًا، وتجمع معلمات النموذج بشكل مركزي، وهو مناسب للسيناريوهات التي تركز على الامتثال للخصوصية. يتمتع التعلم الفيدرالي بهيكل هندسي للتدريب الموزع وقدرة على التعاون المحلي، بينما يمتلك أيضًا ميزة توزيع البيانات في التدريب اللامركزي، لكنه لا يزال يعتمد على جهة تنسيق موثوقة، ولا يمتلك خصائص مفتوحة تمامًا ومقاومة للرقابة. يمكن اعتباره نوعًا من "اللامركزية الخاضعة للرقابة" في سيناريوهات الامتثال للخصوصية، حيث يكون بالنسبة لمهام التدريب، وهيكل الثقة وآلية الاتصال، معتدل نسبيًا، مما يجعله أكثر ملاءمة كهيكل نشر انتقالي في الصناعة.

حدود التدريب اللامركزي، الفرص والمسارات الواقعية

من منظور نمط التدريب، لا يناسب التدريب اللامركزي جميع أنواع المهام. في بعض السيناريوهات، بسبب تعقيد هيكل المهمة، أو احتياجات الموارد العالية جدًا، أو صعوبة التعاون، فإنها لا تناسب بطبيعتها الإنجاز الفعال بين العقد غير المتجانسة والموثوقة. على سبيل المثال، غالبًا ما يعتمد تدريب النماذج الكبيرة على ذاكرة الوصول العشوائي العالية، والكمون المنخفض، وعرض النطاق الترددي العالي، مما يجعل من الصعب تقسيمها ومزامنتها بفاعلية في الشبكات المفتوحة؛ المهام التي تفرض قيودًا قوية على الخصوصية والسلطة تعاني من قيود قانونية وأخلاقية تجعل من المستحيل المشاركة المفتوحة؛ بينما تفتقر المهام التي تفتقر إلى قاعدة حوافز التعاون إلى الدافع الخارجي للمشاركة. تشكل هذه الحدود مجتمعة القيود الواقعية الحالية للتدريب اللامركزي.

لكن هذا لا يعني أن التدريب اللامركزي هو فكرة زائفة. في الواقع، في أنواع المهام الخفيفة الهيكل، وسهلة التوازي، وقابلة للتحفيز، يظهر التدريب اللامركزي آفاق تطبيق واضحة. بما في ذلك، على سبيل المثال لا الحصر: ضبط LoRA الدقيق، مهام التدريب بعد التوافق السلوكي، تدريب وتسمية البيانات عبر الحشود، تدريب نماذج أساسية صغيرة قابلة للتحكم في الموارد، وسيناريوهات التدريب التعاوني بمشاركة الأجهزة الطرفية. هذه المهام تتمتع عادةً بخصائص عالية التوازي، ومنخفضة الترابط، وقادرة على تحمل قوى الحوسبة غير المتجانسة، مما يجعلها مناسبة للغاية للتدريب التعاوني عبر شبكات P2P، بروتوكول Swarm، ومحسّنات موزعة.

تحليل المشاريع الكلاسيكية للتدريب اللامركزي

حاليًا، تشمل المشاريع البارزة في مجال التدريب اللامركزي والتعلم الفيدرالي بشكل رئيسي Prime Intellect وPluralis.ai وGensyn وNous Research وFlock.io. من حيث الابتكار التكنولوجي وصعوبة التنفيذ الهندسي، قدمت Prime Intellect وNous Research وPluralis.ai العديد من الاستكشافات الأصلية في تصميم النظام والخوارزميات، مما يمثل الاتجاهات الحديثة في البحث النظري؛ بينما Gensyn وFlock.io لهما مسارات تنفيذية واضحة نسبيًا، وقد بدأنا نرى تقدمًا هندسيًا أوليًا. ستقوم هذه المقالة بتحليل التقنيات الأساسية والهندسة المعمارية وراء هذه المشاريع الخمسة بالتتابع، وتناقش كذلك الفروقات والعلاقات التكاملية بينها في نظام تدريب الذكاء الاصطناعي اللامركزي.

Prime Intellect: رائد الشبكات التعاونية للتعلم المعزز القابل للتحقق من مسارات التدريب

تسعى Prime Intellect لبناء شبكة تدريب AI غير مركزية لا تحتاج إلى الثقة، مما يتيح لأي شخص المشاركة في التدريب والحصول على مكافآت موثوقة مقابل مساهماته الحسابية. تأمل Prime Intellect في بناء نظام تدريب AI لامركزي قابل للتحقق، مفتوح، ومجهز بآلية تحفيز من خلال ثلاث وحدات رئيسية وهي PRIME-RL و TOPLOC و SHARDCAST.

هيكل بروتوكول Prime Intellect والقيمة الأساسية للوحدات الرئيسية

شرح آلية التدريب الأساسية لـ Prime Intellect

#PRIME-RL: هيكل مهمة التعلم المعزز غير المتزامن المفكك

PRIME-RL هو إطار نموذج وتنفيذ المهام المصمم بواسطة Prime Intellect لسيناريوهات التدريب اللامركزية، ومخصص للشبكات المتغايرة والمشاركة غير المتزامنة. يعتمد على التعلم المعزز ككائن تكيفي أولوي، ويفصل بشكل هيكلي بين عمليات التدريب والاستنتاج وتحميل الأوزان، مما يسمح لكل عقدة تدريب بإكمال دورة المهام بشكل مستقل محليًا، والتعاون من خلال واجهات قياسية وآليات التحقق والتجميع. مقارنةً بعمليات التعلم الإشرافي التقليدية، فإن PRIME-RL أكثر ملاءمة لتحقيق التدريب المرن في بيئات بدون جدولة مركزية، مما يقلل من تعقيد النظام، ويؤسس لدعم المهام المتعددة بالتوازي وتطور الاستراتيجيات.

#TOPLOC: آلية التحقق من سلوك التدريب الخفيف الوزن

TOPLOC هو آلية جوهرية للتحقق من التدريب اقترحها Prime Intellect، تستخدم لتحديد ما إذا كان العقدة قد أكملت بالفعل تعلم استراتيجية فعالة استنادًا إلى بيانات المراقبة. على عكس الحلول الثقيلة مثل ZKML، لا يعتمد TOPLOC على إعادة حساب النموذج بالكامل، بل من خلال تحليل "تسلسل المراقبة ↔ تحديث الاستراتيجية" بين مسارات التناسق المحلي، يكمل التحقق الهيكلي الخفيف. إنها المرة الأولى التي يتم فيها تحويل مسارات السلوك خلال عملية التدريب إلى كائنات قابلة للتحقق، مما يمثل الابتكار الرئيسي لتحقيق توزيع مكافآت التدريب دون الحاجة إلى الثقة، ويوفر مسارًا قابلاً للتطبيق لبناء شبكة تدريب تعاونية لامركزية يمكن تدقيقها وتحفيزها.

#SHARDCAST: بروتوكول تجميع ونشر الوزن غير المتزامن

SHARDCAST هو بروتوكول لنشر وتجمع الوزن تم تصميمه من قبل Prime Intellect، مُحسَّن بشكل خاص للبيئات الشبكية الحقيقية التي تتسم باللامركزية، وقيود النطاق الترددي، وتغير حالات العقد. يجمع بين آلية نشر gossip واستراتيجيات التزامن المحلي، مما يسمح لعدة عقد بتقديم تحديثات جزئية باستمرار في حالات غير متزامنة، مما يؤدي إلى تقارب تدريجي للوزن وتطورات متعددة النسخ. مقارنةً بأساليب AllReduce المركزية أو المتزامنة، يعزز SHARDCAST بشكل ملحوظ قابلية التوسع والقدرة على تحمل الأخطاء في التدريب اللامركزي، وهو الأساس الرئيسي لبناء توافق وزن مستقر والتدريب المستمر.

#OpenDiLoCo: إطار الاتصال غير المتزامن النادر

OpenDiLoCo هو إطار لتحسين الاتصال تم تحقيقه بشكل مستقل ومفتوح المصدر من قبل فريق Prime Intellect بناءً على مفهوم DiLoCo الذي اقترحته DeepMind، مصمم خصيصًا للتحديات الشائعة في التدريب اللامركزي مثل قيود النطاق الترددي، التباين في الأجهزة وعدم استقرار العقد. يعتمد هيكله على البيانات المتوازية، من خلال بناء هياكل طوبولوجية متناثرة مثل Ring وExpander وSmall-World، مما يتجنب التكلفة العالية للتواصل الناتجة عن المزامنة العالمية، ويعتمد فقط على الجيران المحليين لإكمال تدريب النموذج التعاوني. مع الجمع بين التحديث غير المتزامن وآلية التحمل للنقاط الفاشلة، يجعل OpenDiLoCo أجهزة GPU الاستهلاكية والأجهزة الطرفية قادرة على المشاركة بشكل مستقر في مهام التدريب، مما يزيد بشكل كبير من إمكانية المشاركة في التدريب التعاوني العالمي، وهو أحد البنى التحتية الأساسية للاتصال لبناء شبكة تدريب لامركزية.

#PCCL: مكتبة الاتصالات التعاونية

PCCL هو مكتبة اتصالات خفيفة الوزن مصممة خصيصًا من قبل Prime Intellect لبيئة تدريب الذكاء الاصطناعي اللامركزية، تهدف إلى حل عنق الزجاجة في التكيف لمكتبات الاتصالات التقليدية في الأجهزة المتنوعة والشبكات ذات النطاق الترددي المنخفض. يدعم PCCL الطوبولوجيا المتناثرة، ضغط التدرجات، التزامن منخفض الدقة واستعادة النقاط، ويمكن تشغيله على وحدات معالجة الرسومات الاستهلاكية والعقد غير المستقرة، وهو المكون الأساسي الذي يدعم قدرات الاتصال غير المتزامن لبروتوكول OpenDiLoCo. إنه يعزز بشكل ملحوظ من تحمل الشبكة للتدريب في عرض النطاق الترددي وتوافق الأجهزة، ويفتح "الكم الميل الأخير" للاتصال لبناء شبكة تدريب تعاونية مفتوحة حقًا وموثوقة.

Prime Intellect شبكة الحوافز وتوزيع الأدوار

بني Prime Intellect شبكة تدريبية قابلة للتحقق، بدون إذن، وتحتوي على آلية تحفيز اقتصادية، مما يسمح لأي شخص بالمشاركة في المهام والحصول على مكافآت بناءً على المساهمات الحقيقية. يعمل البروتوكول بناءً على ثلاث فئات من الأدوار الأساسية:

• مُطلق المهمة: تعريف بيئة التدريب، النموذج الأولي، دالة المكافأة ومعايير التحقق
• عقد التدريب: تنفيذ التدريب المحلي، تقديم تحديثات الوزن ومسارات المراقبة
• عقد التحقق: استخدام آلية TOPLOC للتحقق من صحة سلوك التدريب والمشاركة في حساب المكافآت وتجميع الاستراتيجيات

تشمل العمليات الأساسية للبروتوكول نشر المهام، تدريب العقد، التحقق من المسارات، تجميع الأوزان وتوزيع المكافآت، مما يشكل حلقة تحفيزية حول "سلوك التدريب الحقيقي".

INTELLECT-2:إصدار أول نموذج تدريب قابل للتحقق اللامركزية

أصدرت Prime Intellect INTELLECT-2 في مايو 2025، وهو أول نموذج كبير للتعلم المعزز تم تدريبه بالتعاون بين عقد لامركزية غير موثوقة وغير متزامنة في العالم، مع حجم معلمات يصل إلى 32B. تم تدريب نموذج INTELLECT-2 بواسطة أكثر من 100 عقدة GPU متباينة موزعة عبر ثلاث قارات، باستخدام بنية غير متزامنة بالكامل، واستغرق التدريب أكثر من 400 ساعة، مما يظهر جدوى واستقرار الشبكة التعاون غير المتزامن. لا يمثل هذا النموذج مجرد اختراق في الأداء، بل يعد أيضًا التنفيذ النظامي الأول لنموذج "التدريب هو الإجماع" الذي اقترحته Prime Intellect. يدمج INTELLECT-2 بروتوكولات رئيسية مثل PRIME-RL وTOPLOC وSHARDCAST، مما يعني أن شبكة التدريب اللامركزية قد حققت لأول مرة انفتاح عملية التدريب، والتحقق، وحلقة الحوافز الاقتصادية.