Crypto AI'nın Kutsal Kâsesi: Merkeziyetsizlik Eğitiminde Sınır Tanımayan Keşifler

AI'nın tüm değer zincirinde, model eğitimi en fazla kaynak tüketen ve en yüksek teknik engel olan aşamadır; bu doğrudan modelin yetenek sınırını ve gerçek uygulama etkisini belirler. Çıkarma aşamasındaki hafif çağrılarla karşılaştırıldığında, eğitim süreci sürekli büyük ölçekli hesaplama gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunluklu optimizasyon algoritmaları desteği gerektirir; bu, AI sistemlerinin inşasında gerçek bir "ağır sanayi"dir. Mimari paradigmalar açısından, eğitim yöntemleri dört kategoriye ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu yazının ana konusu olan Merkeziyetsizlik eğitim.

Merkeziyetsiz eğitim, tek bir kurumun yerel yüksek performans kümeleri içinde tüm eğitim süreçlerini tamamladığı en yaygın geleneksel yöntemdir. Donanım, alt yazılım, küme zamanlama sistemi ve eğitim çerçevesindeki tüm bileşenler, tek bir kontrol sistemi tarafından koordine edilerek çalıştırılmaktadır. Bu derin işbirliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata tolerans mekanizmalarının verimliliğini en üst düzeye çıkarmaktadır. GPT, Gemini gibi büyük ölçekli modellerin eğitimi için oldukça uygundur ve yüksek verimlilik, kontrol edilebilir kaynaklar gibi avantajlara sahiptir. Ancak aynı zamanda veri tekelciliği, kaynak engelleri, enerji tüketimi ve tek nokta riski gibi sorunlar da bulunmaktadır.

Dağıtık eğitim, günümüzde büyük model eğitiminde yaygın bir yöntemdir. Temel olarak, model eğitim görevleri parçalanarak birden fazla makineye dağıtılır ve birlikte çalışılarak tek bir makinenin hesaplama ve depolama darboğazlarının üstesinden gelinir. Fiziksel olarak "dağıtık" özelliklere sahip olsalar da, genel olarak merkezi bir kurum tarafından kontrol edilen, planlanan ve senkronize edilen, genellikle yüksek hızlı yerel ağ ortamlarında çalışan bir yapıdır. NVLink yüksek hızlı bağlantı teknolojisi ile ana düğüm, alt görevleri koordine eder. Ana akım yöntemler arasında:

• Veri paralelliği: Her düğüm farklı veri parametreleri ile eğitim yapar, model ağırlıklarının eşleşmesi gerekir.
• Model paralelliği: Modelin farklı kısımlarını farklı düğümlerde dağıtarak güçlü ölçeklenebilirlik sağlama
• Boru hattı paralel: Aşamalı seri yürütme, verimliliği artırır.
• Tensör paralelliği: Matris hesaplamalarını ince bir şekilde bölmek, paralel granülasyonu artırmak

Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur; aynı patronun uzaktan birkaç "ofis" çalışanını işbirliği yaparak görev tamamlamasıyla benzerlik gösterir. Şu anda neredeyse tüm ana akım büyük modeller bu şekilde eğitim tamamlamaktadır.

Merkeziyetsizlik eğitimi, daha açık ve sansüre karşı dayanıklı bir geleceği temsil eder. Temel özellikleri şunlardır: Birbirine güvenmeyen birçok düğüm, merkezi bir koordinatör olmadan eğitim görevlerini işbirliği içinde gerçekleştirir, genellikle protokoller aracılığıyla görev dağıtımı ve işbirliği sağlanır ve katkıların dürüstlüğünü sağlamak için kriptografik teşvik mekanizmaları kullanılır. Bu modelin karşılaştığı başlıca zorluklar şunlardır:

• Cihaz heterojenliği ve bölme zorluğu: Heterojen cihazların koordine edilmesi zordur, görev bölme verimliliği düşüktür.
• İletişim verimliliği darboğazı: Ağ iletişimi istikrarsız, gradyan senkronizasyonu darboğazı belirgin
• Güvenilir yürütme eksikliği: Güvenilir bir yürütme ortamının eksikliği, düğümlerin gerçekten hesaplamaya katılıp katılmadığını doğrulamayı zorlaştırıyor.
• Birlikte koordine eksikliği: Merkezî bir kontrol cihazı yok, görev dağıtımı, hata geri alma mekanizması karmaşık

Merkeziyetsizlik eğitimi, dünyanın dört bir yanındaki gönüllülerin her birinin hesaplama gücünü katkıda bulunarak modeli birlikte eğitmesi olarak anlaşılabilir, ancak "gerçekten uygulanabilir büyük ölçekli merkeziyetsizlik eğitimi" hala sistematik bir mühendislik zorluğu teşkil etmektedir; bu, sistem mimarisi, iletişim protokolleri, şifre güvenliği, ekonomik mekanizmalar, model doğrulaması gibi birçok katmanı içermektedir. Ancak "etkili iş birliği + dürüstlüğü teşvik etme + doğru sonuçlar" sağlanıp sağlanamayacağı hala erken prototip keşif aşamasındadır.

Federated learning, bir dağıtık ve Merkeziyetsizlik arasında geçiş şekli olarak, verilerin yerel olarak korunmasını ve model parametrelerinin merkezi olarak toplanmasını vurgular ve gizlilik uyumuna önem verilen senaryolara uygundur. Federated learning, dağıtık eğitim mühendislik yapısını ve yerel işbirliği yeteneğini taşırken, aynı zamanda Merkeziyetsizlik eğitimindeki veri dağıtım avantajlarına da sahiptir, ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık ve sansüre dayanıklı bir özellik taşımaz. Gizlilik uyum senaryolarında "kontrollü merkeziyetsizlik" çözümü olarak düşünülebilir, eğitim görevleri, güven yapısı ve iletişim mekanizmaları açısından nispeten ılımlıdır ve sanayi alanında geçiş süreci dağıtım yapısı olarak daha uygundur.

Merkeziyetsizlik eğitiminin sınırları, fırsatları ve gerçek yolları

Eğitim paradigması açısından, Merkeziyetsizlik eğitimi her görev tipi için uygun değildir. Bazı senaryolarda, görev yapısı karmaşık, kaynak gereksinimleri son derece yüksek veya işbirliği zorluğu büyük olduğundan, doğal olarak heterojen, güvenilir olmayan düğümler arasında verimli bir şekilde tamamlanması uygun değildir. Örneğin, büyük model eğitimi genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliğine bağımlıdır, açık ağda etkili bir şekilde bölmek ve senkronize etmek zordur; veri gizliliği ve egemenlik kısıtlamaları güçlü olan görevler, yasal uyum ve etik kısıtlamalar nedeniyle açıkça paylaşım yapamaz; işbirliği teşviklerinin eksik olduğu görevler ise dış katılım motivasyonundan yoksundur. Bu sınırlar, mevcut merkeziyetsiz eğitimin gerçek kısıtlamalarını oluşturmaktadır.

Ancak bu, merkeziyetsizlik eğitimlerinin bir safsata olduğu anlamına gelmez. Aslında, yapı olarak hafif, paralel çalışması kolay ve ödüllendirici görev türlerinde merkeziyetsizlik eğitimi belirgin uygulama potansiyeli göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayar, davranış hizalama türü sonrası eğitim görevleri, veri kalabalık eğitimi ve etiketleme görevleri, kaynak kontrol edilebilir küçük temel model eğitimi ve kenar cihazlarının katıldığı işbirlikçi eğitim senaryoları yer almaktadır. Bu görevler genellikle yüksek paralellik, düşük bağlılık ve heterojen hesaplama gücüne tolerans özelliklerine sahiptir ve P2P ağları, Swarm protokolü, dağıtık optimizasyon gibi yöntemlerle işbirlikçi eğitim için son derece uygundur.

Merkeziyetsizlik eğitim klasik proje analizi

Şu anda merkeziyetsizlik eğitimi ve federatif öğrenme öncülüğünde, temsilci blockchain projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io bulunmaktadır. Teknolojik yenilik ve mühendislik uygulama zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai, sistem mimarisi ve algoritma tasarımında daha fazla özgün keşif önermektedir ve mevcut teorik araştırmanın öncü yönlerini temsil etmektedir; Gensyn ve Flock.io'nun uygulama yolları ise nispeten net olup, ilk mühendislik ilerlemeleri görülebilmektedir. Bu makalede, bu beş projenin arkasındaki temel teknolojiler ve mühendislik mimarileri sırayla analiz edilecek ve merkeziyetsiz AI eğitim sistemindeki farklılıkları ve tamamlayıcı ilişkileri daha da tartışılacaktır.

Prime Intellect: Eğitim yolları doğrulanabilir güçlendirme öğrenimi işbirlikçi ağ öncüsü

Prime Intellect, güvene ihtiyaç duymayan bir AI eğitim ağı inşa etmeyi hedefliyor, herkesin eğitime katılmasına ve hesap katkılarından güvenilir ödüller almasına olanak tanıyor. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST üç ana modülü aracılığıyla, doğrulanabilirlik, açıklık ve teşvik mekanizması açısından tamamlanmış bir AI Merkeziyetsizlik eğitim sistemi oluşturmayı arzuluyor.

Prime Intellect protokol yığını yapısı ve ana modül değeri

Prime Intellect eğitim anahtar mekanizması ayrıntılı açıklaması

#PRIME-RL: Ayrık Asenkron Pekiştirme Öğrenimi Görev Mimarisi

PRIME-RL, Prime Intellect tarafından merkeziyetsizlik eğitim senaryoları için özel olarak tasarlanmış bir görev modelleme ve yürütme çerçevesidir, heterojen ağlar ve asenkron katılım için özel olarak geliştirilmiştir. Güçlendirilmiş öğrenmeyi öncelikli uyumlu nesne olarak kullanır, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırır, böylece her eğitim düğümü yerel olarak bağımsız bir görev döngüsü gerçekleştirebilir ve standart arayüzler aracılığıyla doğrulama ve toplama mekanizmalarıyla işbirliği yapabilir. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL merkezi bir planlama ortamında esnek eğitim sağlamak için daha uygundur, hem sistem karmaşıklığını azaltır hem de çoklu görev paralelliğini ve strateji evrimini desteklemek için bir temel oluşturur.

#TOPLOC: Hafif Eğitim Davranış Doğrulama Mekanizması

TOPLOC, Prime Intellect tarafından önerilen, bir düğümün gerçekten gözlem verilerine dayanarak etkili bir strateji öğrenip öğrenmediğini belirlemek için kullanılan, doğrulanabilirlik eğitimi için bir çekirdek mekanizmadır. ZKML gibi ağır çözümlerden farklı olarak, TOPLOC, tam model yeniden hesaplama gerektirmeden, "gözlem dizisi ↔ strateji güncelleme" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulamasını tamamlar. Eğitim sürecindeki davranış izlerini doğrulanabilir nesnelere dönüştüren ilk uygulamadır ve güvene dayanmayan eğitim ödül dağıtımını gerçekleştirmenin anahtar yeniliğidir. Denetlenebilir ve teşvik edici Merkeziyetsizlik işbirliği eğitim ağları inşa etmek için uygulanabilir bir yol sunar.

#SHARDCAST: Asenkron Ağırlık Toplama ve Yayılma Protokolü

SHARDCAST, Prime Intellect tarafından tasarlanan ağırlık yayılımı ve birleştirme protokolüdür, asenkron, bant genişliği sınırlı ve düğüm durumu sürekli değişen gerçek ağ ortamları için optimize edilmiştir. Gossip yayılım mekanizması ve yerel senkronizasyon stratejisini birleştirerek, birden fazla düğümün senkronize olmayan durumlarda sürekli kısmi güncellemeler sunmasına izin verir, ağırlıkların kademeli olarak yakınsamasını ve çoklu versiyon evrimini gerçekleştirir. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST, merkeziyetsizlik eğitiminde ölçeklenebilirliği ve hata toleransını önemli ölçüde artırır, stabil ağırlık konsensüsü ve sürekli eğitim iterasyonu inşası için temel bir temeldir.

#OpenDiLoCo: Seyrek Asenkron İletişim Çerçevesi

OpenDiLoCo, Prime Intellect ekibi tarafından DeepMind'in önerdiği DiLoCo ilkesinin bağımsız bir şekilde uygulanması ve açık kaynak olarak sunulan bir iletişim optimizasyon çerçevesidir. Merkeziyetsizlik eğitiminde sıkça karşılaşılan bant genişliği kısıtlamaları, cihaz heterojenliği ve düğüm istikrarsızlığı gibi zorluklar için özel olarak tasarlanmıştır. Mimarisi, veri paralelliğine dayanmakta olup, Ring, Expander, Small-World gibi seyrek topoloji yapıları inşa ederek, küresel senkronizasyonun yüksek iletişim maliyetinden kaçınmakta ve sadece yerel komşu düğümlere dayanarak model işbirlikçi eğitimini tamamlamaktadır. Asenkron güncellemeler ve kesinti toleransı mekanizması ile birleştirildiğinde, OpenDiLoCo, tüketici düzeyindeki GPU'lar ve kenar cihazlarının da eğitim görevlerine istikrarlı bir şekilde katılmasını sağlayarak, küresel işbirlikçi eğitimin katılımcılığını önemli ölçüde artırmakta ve merkeziyetsizlik eğitim ağının temel iletişim altyapılarından biri olmaktadır.

#PCCL: İşbirliği İletişim Kütüphanesi

PCCL, Prime Intellect tarafından merkeziyetsiz AI eğitim ortamı için özel olarak tasarlanmış hafif bir iletişim kütüphanesidir ve geleneksel iletişim kütüphanelerinin heterojen cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojiyi, gradyan sıkıştırmayı, düşük hassasiyet senkronizasyonunu ve kesintiden kurtarmayı destekler, tüketici sınıfı GPU'larda ve dengesiz düğümlerde çalışabilir. OpenDiLoCo protokolünün asenkron iletişim yeteneklerini destekleyen alt bileşendir. Eğitim ağının bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırır ve gerçekten açık, güven gerektirmeyen bir işbirlikçi eğitim ağı inşa etmek için "son bir mil" iletişim altyapısını açar.

Prime Intellect teşvik ağı ve rol dağılımı

Prime Intellect, herkesin görevlere katılabileceği ve gerçek katkılara dayalı ödüller alabileceği, izin gerektirmeyen, doğrulanabilir, ekonomik teşvik mekanizmasına sahip bir eğitim ağı inşa etti. Protokol, üç ana rol türüne dayalı olarak çalışmaktadır:

• Görev başlatıcısı: Eğitim ortamını, başlangıç modelini, ödül fonksiyonunu ve doğrulama standartlarını tanımlar.
• Eğitim Düğümleri: Yerel eğitim gerçekleştirin, ağırlık güncellemelerini ve gözlem izlerini gönderin
• Doğrulama Düğümleri: Eğitim davranışlarının gerçekliğini TOPLOC mekanizmasıyla doğrulamak ve ödül hesaplama ile strateji birleştirmeye katılmak

Protokolün çekirdek süreci, görev yayınlama, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ve ödül dağıtımını içerir ve "gerçek eğitim davranışı" etrafında bir teşvik kapalı döngüsü oluşturur.

INTELLECT-2: İlk doğrulanabilir Merkeziyetsizlik eğitim modelinin yayınlanması

Prime Intellect, Mayıs 2025'te INTELLECT-2'yi piyasaya sürdü. Bu, dünya çapında asenkron, güvene ihtiyaç duymayan Merkeziyetsizlik düğümleri tarafından işbirliğiyle eğitilen ilk büyük ölçekli pekiştirmeli öğrenme modelidir ve parametre ölçeği 32B'ye ulaşmaktadır. INTELLECT-2 modeli, üç kıtaya yayılan 100'den fazla GPU heterojen düğüm tarafından işbirliği içinde eğitim tamamlanmıştır ve tamamen asenkron bir mimari kullanmaktadır. Eğitim süresi 400 saati aşmış ve asenkron işbirliği ağının uygulanabilirliği ve istikrarını göstermiştir. Bu model yalnızca bir performans atılımı değil, aynı zamanda Prime Intellect'in önerdiği "eğitim, konsensustur" paradigmasının ilk sistematik uygulamasıdır. INTELLECT-2, PRIME-RL, TOPLOC ve SHARDCAST gibi temel protokol modüllerini entegre ederek, merkeziyetsiz eğitim ağının eğitim sürecinin açık, doğrulayıcı ve ekonomik teşvik kapalı döngüsünü ilk kez gerçekleştirdiğini göstermektedir.