OPML: Nouveau paradigme d'apprentissage automatique basé sur des mécanismes optimistes
L'inférence et l'entraînement des modèles d'intelligence artificielle dans les systèmes blockchain ont toujours été un point focal de l'industrie. Récemment, une nouvelle méthode appelée OPML(Optimistic apprentissage automatique) a suscité un large intérêt. OPML utilise un mécanisme optimiste, permettant de réaliser des services d'apprentissage automatique à faible coût et haute efficacité sur les systèmes blockchain.
Comparé au ZKML traditionnel, l'OPML présente des avantages évidents. Son seuil d'entrée est très bas, un PC ordinaire peut exécuter de grands modèles de langage sans GPU, comme le modèle 7B-LLaMA de 26 Go. L'OPML s'inspire du mécanisme de jeu de validation des systèmes Truebit et des rollups optimistes pour garantir la décentralisation et le consensus vérifiable des services d'apprentissage automatique.
Le flux de travail de l'OPML est le suivant :
Le demandeur lance une tâche d'apprentissage automatique
Le serveur termine la tâche et soumet les résultats à la chaîne.
Les validateurs vérifient les résultats, et en cas de désaccord, ils lancent le jeu de vérification.
Les deux parties localisent avec précision les étapes de litige par un accord binaire.
Enfin, procéder à l'arbitrage étape par étape sur le contrat intelligent
Pour améliorer l'efficacité, OPML a adopté plusieurs technologies innovantes :
Construction d'une machine virtuelle dédiée, garantissant l'équivalence entre l'exécution hors chaîne et sur chaîne.
Développer une bibliothèque DNN légère, pouvant convertir des modèles de cadres populaires.
Utiliser la technologie de compilation croisée pour compiler le code d'inférence AI en instructions VM
Les images VM sont gérées par un arbre de Merkle, seul le hash racine est téléchargé sur la chaîne.
Les expériences montrent que l'OPML peut effectuer une inférence de modèle d'IA de base sur un PC ordinaire en moins de 2 secondes, et l'ensemble du processus de validation est terminé en moins de 2 minutes. Cela dépasse de loin les performances des jeux de validation à une seule étape.
Pour améliorer davantage les performances, OPML a également proposé un jeu de validation multi-étapes. Cela permet aux calculs de tirer pleinement parti de l'accélération GPU/TPU et du traitement parallèle, avec des performances proches de l'environnement local. Le modèle OPML multi-étapes adopte une représentation graphique de calcul pour le processus d'inférence, permettant une utilisation flexible des ressources matérielles locales.
Par rapport à un schéma à une étape, le OPML à deux étapes peut réaliser un accélération de calcul de α fois, et la taille de l'arbre de Merkle passe de O(mn) à O(m+n). Cela améliore considérablement l'efficacité et l'évolutivité du système.
Pour garantir la cohérence des résultats, OPML utilise des algorithmes à virgule fixe et une bibliothèque de virgule flottante basée sur un logiciel. Cela résout efficacement le problème des différences de calcul à virgule flottante entre les différentes plateformes, garantissant ainsi la cohérence des résultats entre plateformes.
Dans l'ensemble, OPML offre un nouveau paradigme à faible coût et hautement efficace pour l'apprentissage automatique sur la blockchain. Il prend en charge non seulement l'inférence de modèle, mais peut également être utilisé pour diverses tâches d'apprentissage automatique telles que l'entraînement de modèles. Avec des optimisations et des améliorations supplémentaires, OPML devrait devenir une direction technologique importante dans le domaine de l'IA blockchain à l'avenir.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
7 J'aime
Récompense
7
6
Partager
Commentaire
0/400
AirdropHarvester
· 07-08 17:49
Bull, le coût peut-il être encore plus bas ?
Voir l'originalRépondre0
LiquidationWatcher
· 07-05 21:47
été là en 2022... l'IA bon marché semble vraiment risquée à vrai dire
Voir l'originalRépondre0
SnapshotStriker
· 07-05 21:39
Il parle encore de révolution technologique.
Voir l'originalRépondre0
MemeCoinSavant
· 07-05 21:39
hmm basé sur ma modélisation statistique, cela a une chance de 69,420 % d'être réellement révolutionnaire, je ne vais pas mentir
Voir l'originalRépondre0
BlockchainTalker
· 07-05 21:36
en fait, cela change vraiment la donne pour être honnête... enfin, démocratiser le ML sur la chaîne
Voir l'originalRépondre0
GasGuzzler
· 07-05 21:31
C'est la solution AI tout-en-un off-chain la plus rapide.
OPML: Nouveau paradigme d'apprentissage automatique efficace et à faible coût sur la Blockchain
OPML: Nouveau paradigme d'apprentissage automatique basé sur des mécanismes optimistes
L'inférence et l'entraînement des modèles d'intelligence artificielle dans les systèmes blockchain ont toujours été un point focal de l'industrie. Récemment, une nouvelle méthode appelée OPML(Optimistic apprentissage automatique) a suscité un large intérêt. OPML utilise un mécanisme optimiste, permettant de réaliser des services d'apprentissage automatique à faible coût et haute efficacité sur les systèmes blockchain.
Comparé au ZKML traditionnel, l'OPML présente des avantages évidents. Son seuil d'entrée est très bas, un PC ordinaire peut exécuter de grands modèles de langage sans GPU, comme le modèle 7B-LLaMA de 26 Go. L'OPML s'inspire du mécanisme de jeu de validation des systèmes Truebit et des rollups optimistes pour garantir la décentralisation et le consensus vérifiable des services d'apprentissage automatique.
Le flux de travail de l'OPML est le suivant :
Pour améliorer l'efficacité, OPML a adopté plusieurs technologies innovantes :
Les expériences montrent que l'OPML peut effectuer une inférence de modèle d'IA de base sur un PC ordinaire en moins de 2 secondes, et l'ensemble du processus de validation est terminé en moins de 2 minutes. Cela dépasse de loin les performances des jeux de validation à une seule étape.
Pour améliorer davantage les performances, OPML a également proposé un jeu de validation multi-étapes. Cela permet aux calculs de tirer pleinement parti de l'accélération GPU/TPU et du traitement parallèle, avec des performances proches de l'environnement local. Le modèle OPML multi-étapes adopte une représentation graphique de calcul pour le processus d'inférence, permettant une utilisation flexible des ressources matérielles locales.
Par rapport à un schéma à une étape, le OPML à deux étapes peut réaliser un accélération de calcul de α fois, et la taille de l'arbre de Merkle passe de O(mn) à O(m+n). Cela améliore considérablement l'efficacité et l'évolutivité du système.
Pour garantir la cohérence des résultats, OPML utilise des algorithmes à virgule fixe et une bibliothèque de virgule flottante basée sur un logiciel. Cela résout efficacement le problème des différences de calcul à virgule flottante entre les différentes plateformes, garantissant ainsi la cohérence des résultats entre plateformes.
Dans l'ensemble, OPML offre un nouveau paradigme à faible coût et hautement efficace pour l'apprentissage automatique sur la blockchain. Il prend en charge non seulement l'inférence de modèle, mais peut également être utilisé pour diverses tâches d'apprentissage automatique telles que l'entraînement de modèles. Avec des optimisations et des améliorations supplémentaires, OPML devrait devenir une direction technologique importante dans le domaine de l'IA blockchain à l'avenir.