OPML: Um novo paradigma de aprendizado de máquina baseado em mecanismos otimistas
A inferência e treinamento de modelos de inteligência artificial em sistemas de blockchain têm sido um foco de atenção na indústria. Recentemente, um novo método chamado OPML(Aprendizagem de Máquina Optimista) chamou a atenção. O OPML adota um mecanismo otimista, permitindo a implementação de serviços de aprendizado de máquina de baixo custo e alta eficiência em sistemas de blockchain.
Em comparação com o ZKML tradicional, o OPML possui vantagens claras. A barreira de entrada é muito baixa, e um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB, sem a necessidade de GPU. O OPML se inspira no mecanismo de jogos de verificação dos sistemas Truebit e rollup otimista para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina.
O fluxo de trabalho do OPML é o seguinte:
O solicitante inicia a tarefa de aprendizado de máquina
O servidor concluiu a tarefa e submeteu o resultado na cadeia.
O validador verifica os resultados; se houver objeções, inicia o jogo de validação.
As partes localizam com precisão os passos em disputa através de um protocolo de bifurcação.
Por fim, realizar a arbitragem passo a passo no contrato inteligente
Para melhorar a eficiência, a OPML adotou várias tecnologias inovadoras:
Construiu uma máquina virtual dedicada, garantindo a equivalência entre a execução off-chain e on-chain.
Desenvolver uma biblioteca DNN leve, que possa converter modelos de estruturas populares
Usar tecnologia de compilação cruzada para compilar o código de inferência de IA em instruções de VM
A imagem VM é gerida por uma árvore de Merkle, apenas o hash raiz é carregado na cadeia.
Experimentos mostram que o OPML pode completar a inferência básica de modelos de IA em um PC comum em menos de 2 segundos, e todo o processo de validação é concluído em menos de 2 minutos. Isso supera em muito o desempenho de jogos de validação de uma única etapa.
Para melhorar ainda mais o desempenho, a OPML também propôs um jogo de validação em múltiplas fases. Isso permite que os cálculos aproveitem ao máximo a aceleração e o processamento paralelo de GPU/TPU, com desempenho próximo ao ambiente local. O OPML em múltiplas fases utiliza uma representação em gráfico computacional do processo de inferência, podendo aproveitar de forma flexível os recursos de hardware local.
Comparado ao esquema de uma fase, o OPML de duas fases pode alcançar uma aceleração de cálculo de α vezes, e o tamanho da árvore de Merkle também diminui de O(mn) para O(m+n). Isso melhora significativamente a eficiência e a escalabilidade do sistema.
Para garantir a consistência dos resultados, o OPML utiliza um algoritmo de ponto fixo e uma biblioteca de ponto flutuante baseada em software. Isso resolve efetivamente o problema das diferenças nos cálculos em ponto flutuante entre diferentes plataformas, garantindo a consistência dos resultados entre plataformas.
No geral, OPML oferece um novo paradigma de baixo custo e alta eficiência para o aprendizado de máquina na blockchain. Ele não apenas suporta a inferência de modelos, mas também pode ser usado para várias tarefas de aprendizado de máquina, como treinamento de modelos. Com mais otimizações e melhorias, o OPML promete se tornar uma importante direção técnica no futuro do campo de IA na blockchain.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
7 Curtidas
Recompensa
7
6
Compartilhar
Comentário
0/400
AirdropHarvester
· 07-08 17:49
bull啊 成本还能更低?
Ver originalResponder0
LiquidationWatcher
· 07-05 21:47
estive lá em 2022... ia barato parece arriscado para ser sincero
Ver originalResponder0
SnapshotStriker
· 07-05 21:39
Está novamente a falar da revolução tecnológica.
Ver originalResponder0
MemeCoinSavant
· 07-05 21:39
hmm com base na minha modelagem estatística, isso tem uma chance de 69,420% de ser realmente revolucionário, para ser honesto
Ver originalResponder0
BlockchainTalker
· 07-05 21:36
na verdade, isso realmente muda o jogo, para ser honesto... finalmente democratizando o aprendizado de máquina na cadeia
OPML: um novo paradigma de aprendizado de máquina eficiente e de baixo custo na cadeia
OPML: Um novo paradigma de aprendizado de máquina baseado em mecanismos otimistas
A inferência e treinamento de modelos de inteligência artificial em sistemas de blockchain têm sido um foco de atenção na indústria. Recentemente, um novo método chamado OPML(Aprendizagem de Máquina Optimista) chamou a atenção. O OPML adota um mecanismo otimista, permitindo a implementação de serviços de aprendizado de máquina de baixo custo e alta eficiência em sistemas de blockchain.
Em comparação com o ZKML tradicional, o OPML possui vantagens claras. A barreira de entrada é muito baixa, e um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB, sem a necessidade de GPU. O OPML se inspira no mecanismo de jogos de verificação dos sistemas Truebit e rollup otimista para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina.
O fluxo de trabalho do OPML é o seguinte:
Para melhorar a eficiência, a OPML adotou várias tecnologias inovadoras:
Experimentos mostram que o OPML pode completar a inferência básica de modelos de IA em um PC comum em menos de 2 segundos, e todo o processo de validação é concluído em menos de 2 minutos. Isso supera em muito o desempenho de jogos de validação de uma única etapa.
Para melhorar ainda mais o desempenho, a OPML também propôs um jogo de validação em múltiplas fases. Isso permite que os cálculos aproveitem ao máximo a aceleração e o processamento paralelo de GPU/TPU, com desempenho próximo ao ambiente local. O OPML em múltiplas fases utiliza uma representação em gráfico computacional do processo de inferência, podendo aproveitar de forma flexível os recursos de hardware local.
Comparado ao esquema de uma fase, o OPML de duas fases pode alcançar uma aceleração de cálculo de α vezes, e o tamanho da árvore de Merkle também diminui de O(mn) para O(m+n). Isso melhora significativamente a eficiência e a escalabilidade do sistema.
Para garantir a consistência dos resultados, o OPML utiliza um algoritmo de ponto fixo e uma biblioteca de ponto flutuante baseada em software. Isso resolve efetivamente o problema das diferenças nos cálculos em ponto flutuante entre diferentes plataformas, garantindo a consistência dos resultados entre plataformas.
No geral, OPML oferece um novo paradigma de baixo custo e alta eficiência para o aprendizado de máquina na blockchain. Ele não apenas suporta a inferência de modelos, mas também pode ser usado para várias tarefas de aprendizado de máquina, como treinamento de modelos. Com mais otimizações e melhorias, o OPML promete se tornar uma importante direção técnica no futuro do campo de IA na blockchain.