OPML: Um novo paradigma de aprendizado de máquina baseado em mecanismos otimistas
A inferência e treinamento de modelos de inteligência artificial em sistemas de blockchain têm sido um foco de atenção na indústria. Recentemente, um novo método chamado OPML(Aprendizagem de Máquina Optimista) chamou a atenção. O OPML adota um mecanismo otimista, permitindo a implementação de serviços de aprendizado de máquina de baixo custo e alta eficiência em sistemas de blockchain.
Em comparação com o ZKML tradicional, o OPML possui vantagens claras. A barreira de entrada é muito baixa, e um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB, sem a necessidade de GPU. O OPML se inspira no mecanismo de jogos de verificação dos sistemas Truebit e rollup otimista para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina.
O fluxo de trabalho do OPML é o seguinte:
O solicitante inicia a tarefa de aprendizado de máquina
O servidor concluiu a tarefa e submeteu o resultado na cadeia.
O validador verifica os resultados; se houver objeções, inicia o jogo de validação.
As partes localizam com precisão os passos em disputa através de um protocolo de bifurcação.
Por fim, realizar a arbitragem passo a passo no contrato inteligente
Para melhorar a eficiência, a OPML adotou várias tecnologias inovadoras:
Construiu uma máquina virtual dedicada, garantindo a equivalência entre a execução off-chain e on-chain.
Desenvolver uma biblioteca DNN leve, que possa converter modelos de estruturas populares
Usar tecnologia de compilação cruzada para compilar o código de inferência de IA em instruções de VM
A imagem VM é gerida por uma árvore de Merkle, apenas o hash raiz é carregado na cadeia.
Experimentos mostram que o OPML pode completar a inferência básica de modelos de IA em um PC comum em menos de 2 segundos, e todo o processo de validação é concluído em menos de 2 minutos. Isso supera em muito o desempenho de jogos de validação de uma única etapa.
Para melhorar ainda mais o desempenho, a OPML também propôs um jogo de validação em múltiplas fases. Isso permite que os cálculos aproveitem ao máximo a aceleração e o processamento paralelo de GPU/TPU, com desempenho próximo ao ambiente local. O OPML em múltiplas fases utiliza uma representação em gráfico computacional do processo de inferência, podendo aproveitar de forma flexível os recursos de hardware local.
Comparado ao esquema de uma fase, o OPML de duas fases pode alcançar uma aceleração de cálculo de α vezes, e o tamanho da árvore de Merkle também diminui de O(mn) para O(m+n). Isso melhora significativamente a eficiência e a escalabilidade do sistema.
Para garantir a consistência dos resultados, o OPML utiliza um algoritmo de ponto fixo e uma biblioteca de ponto flutuante baseada em software. Isso resolve efetivamente o problema das diferenças nos cálculos em ponto flutuante entre diferentes plataformas, garantindo a consistência dos resultados entre plataformas.
No geral, OPML oferece um novo paradigma de baixo custo e alta eficiência para o aprendizado de máquina na blockchain. Ele não apenas suporta a inferência de modelos, mas também pode ser usado para várias tarefas de aprendizado de máquina, como treinamento de modelos. Com mais otimizações e melhorias, o OPML promete se tornar uma importante direção técnica no futuro do campo de IA na blockchain.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
7 gostos
Recompensa
7
6
Partilhar
Comentar
0/400
AirdropHarvester
· 07-08 17:49
bull啊 成本还能更低?
Ver originalResponder0
LiquidationWatcher
· 07-05 21:47
estive lá em 2022... ia barato parece arriscado para ser sincero
Ver originalResponder0
SnapshotStriker
· 07-05 21:39
Está novamente a falar da revolução tecnológica.
Ver originalResponder0
MemeCoinSavant
· 07-05 21:39
hmm com base na minha modelagem estatística, isso tem uma chance de 69,420% de ser realmente revolucionário, para ser honesto
Ver originalResponder0
BlockchainTalker
· 07-05 21:36
na verdade, isso realmente muda o jogo, para ser honesto... finalmente democratizando o aprendizado de máquina na cadeia
OPML: um novo paradigma de aprendizado de máquina eficiente e de baixo custo na cadeia
OPML: Um novo paradigma de aprendizado de máquina baseado em mecanismos otimistas
A inferência e treinamento de modelos de inteligência artificial em sistemas de blockchain têm sido um foco de atenção na indústria. Recentemente, um novo método chamado OPML(Aprendizagem de Máquina Optimista) chamou a atenção. O OPML adota um mecanismo otimista, permitindo a implementação de serviços de aprendizado de máquina de baixo custo e alta eficiência em sistemas de blockchain.
Em comparação com o ZKML tradicional, o OPML possui vantagens claras. A barreira de entrada é muito baixa, e um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB, sem a necessidade de GPU. O OPML se inspira no mecanismo de jogos de verificação dos sistemas Truebit e rollup otimista para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina.
O fluxo de trabalho do OPML é o seguinte:
Para melhorar a eficiência, a OPML adotou várias tecnologias inovadoras:
Experimentos mostram que o OPML pode completar a inferência básica de modelos de IA em um PC comum em menos de 2 segundos, e todo o processo de validação é concluído em menos de 2 minutos. Isso supera em muito o desempenho de jogos de validação de uma única etapa.
Para melhorar ainda mais o desempenho, a OPML também propôs um jogo de validação em múltiplas fases. Isso permite que os cálculos aproveitem ao máximo a aceleração e o processamento paralelo de GPU/TPU, com desempenho próximo ao ambiente local. O OPML em múltiplas fases utiliza uma representação em gráfico computacional do processo de inferência, podendo aproveitar de forma flexível os recursos de hardware local.
Comparado ao esquema de uma fase, o OPML de duas fases pode alcançar uma aceleração de cálculo de α vezes, e o tamanho da árvore de Merkle também diminui de O(mn) para O(m+n). Isso melhora significativamente a eficiência e a escalabilidade do sistema.
Para garantir a consistência dos resultados, o OPML utiliza um algoritmo de ponto fixo e uma biblioteca de ponto flutuante baseada em software. Isso resolve efetivamente o problema das diferenças nos cálculos em ponto flutuante entre diferentes plataformas, garantindo a consistência dos resultados entre plataformas.
No geral, OPML oferece um novo paradigma de baixo custo e alta eficiência para o aprendizado de máquina na blockchain. Ele não apenas suporta a inferência de modelos, mas também pode ser usado para várias tarefas de aprendizado de máquina, como treinamento de modelos. Com mais otimizações e melhorias, o OPML promete se tornar uma importante direção técnica no futuro do campo de IA na blockchain.