OPML: Nueva paradigma de aprendizaje automático basado en mecanismos optimistas
La inferencia y el entrenamiento de modelos de inteligencia artificial en sistemas de blockchain siempre han sido un foco de atención en la industria. Recientemente, un nuevo método llamado OPML( aprendizaje automático optimista ) ha atraído una amplia atención. OPML utiliza un mecanismo optimista, lo que permite ofrecer servicios de aprendizaje automático de bajo costo y alta eficiencia en sistemas de blockchain.
En comparación con el ZKML tradicional, el OPML tiene ventajas significativas. Tiene un umbral de participación muy bajo, permitiendo que una PC normal ejecute modelos de lenguaje grandes sin necesidad de GPU, como el modelo 7B-LLaMA de 26GB. El OPML se basa en el mecanismo de juego de verificación de los sistemas Truebit y rollup optimista para garantizar la descentralización y el consenso verificable de los servicios de aprendizaje automático.
El flujo de trabajo de OPML es el siguiente:
El solicitante inicia una tarea de aprendizaje automático
El servidor completa la tarea y envía los resultados a la cadena.
Los validadores verifican los resultados, y si hay objeciones, se inicia el juego de validación.
Ambas partes localizan con precisión los pasos en disputa a través de un acuerdo bipartito.
Finalmente, realizar la arbitraje paso a paso en el contrato inteligente
Para mejorar la eficiencia, OPML ha adoptado varias tecnologías innovadoras:
Se construyó una máquina virtual dedicada, asegurando la equivalencia entre la ejecución fuera de la cadena y en la cadena.
Desarrollar una biblioteca DNN ligera que pueda convertir modelos de marcos principales.
Utilizar tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones VM
Las imágenes VM se gestionan mediante un árbol de Merkle, solo se sube el hash raíz a la cadena.
Los experimentos muestran que OPML puede completar la inferencia básica de modelos de IA en una PC común en menos de 2 segundos, y todo el proceso de validación se completa en menos de 2 minutos. Esto supera con creces el rendimiento de los juegos de validación de una sola etapa.
Para mejorar aún más el rendimiento, OPML también propuso un juego de verificación de múltiples etapas. Esto permite que el cálculo aproveche al máximo la aceleración y el procesamiento paralelo de GPU/TPU, logrando un rendimiento cercano al entorno local. El OPML de múltiples etapas utiliza una representación de gráfico computacional para el proceso de inferencia, lo que permite aprovechar de manera flexible los recursos de hardware locales.
En comparación con el esquema de una sola etapa, el OPML de dos etapas puede lograr una aceleración de cálculo de α veces, y el tamaño del árbol de Merkle se reduce de O(mn) a O(m+n). Esto mejora significativamente la eficiencia y la escalabilidad del sistema.
Para garantizar la consistencia de los resultados, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante basada en software. Esto resuelve eficazmente el problema de las diferencias en el cálculo de punto flotante entre diferentes plataformas, asegurando la consistencia de los resultados entre plataformas.
En general, OPML proporciona un nuevo paradigma de bajo costo y alta eficiencia para el aprendizaje automático en la blockchain. No solo admite la inferencia de modelos, sino que también se puede utilizar para diversas tareas de aprendizaje automático, como el entrenamiento de modelos. Con una mayor optimización y perfeccionamiento, se espera que OPML se convierta en una dirección técnica importante en el futuro del campo de la IA en blockchain.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
7 me gusta
Recompensa
7
6
Compartir
Comentar
0/400
AirdropHarvester
· 07-08 17:49
alcista啊 ¿el costo puede ser aún más bajo?
Ver originalesResponder0
LiquidationWatcher
· 07-05 21:47
estuve allí en 2022... la IA barata suena muy arriesgada, para ser honesto
Ver originalesResponder0
SnapshotStriker
· 07-05 21:39
Otra vez hablando de revolución tecnológica.
Ver originalesResponder0
MemeCoinSavant
· 07-05 21:39
Hmm, basado en mi modelado estadístico, esto tiene un 69.420% de posibilidades de ser realmente un cambio de juego, no voy a mentir.
Ver originalesResponder0
BlockchainTalker
· 07-05 21:36
en realidad, esto realmente cambia las reglas del juego, para ser honesto... finalmente democratizando el aprendizaje automático en cadena
OPML: nuevo paradigma de aprendizaje automático eficiente y de bajo costo en la Cadena de bloques
OPML: Nueva paradigma de aprendizaje automático basado en mecanismos optimistas
La inferencia y el entrenamiento de modelos de inteligencia artificial en sistemas de blockchain siempre han sido un foco de atención en la industria. Recientemente, un nuevo método llamado OPML( aprendizaje automático optimista ) ha atraído una amplia atención. OPML utiliza un mecanismo optimista, lo que permite ofrecer servicios de aprendizaje automático de bajo costo y alta eficiencia en sistemas de blockchain.
En comparación con el ZKML tradicional, el OPML tiene ventajas significativas. Tiene un umbral de participación muy bajo, permitiendo que una PC normal ejecute modelos de lenguaje grandes sin necesidad de GPU, como el modelo 7B-LLaMA de 26GB. El OPML se basa en el mecanismo de juego de verificación de los sistemas Truebit y rollup optimista para garantizar la descentralización y el consenso verificable de los servicios de aprendizaje automático.
El flujo de trabajo de OPML es el siguiente:
Para mejorar la eficiencia, OPML ha adoptado varias tecnologías innovadoras:
Los experimentos muestran que OPML puede completar la inferencia básica de modelos de IA en una PC común en menos de 2 segundos, y todo el proceso de validación se completa en menos de 2 minutos. Esto supera con creces el rendimiento de los juegos de validación de una sola etapa.
Para mejorar aún más el rendimiento, OPML también propuso un juego de verificación de múltiples etapas. Esto permite que el cálculo aproveche al máximo la aceleración y el procesamiento paralelo de GPU/TPU, logrando un rendimiento cercano al entorno local. El OPML de múltiples etapas utiliza una representación de gráfico computacional para el proceso de inferencia, lo que permite aprovechar de manera flexible los recursos de hardware locales.
En comparación con el esquema de una sola etapa, el OPML de dos etapas puede lograr una aceleración de cálculo de α veces, y el tamaño del árbol de Merkle se reduce de O(mn) a O(m+n). Esto mejora significativamente la eficiencia y la escalabilidad del sistema.
Para garantizar la consistencia de los resultados, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante basada en software. Esto resuelve eficazmente el problema de las diferencias en el cálculo de punto flotante entre diferentes plataformas, asegurando la consistencia de los resultados entre plataformas.
En general, OPML proporciona un nuevo paradigma de bajo costo y alta eficiencia para el aprendizaje automático en la blockchain. No solo admite la inferencia de modelos, sino que también se puede utilizar para diversas tareas de aprendizaje automático, como el entrenamiento de modelos. Con una mayor optimización y perfeccionamiento, se espera que OPML se convierta en una dirección técnica importante en el futuro del campo de la IA en blockchain.