OPML: um método eficiente de Descentralização em aprendizado de máquina
OPML(Aprendizado de Máquina Otimista) é um método inovador que permite a inferência e o treinamento/ajuste fino de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML tem vantagens em termos de baixo custo e alta eficiência. O limiar de participação do OPML é muito baixo, e PCs comuns podem executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB, sem necessidade de GPU.
OPML adota um mecanismo de jogo de verificação para garantir a Descentralização e a verificabilidade dos serviços de ML. O processo específico é o seguinte:
O solicitante inicia uma tarefa de serviço ML
O servidor completa a tarefa e submete os resultados na cadeia.
Resultados de validação dos validadores, se houver contestações, iniciar o jogo de validação.
Localizar etapas de erro específicas através do protocolo de divisão
Realizar uma arbitragem passo a passo em contratos inteligentes
Jogo de Verificação de Uma Fase
O núcleo do jogo de verificação de uma única fase é construir uma máquina virtual (VM), para execução off-chain e arbitragem on-chain. Para melhorar a eficiência da inferência do modelo de IA, a OPML implementou uma biblioteca DNN leve e fornece scripts para converter modelos Tensorflow e PyTorch para o formato dessa biblioteca. Através da compilação cruzada, o código de inferência do modelo de IA é compilado em instruções da VM.
As imagens de VM são geridas através de uma árvore de Merkle, sendo apenas o hash raiz carregado na cadeia. O protocolo de divisão ajuda a localizar etapas de disputa e enviá-las para o contrato de arbitragem na cadeia. Testes mostraram que o modelo básico de IA leva apenas 2 segundos para inferir na VM, e todo o processo de desafio pode ser concluído em 2 minutos.
Jogo de Verificação de Múltiplas Fases
Para superar as limitações do esquema de uma única fase, a OPML propôs um jogo de validação em várias fases:
Apenas calcular na VM na fase final
Outras etapas podem ser executadas em ambiente local, utilizando aceleração CPU/GPU/TPU
Melhorar significativamente o desempenho ao reduzir a dependência de VM
O esquema de múltiplas fases garante a integridade e segurança das transições entre fases através da árvore de Merkle.
Usando o modelo LLaMA como exemplo, a OPML adota um método em duas fases:
A segunda fase realiza um jogo de validação sobre o gráfico computacional, podendo utilizar GPU para aceleração.
A primeira fase converte o cálculo de um único nó em execução de instruções de VM.
A OPML de múltiplas fases pode alcançar uma aceleração de α vezes de dezenas a centenas de vezes ( em comparação com a de uma única fase, ao mesmo tempo que reduz significativamente o tamanho da árvore de Merkle.
Para garantir a consistência dos resultados do ML, o OPML utiliza dois métodos chave:
Utilizar algoritmos de ponto fixo ) para tecnologia de quantização (, reduzindo erros de arredondamento de ponto flutuante.
Adotar uma biblioteca de ponto flutuante baseada em software, garantindo consistência entre plataformas
Estas tecnologias superaram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do OPML.
OPML embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele oferece uma solução eficiente, de baixo custo e com Descentralização para aprendizado de máquina na blockchain, merecendo a contínua atenção e exploração da indústria.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
12 gostos
Recompensa
12
6
Partilhar
Comentar
0/400
FloorSweeper
· 9h atrás
Isso consegue rodar no PC? Vamos lá!
Ver originalResponder0
staking_gramps
· 9h atrás
Verificar o mecanismo do jogo é muito bom.
Ver originalResponder0
Ramen_Until_Rich
· 9h atrás
Vem, vem, vem, isto realmente tem potencial.
Ver originalResponder0
ForkItAllDay
· 9h atrás
Um computador comum consegue fazer isso, é incrível!
OPML: Nova solução de aprendizado de máquina descentralizada, eficiente e de baixo custo na cadeia.
OPML: um método eficiente de Descentralização em aprendizado de máquina
OPML(Aprendizado de Máquina Otimista) é um método inovador que permite a inferência e o treinamento/ajuste fino de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML tem vantagens em termos de baixo custo e alta eficiência. O limiar de participação do OPML é muito baixo, e PCs comuns podem executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB, sem necessidade de GPU.
OPML adota um mecanismo de jogo de verificação para garantir a Descentralização e a verificabilidade dos serviços de ML. O processo específico é o seguinte:
Jogo de Verificação de Uma Fase
O núcleo do jogo de verificação de uma única fase é construir uma máquina virtual (VM), para execução off-chain e arbitragem on-chain. Para melhorar a eficiência da inferência do modelo de IA, a OPML implementou uma biblioteca DNN leve e fornece scripts para converter modelos Tensorflow e PyTorch para o formato dessa biblioteca. Através da compilação cruzada, o código de inferência do modelo de IA é compilado em instruções da VM.
As imagens de VM são geridas através de uma árvore de Merkle, sendo apenas o hash raiz carregado na cadeia. O protocolo de divisão ajuda a localizar etapas de disputa e enviá-las para o contrato de arbitragem na cadeia. Testes mostraram que o modelo básico de IA leva apenas 2 segundos para inferir na VM, e todo o processo de desafio pode ser concluído em 2 minutos.
Jogo de Verificação de Múltiplas Fases
Para superar as limitações do esquema de uma única fase, a OPML propôs um jogo de validação em várias fases:
O esquema de múltiplas fases garante a integridade e segurança das transições entre fases através da árvore de Merkle.
Usando o modelo LLaMA como exemplo, a OPML adota um método em duas fases:
A OPML de múltiplas fases pode alcançar uma aceleração de α vezes de dezenas a centenas de vezes ( em comparação com a de uma única fase, ao mesmo tempo que reduz significativamente o tamanho da árvore de Merkle.
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Garantia de Consistência
Para garantir a consistência dos resultados do ML, o OPML utiliza dois métodos chave:
Estas tecnologias superaram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do OPML.
OPML embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele oferece uma solução eficiente, de baixo custo e com Descentralização para aprendizado de máquina na blockchain, merecendo a contínua atenção e exploração da indústria.
![OPML:采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(