🫡 @Mira_Network quer mudar a abordagem para resolver o impasse — em vez de deixar a IA decidir sozinha, por que não criar um sistema que esteja "acima" da IA, responsável por verificar se o que a IA diz está realmente correto. Agora, todos estão falando sobre o quão poderosa a IA é, mas os cenários que realmente podem ser aplicados são bastante limitados.
No fim das contas, o maior problema da IA atualmente é a sua "falta de confiabilidade" – ela consegue produzir conteúdos que parecem muito lógicos, mas, ao examiná-los de perto, você percebe que frequentemente há informações falsas misturadas. Este problema é aceitável em chatbots, mas, uma vez que se aplica a cenários de alto risco como saúde, direito e finanças, isso é completamente inaceitável.
Por que a IA age assim? Uma razão central é que ela sempre tem dificuldade em equilibrar "precisão" e "estabilidade". Se você deseja que ela produza saídas mais estáveis, precisa coletar dados de treinamento mais limpos, o que pode facilmente introduzir preconceitos. Por outro lado, se você deseja que ela se aproxime mais do mundo real e tenha uma cobertura mais abrangente, precisa incluir muitas informações conflitantes, e o modelo acaba se tornando "não confiável", ou seja, propenso a alucinações.
Esta abordagem é um pouco como instalar um "verificador de fatos" na IA. A IA primeiro produz o conteúdo, e depois a Mira divide esse conteúdo em pequenos julgamentos, que são enviados a múltiplos modelos independentes para validação, verificando se essas conclusões são confiáveis. Após os múltiplos modelos chegarem a um consenso, um relatório de validação é gerado através de nós na blockchain, o que equivale a colocar uma marca de "verificado".
Esta direção é muito interessante, pois não se trata de mudar o "cérebro" da IA, mas sim de equipar a IA com um "sistema de supervisão". Se este sistema realmente funcionar bem, no futuro poderemos confiar na IA para realizar tarefas mais complexas e de maior risco, como escrever contratos automaticamente, revisar código automaticamente, e até tomar decisões independentes. Esta é a verdadeira infraestrutura da IA.
A chave é que há uma atividade de ranking no @KaitoAI, recentemente @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY também está com muita popularidade.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
🫡 @Mira_Network quer mudar a abordagem para resolver o impasse — em vez de deixar a IA decidir sozinha, por que não criar um sistema que esteja "acima" da IA, responsável por verificar se o que a IA diz está realmente correto. Agora, todos estão falando sobre o quão poderosa a IA é, mas os cenários que realmente podem ser aplicados são bastante limitados.
No fim das contas, o maior problema da IA atualmente é a sua "falta de confiabilidade" – ela consegue produzir conteúdos que parecem muito lógicos, mas, ao examiná-los de perto, você percebe que frequentemente há informações falsas misturadas. Este problema é aceitável em chatbots, mas, uma vez que se aplica a cenários de alto risco como saúde, direito e finanças, isso é completamente inaceitável.
Por que a IA age assim? Uma razão central é que ela sempre tem dificuldade em equilibrar "precisão" e "estabilidade". Se você deseja que ela produza saídas mais estáveis, precisa coletar dados de treinamento mais limpos, o que pode facilmente introduzir preconceitos. Por outro lado, se você deseja que ela se aproxime mais do mundo real e tenha uma cobertura mais abrangente, precisa incluir muitas informações conflitantes, e o modelo acaba se tornando "não confiável", ou seja, propenso a alucinações.
Esta abordagem é um pouco como instalar um "verificador de fatos" na IA. A IA primeiro produz o conteúdo, e depois a Mira divide esse conteúdo em pequenos julgamentos, que são enviados a múltiplos modelos independentes para validação, verificando se essas conclusões são confiáveis. Após os múltiplos modelos chegarem a um consenso, um relatório de validação é gerado através de nós na blockchain, o que equivale a colocar uma marca de "verificado".
Esta direção é muito interessante, pois não se trata de mudar o "cérebro" da IA, mas sim de equipar a IA com um "sistema de supervisão". Se este sistema realmente funcionar bem, no futuro poderemos confiar na IA para realizar tarefas mais complexas e de maior risco, como escrever contratos automaticamente, revisar código automaticamente, e até tomar decisões independentes. Esta é a verdadeira infraestrutura da IA.
A chave é que há uma atividade de ranking no @KaitoAI, recentemente @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY também está com muita popularidade.