🫡 @Mira_Network quiere cambiar el enfoque para romper el estancamiento: en lugar de dejar que la IA decida por sí misma, es mejor crear un sistema que, desde "el nivel superior" de la IA, se encargue de verificar si lo que dice la IA es correcto o no. Ahora todos están hablando de lo mucho que es la IA, pero los escenarios realmente aplicables son en realidad muy limitados.
En última instancia, el mayor problema de la IA en este momento es que es "poco confiable"; puede generar contenido que parece muy lógico, pero al mirarlo de cerca, a menudo encuentras información falsa. Este problema es aceptable en chatbots, pero una vez que se aplica a escenarios de alto riesgo como la medicina, el derecho o las finanzas, simplemente no es viable.
¿Por qué es así la IA? Una razón fundamental es que siempre le resulta difícil equilibrar la "precisión" y la "estabilidad". Si quieres que produzca resultados más estables, debes limpiar mejor los datos de entrenamiento, lo que puede introducir sesgos. Por el contrario, si deseas que se acerque más al mundo real y cubra más aspectos, debes incluir mucha información conflictiva, lo que hace que el modelo se vuelva "poco confiable" al hablar, es decir, propenso a ilusiones.
Esta forma es un poco como instalar un "verificador de hechos" en la IA. La IA primero genera contenido, luego Mira descompone este contenido en pequeños juicios y los envía a varios modelos independientes para verificar si estas conclusiones son fiables. Una vez que varios modelos llegan a un consenso, se genera un informe de verificación a través de nodos en la cadena, lo que equivale a marcarlo como "verificado".
Esta dirección es muy interesante, porque no se trata de cambiar el "cerebro" de la IA, sino de dotar a la IA de un "sistema de supervisión". Si este sistema realmente funciona bien, en el futuro podríamos confiar en que la IA realice tareas más complejas y de mayor riesgo, como redactar contratos automáticamente, auditar código automáticamente, e incluso tomar decisiones de manera independiente. Esta es la verdadera infraestructura de IA.
La clave es que tiene una actividad de lista en @KaitoAI, recientemente @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY también tiene una gran popularidad.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
🫡 @Mira_Network quiere cambiar el enfoque para romper el estancamiento: en lugar de dejar que la IA decida por sí misma, es mejor crear un sistema que, desde "el nivel superior" de la IA, se encargue de verificar si lo que dice la IA es correcto o no. Ahora todos están hablando de lo mucho que es la IA, pero los escenarios realmente aplicables son en realidad muy limitados.
En última instancia, el mayor problema de la IA en este momento es que es "poco confiable"; puede generar contenido que parece muy lógico, pero al mirarlo de cerca, a menudo encuentras información falsa. Este problema es aceptable en chatbots, pero una vez que se aplica a escenarios de alto riesgo como la medicina, el derecho o las finanzas, simplemente no es viable.
¿Por qué es así la IA? Una razón fundamental es que siempre le resulta difícil equilibrar la "precisión" y la "estabilidad". Si quieres que produzca resultados más estables, debes limpiar mejor los datos de entrenamiento, lo que puede introducir sesgos. Por el contrario, si deseas que se acerque más al mundo real y cubra más aspectos, debes incluir mucha información conflictiva, lo que hace que el modelo se vuelva "poco confiable" al hablar, es decir, propenso a ilusiones.
Esta forma es un poco como instalar un "verificador de hechos" en la IA. La IA primero genera contenido, luego Mira descompone este contenido en pequeños juicios y los envía a varios modelos independientes para verificar si estas conclusiones son fiables. Una vez que varios modelos llegan a un consenso, se genera un informe de verificación a través de nodos en la cadena, lo que equivale a marcarlo como "verificado".
Esta dirección es muy interesante, porque no se trata de cambiar el "cerebro" de la IA, sino de dotar a la IA de un "sistema de supervisión". Si este sistema realmente funciona bien, en el futuro podríamos confiar en que la IA realice tareas más complejas y de mayor riesgo, como redactar contratos automáticamente, auditar código automáticamente, e incluso tomar decisiones de manera independiente. Esta es la verdadera infraestructura de IA.
La clave es que tiene una actividad de lista en @KaitoAI, recientemente @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY también tiene una gran popularidad.