Manus logró resultados innovadores en la prueba de referencia GAIA

Recientemente, Manus ha logrado resultados revolucionarios en las pruebas de referencia de GAIA, superando el rendimiento de los grandes modelos de lenguaje de su categoría. Esto significa que Manus puede completar de manera independiente tareas complejas, como negociaciones comerciales internacionales, que implican la descomposición de cláusulas contractuales, anticipación de estrategias, generación de propuestas e incluso coordinación de equipos legales y financieros.

Las ventajas de Manus se manifiestan principalmente en tres aspectos: la capacidad de descomposición dinámica de objetivos, la capacidad de razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, procesar múltiples tipos de datos y mejorar continuamente su eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.

Este avance ha reavivado la discusión en la industria sobre la trayectoria evolutiva de la IA: ¿será el futuro dominado por una AGI que lo controle todo, o será la colaboración de MAS la que prevalezca? La filosofía de diseño de Manus insinúa dos posibilidades: una es la ruta de AGI, que se acerca a la capacidad de toma de decisiones integral del ser humano mediante la mejora continua del nivel de inteligencia individual; la otra es la ruta de MAS, que actúa como un supercoordinador, dirigiendo a miles de agentes de áreas verticales para que colaboren en la acción.

Este debate refleja en realidad la contradicción central de cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más se acerca la inteligencia unitaria a la AGI, mayor es el riesgo de que sus decisiones se conviertan en una caja negra; mientras que la colaboración entre múltiples agentes puede dispersar el riesgo, pero podría perder oportunidades clave de decisión debido a la latencia en la comunicación.

La evolución de Manus también ha amplificado los riesgos inherentes al desarrollo de la IA, como la privacidad de los datos, el sesgo algorítmico y los ataques adversariales. Por ejemplo, en el ámbito médico, Manus necesita acceder en tiempo real a los datos genómicos de los pacientes; en las negociaciones financieras, puede tocar información no pública sobre los informes financieros de la empresa. En las negociaciones de contratación, puede ofrecer recomendaciones salariales por debajo del promedio para candidatos de ciertos grupos étnicos; en la revisión de contratos legales, la tasa de error en la interpretación de cláusulas de industrias emergentes podría acercarse al 50%. Además, los hackers también podrían implantar frecuencias de voz específicas, llevando a Manus a malinterpretar el rango de precios ofrecido por el oponente durante las negociaciones.

Estos desafíos destacan una dura realidad: cuanto más inteligente es el sistema, más amplia es su superficie de ataque.

En el ámbito de Web3, la seguridad ha sido un tema de gran atención. Basado en el marco del triángulo imposible propuesto por Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad), se han derivado múltiples métodos de encriptación:

1. Modelo de seguridad de confianza cero: la idea central es "no confiar en nadie, siempre verificar", enfatizando la estricta autenticación y autorización de cada solicitud de acceso.

2. Identidad descentralizada (DID): un conjunto de estándares de identificadores que permite a las entidades obtener identificación de manera verificable y persistente, sin necesidad de un registro centralizado.

3. Encriptación completamente homomórfica (FHE): permite realizar cálculos arbitrarios sobre datos cifrados sin la necesidad de descifrarlos, aplicable a escenarios como la computación en la nube y la externalización de datos.

Entre ellos, la criptografía totalmente homomórfica se considera una herramienta poderosa para resolver los problemas de seguridad en la era de la IA. Puede desempeñar un papel en los siguientes niveles:

1. Capa de datos: toda la información ingresada por el usuario (incluyendo características biométricas, tono de voz) se procesa en un estado de cifrado, ni siquiera el propio sistema de IA puede descifrar los datos originales.

2. Nivel algorítmico: a través de FHE se logra "entrenamiento de modelos encriptados", ni siquiera los desarrolladores pueden espiar el camino de decisión de la IA.

3. Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, y la ruptura de un solo nodo no provocará la filtración de datos globales.

En el ámbito de la seguridad Web3, algunos proyectos ya han comenzado a explorar estas tecnologías:

• uPort se lanzó en la mainnet de Ethereum en 2017, siendo uno de los primeros proyectos de identidad descentralizada.
• NKN lanzó su mainnet en 2019, dedicada a la aplicación del modelo de seguridad de cero confianza.
• Mind Network es el primer proyecto FHE en línea en la mainnet y ha colaborado con varias instituciones reconocidas.

A pesar de que estos proyectos de seguridad pueden no recibir tanta atención como algunos proyectos especulativos, son cruciales para construir un ecosistema Web3 seguro.

A medida que la tecnología de IA se acerca constantemente al nivel de inteligencia humana, los sistemas de defensa no convencionales se vuelven cada vez más importantes. Tecnologías como FHE no solo pueden resolver los desafíos de seguridad actuales, sino que también sientan las bases para la era del fuerte AI en el futuro. En el camino hacia la AGI, estas tecnologías de seguridad ya no son opcionales, sino una necesidad para la supervivencia.