La superación del rendimiento del modelo Manus provoca reflexiones sobre la trayectoria del desarrollo de la IA

Recientemente, el modelo Manus ha logrado resultados innovadores en las pruebas de referencia de GAIA, superando el rendimiento de otros modelos de lenguaje de gran tamaño de su categoría. Esto significa que Manus puede completar de manera independiente tareas complejas como negociaciones comerciales multinacionales, que involucran el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas, e incluso puede coordinar equipos legales y financieros.

Las ventajas de Manus se reflejan principalmente en tres aspectos: la capacidad de descomposición dinámica de objetivos, la capacidad de razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, al mismo tiempo que procesa múltiples tipos de datos y mejora continuamente la eficiencia de toma de decisiones y reduce la tasa de errores a través del aprendizaje por refuerzo.

Este avance revolucionario ha reavivado el debate en el campo de la inteligencia artificial sobre las posibles direcciones futuras: ¿se desarrollará hacia la inteligencia artificial general (AGI) o se dominará colaborativamente mediante sistemas multi-agente (MAS)?

El concepto de diseño de Manus sugiere dos posibilidades: una es la ruta AGI, que implica mejorar continuamente el nivel de inteligencia individual para acercarse a la capacidad de toma de decisiones integral de los humanos; la otra es la ruta MAS, actuando como un supercoordinador que dirige a miles de agentes inteligentes en áreas especializadas para trabajar en conjunto.

A simple vista, se trata de una discusión sobre la ruta técnica, pero en realidad refleja la profunda contradicción de cómo equilibrar la eficiencia y la seguridad en el desarrollo de la IA. Cuanto más se acerque la inteligencia unitaria a la AGI, mayor será el riesgo de falta de transparencia en su proceso de toma de decisiones; mientras que la colaboración de múltiples agentes puede dispersar el riesgo, pero puede perder oportunidades clave de decisión debido a la latencia en la comunicación.

El progreso de Manus también ha amplificado los riesgos inherentes al desarrollo de la IA, incluidos problemas como la privacidad de los datos, el sesgo algorítmico y los ataques adversarios. Por ejemplo, en el ámbito médico, Manus necesita acceder a datos sensibles de los pacientes; en las negociaciones financieras, puede involucrar información financiera de empresas no divulgada. En el proceso de contratación, puede surgir discriminación salarial hacia grupos específicos; al revisar contratos legales, la evaluación de los términos de industrias emergentes puede tener una alta tasa de error. Además, los hackers pueden interferir en el juicio de Manus en las negociaciones al implantar frecuencias de voz específicas.

Estos desafíos destacan un hecho preocupante: cuanto más inteligentes son los sistemas de IA, más amplia es su superficie de ataque potencial.

En el ámbito de Web3, la seguridad siempre ha sido un enfoque central. El marco del "triángulo imposible" propuesto por Vitalik Buterin, fundador de Ethereum (las redes de blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad), ha dado lugar a diversas tecnologías criptográficas:

1. Modelo de seguridad de confianza cero: basado en la idea de "no confiar en nadie, siempre verificar", se lleva a cabo una estricta autenticación y autorización para cada solicitud de acceso.

2. Identidad descentralizada (DID): un nuevo estándar de identidad digital descentralizada que permite la verificación de identidad sin necesidad de una autoridad central de registro.

3. Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado encriptado, protegiendo la privacidad de los datos mientras se realiza el valor de los datos.

Entre estas tecnologías, FHE se considera una herramienta importante para resolver los problemas de seguridad en la era de la IA. Puede proporcionar protección en múltiples niveles:

• Capa de datos: Toda la información ingresada por el usuario (incluyendo características biométricas, voz, etc.) se procesa en estado cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.

• Nivel algorítmico: lograr "entrenamiento de modelos encriptados" a través de FHE, asegurando que el proceso de decisión de la IA no sea espiado por externos.

• Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, y la violación de un solo nodo no provocará la filtración de datos globales.

A pesar de que la tecnología de seguridad Web3 puede no estar directamente relacionada con los usuarios comunes, tiene un profundo impacto en los intereses de los usuarios. En este entorno desafiante, es crucial mejorar continuamente las medidas de seguridad.

Algunos proyectos ya han avanzado en estos campos. Por ejemplo, uPort lanzó una solución de identidad descentralizada en 2017, y NKN lanzó su red principal basada en un modelo de cero confianza en 2019. En el campo de FHE, Mind Network se convirtió en el primer proyecto en lanzar su red principal y ha colaborado con varias instituciones reconocidas.

Con el avance de la tecnología de IA hacia niveles de inteligencia humana, los sistemas de defensa no convencionales se vuelven cada vez más importantes. Tecnologías como FHE no solo abordan los problemas actuales, sino que también sientan las bases para la futura era de la IA fuerte. En el camino hacia la AGI, estas tecnologías de seguridad se han convertido en elementos indispensables.