O desempenho do Manus provoca uma disputa sobre o caminho de desenvolvimento da IA

Recentemente, a Manus alcançou resultados impressionantes nos testes de benchmark GAIA, com desempenho superior ao de grandes modelos de linguagem da mesma categoria. A Manus demonstrou a capacidade de realizar tarefas complexas de forma independente, como negociações comerciais internacionais, envolvendo análise de cláusulas contratuais, formulação de estratégias e geração de propostas, entre outros aspectos. Em comparação com sistemas tradicionais, a Manus se destaca por sua capacidade de desagregar objetivos dinâmicos, inferência multimodal e aprendizado aprimorado de memória. Ela consegue decompor tarefas complexas em centenas de subtarefas executáveis, lidando simultaneamente com vários tipos de dados, e melhora continuamente a eficiência da tomada de decisões e reduz a taxa de erros por meio do aprendizado por reforço.

O avanço do Manus provocou novamente discussões na indústria sobre o caminho de desenvolvimento da IA: o futuro será o domínio da inteligência artificial geral (AGI) ou a colaboração de sistemas multiagentes (MAS)?

O conceito de design da Manus implica duas possibilidades:

1. Caminho AGI: Aumentar continuamente o nível de inteligência individual para se aproximar da capacidade de decisão integrada humana.

2. Caminho MAS: como super coordenador, dirige milhares de agentes especializados a trabalharem em colaboração.

À primeira vista, trata-se de uma divergência entre diferentes caminhos tecnológicos, mas na realidade reflete a profunda contradição de como equilibrar eficiência e segurança no desenvolvimento da IA. Quanto mais próximo a inteligência individual está da AGI, maior é o risco da falta de transparência em seu processo de tomada de decisão; enquanto a colaboração entre múltiplos agentes pode dispersar o risco, pode também resultar na perda de momentos críticos de decisão devido a atrasos na comunicação.

O progresso da Manus também destaca os riscos inerentes ao desenvolvimento da IA:

1. Questões de privacidade de dados: em cenários de saúde, é necessário acessar dados sensíveis dos pacientes; nas negociações financeiras, podem estar envolvidos informações não divulgadas das empresas.

2. Viés algorítmico: nas negociações de recrutamento, pode haver propostas salariais injustas para determinados grupos; na revisão de contratos legais, pode haver uma taxa de erro elevada na avaliação das cláusulas de indústrias emergentes.

3. Ataques adversariais: hackers podem interferir no julgamento dos sistemas de IA ao implantar sinais específicos.

Esses desafios destacam uma realidade severa: quanto mais inteligentes os sistemas de IA, mais ampla é a sua superfície de ataque potencial.

Para enfrentar esses desafios, a indústria está explorando várias estratégias de segurança:

1. Modelo de segurança de zero confiança: exige autenticação e autorização rigorosas para cada solicitação de acesso.

2. Identidade descentralizada (DID): permite a identificação verificável e persistente, sem depender de um registro centralizado.

3. Criptografia totalmente homomórfica (FHE): permite realizar cálculos em dados no estado criptografado, protegendo a privacidade dos dados.

Dentre eles, o FHE é considerado a tecnologia chave para resolver problemas de segurança na era da IA. Ele pode desempenhar um papel nas seguintes áreas:

• Nível de dados: todas as informações inseridas pelo usuário são processadas em estado criptografado, mesmo o próprio sistema de IA não consegue descriptografar os dados originais.

• Nível algorítmico: implementar "treinamento de modelos criptografados" por meio de FHE, garantindo que o processo de decisão da IA não seja espionado.

• Nível de colaboração: A comunicação entre vários agentes utiliza criptografia de limiar, evitando que falhas pontuais causem a divulgação de dados globais.

Embora o desenvolvimento de tecnologias de segurança Web3 possa não ter uma relação direta com o usuário comum, é crucial para a saúde do desenvolvimento de todo o ecossistema. Na era do rápido desenvolvimento da IA, a importância das tecnologias de segurança é evidente.

À medida que a tecnologia de IA se aproxima cada vez mais do nível de inteligência humana, precisamos de sistemas de defesa mais avançados. Tecnologias de segurança como FHE não apenas resolvem problemas atuais, mas também pavimentam o caminho para uma era de IA mais poderosa no futuro. No caminho para a AGI, essas tecnologias de segurança não são mais uma opção, mas uma necessidade de sobrevivência.