Nuevos desafíos de seguridad en la tendencia de fusión entre AI y Web3

Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión entre IA y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. Durante el evento de dos días, varios expertos de la industria llevaron a cabo un profundo debate sobre el estado actual de la aplicación de la tecnología de IA en las finanzas descentralizadas (DeFi) y los desafíos de seguridad.

Con el rápido desarrollo de los modelos de lenguaje grande (LLM) y los agentes de IA, está surgiendo un nuevo paradigma financiero: las finanzas descentralizadas impulsadas por inteligencia artificial (DeFAI). Sin embargo, esta innovación también ha traído nuevas superficies de ataque y riesgos de seguridad.

Los expertos presentes señalaron que, aunque DeFAI tiene un gran potencial, también nos exige reconsiderar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógicas fijas, el proceso de toma de decisiones de los agentes de IA está influenciado por el contexto, el tiempo e incluso las interacciones históricas; esta imprevisibilidad no solo agrava el riesgo, sino que también crea oportunidades para los atacantes.

Un agente de IA es esencialmente un agente inteligente que puede tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, generalmente autorizado para operar por un usuario, un protocolo o una DAO. Uno de los ejemplos más típicos son los bots de trading de IA. Actualmente, la mayoría de los agentes de IA operan sobre una arquitectura Web2, dependiendo de servidores centralizados y APIs, lo que los hace vulnerables a amenazas como ataques de inyección, manipulación de modelos o alteración de datos. Una vez secuestrados, no solo pueden provocar pérdidas financieras, sino que también pueden afectar la estabilidad de todo el protocolo.

Se mencionó un escenario de ataque típico en el foro: cuando un agente de trading AI operado por un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante podría publicar alertas falsas, como "un protocolo está bajo ataque", engañando al agente para que inicie inmediatamente una liquidación de emergencia. Esta operación no solo puede resultar en pérdidas de activos para el usuario, sino que también puede provocar volatilidad en el mercado, que el atacante puede aprovechar mediante el front running.

En relación con estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA no debe ser asumida únicamente por una parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.

Primero, los usuarios deben comprender claramente el alcance de los permisos que posee el agente, otorgar permisos con cautela y prestar atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa desde la etapa de diseño, como: refuerzo de palabras clave, aislamiento en sandbox, limitación de velocidad y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.

Los expertos advierten: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, la recomendación es: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo tanto, se requiere una auditoría de seguridad profesional y pruebas de penetración."

Como uno de los eventos de blockchain más influyentes de Europa, IBW ha atraído a más de 15,000 participantes, incluidos desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial por parte de la Comisión de Mercados de Capitales de Turquía (CMB) de la emisión de licencias para proyectos de blockchain, el estatus de IBW en la industria se ha elevado aún más.