Новые вызовы безопасности в условиях слияния AI и Web3

Недавно на Стамбульской неделе блокчейна (IBW 2025) было сосредоточено внимание на тенденциях слияния AI и Web3, став важной платформой для обсуждения вопросов безопасности в области Web3 в этом году. В течение двух дней мероприятия несколько отраслевых экспертов провели углубленное обсуждение текущего состояния и проблем безопасности применения AI-технологий в децентрализованных финансах (DeFi).

С быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется новая финансовая парадигма — децентрализованные финансовые технологии с использованием искусственного интеллекта (DeFAI). Однако эта инновация также создает совершенно новые векторы атак и угрозы безопасности.

Участники конференции отметили, что, хотя DeFAI имеет большие перспективы, он также требует от нас переосмысления механизмов доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентов подвержен влиянию контекста, времени и даже исторических взаимодействий. Эта непредсказуемость не только усугубляет риски, но и создает возможности для злоумышленников.

AI-агенты по сути являются интеллектуальными системами, которые могут самостоятельно принимать решения и выполнять их на основе логики ИИ, обычно работают по разрешению пользователей, протоколов или DAO. Наиболее典型ным представителем является AI-торговый бот. В настоящее время большинство AI-агентов функционирует на основе архитектуры Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для атак внедрения, манипуляций с моделями или подделки данных. Как только они были захвачены, это может не только привести к потере средств, но и повлиять на стабильность всего протокола.

В форуме упоминалась典型ная атака: когда AI-торговый агент, работающий на DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложные предупреждения, такие как "протокол подвергся атаке", чтобы заставить агента немедленно запустить экстренную ликвидацию. Эта операция не только приведет к потере активов пользователя, но и вызовет колебания на рынке, которые затем могут быть использованы злоумышленником через фронт-раннинг.

С учетом этих рисков эксперты, присутствовавшие на встрече, в целом считают, что безопасность AI-агентов не должна ложиться на одну сторону, а является совместной ответственностью пользователей, разработчиков и третьих сторон, обеспечивающих безопасность.

Во-первых, пользователи должны четко понимать объем полномочий, которыми обладает агент, осторожно предоставлять полномочия и внимательно проверять высокорисковые операции AI-агента. Во-вторых, разработчики должны внедрять меры защиты на стадии проектирования, такие как: укрепление подсказок, изоляция в песочнице, ограничение скорости и механизмы отката. Третьи стороны, занимающиеся безопасностью, должны предоставлять независимую проверку поведения моделей AI-агентов, инфраструктуры и способов интеграции в блокчейн, сотрудничая с разработчиками и пользователями для выявления рисков и предложений по их смягчению.

Эксперты предупреждают: "Если продолжать рассматривать AI-агентов как 'черные ящики', то несчастные случаи в реальном мире — это лишь вопрос времени." Разработчикам, которые исследуют направление DeFAI, рекомендуется: "Как и в случае со смарт-контрактами, логика поведения AI-агентов также реализована кодом. Поскольку это код, существует вероятность атак, поэтому необходима профессиональная безопасность и тестирование на проникновение."

Как одно из самых влиятельных событий в области блокчейна в Европе, IBW привлекла более 15 000 участников, включая разработчиков, проекты, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции (CMB), отраслевой статус IBW получил дальнейшее повышение.