Проблемы безопасности с помощью искусственного интеллекта становятся все более актуальными, полностью гомоморфное шифрование становится решением.
Недавно модель ИИ под названием Manus достигла прорывных результатов в тестировании GAIA, превзойдя аналогичные крупные языковые модели. Manus продемонстрировала способность самостоятельно выполнять сложные задачи, такие как международные деловые переговоры, которые включают анализ контрактов, стратегическое планирование и разработку предложений. В отличие от традиционных систем, Manus имеет явные преимущества в динамическом разбиении целей, межмодальном рассуждении и обучении с усилением памяти. Она может разбивать крупные задачи на сотни исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Появление Manus вновь вызвало обсуждение в индустрии о путях развития ИИ: будущее направлено на создание универсального искусственного интеллекта (AGI) или многоагентных систем (MAS)? Это на самом деле отражает основное противоречие в развитии ИИ: как сбалансировать эффективность и безопасность. Чем ближе единичный интеллект к AGI, тем менее прозрачным становится его процесс принятия решений, и, соответственно, риск возрастает; в то время как сотрудничество многоагентов может распределить риски, но может пропустить ключевые моменты для принятия решений из-за задержки связи.
С развитием систем ИИ, которые становятся все более умными, их потенциальные угрозы безопасности также увеличиваются. Например, в медицинских сценариях ИИ необходимо получать доступ к чувствительным генетическим данным пациентов; в финансовых переговорах могут быть задействованы неопубликованные финансовые данные компаний. Кроме того, в системах ИИ могут быть алгоритмические предвзятости, такие как несправедливые предложения по зарплате для определенных групп в процессе найма. Более серьезно, системы ИИ могут стать мишенью хакерских атак, когда через внедрение определенных сигналов можно повлиять на их суждения.
Для решения этих проблем в отрасли предложено множество стратегий безопасности, среди которых полностью гомоморфное шифрование (Fully Homomorphic Encryption, FHE) считается ключевой технологией для решения проблем безопасности в эпоху ИИ. FHE позволяет выполнять вычисления над данными в зашифрованном состоянии, что означает, что даже сама система ИИ не может расшифровать исходные данные.
На уровне данных FHE гарантирует, что вся информация, вводимая пользователем (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном состоянии, эффективно предотвращая утечку информации. На алгоритмическом уровне FHE реализует "обучение моделью шифрования", что делает невозможным для разработчиков подглядывать за процессом принятия решений ИИ. В области сотрудничества нескольких агентов использование технологии порогового шифрования может гарантировать, что даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
Хотя технологии безопасности Web3 могут не иметь прямого отношения к обычным пользователям, они оказывают глубокое влияние на каждого. В этом полном вызовов цифровом мире пользователям будет трудно защитить свои права, если они не примут активные меры безопасности.
В настоящее время несколько проектов исследуют область безопасности Web3. Например, один проект стал первым, кто реализовал технологию FHE в основной сети и начал сотрудничество с несколькими известными технологическими компаниями. Однако проекты в области безопасности часто не привлекают спекулянтов, и станет ли он лидером в области безопасности, еще предстоит выяснить со временем.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. FHE не только может решить текущие проблемы безопасности, но и заложить основу для будущей эпохи сильного ИИ. На пути к AGI FHE больше не является опциональным, а является необходимым условием для обеспечения безопасного развития ИИ.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
13 Лайков
Награда
13
6
Поделиться
комментарий
0/400
LuckyBlindCat
· 18ч назад
Эта шифрование надежно? Не очень верю.
Посмотреть ОригиналОтветить0
HodlKumamon
· 18ч назад
Понял, мяу~ Безопасность данных и шифрование — это самый большой щит будущего, десу
Посмотреть ОригиналОтветить0
ZeroRushCaptain
· 18ч назад
покупайте падения, став экспертами по банкоматам, по-прежнему живут в фантазиях бычьего рынка
Посмотреть ОригиналОтветить0
NftPhilanthropist
· 18ч назад
йо fhe это как новый proof-of-impact для безопасности ai fr
Посмотреть ОригиналОтветить0
ForkYouPayMe
· 18ч назад
Еще один продукт с пустыми обещаниями
Посмотреть ОригиналОтветить0
OnChainDetective
· 18ч назад
шаблоны указывают на еще одно разрекламированное "решение", если честно... я уже видел этот фильм
Полностью гомоморфное шифрование FHE: Безопасность с помощью искусственного интеллекта новая крепость
Проблемы безопасности с помощью искусственного интеллекта становятся все более актуальными, полностью гомоморфное шифрование становится решением.
Недавно модель ИИ под названием Manus достигла прорывных результатов в тестировании GAIA, превзойдя аналогичные крупные языковые модели. Manus продемонстрировала способность самостоятельно выполнять сложные задачи, такие как международные деловые переговоры, которые включают анализ контрактов, стратегическое планирование и разработку предложений. В отличие от традиционных систем, Manus имеет явные преимущества в динамическом разбиении целей, межмодальном рассуждении и обучении с усилением памяти. Она может разбивать крупные задачи на сотни исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Появление Manus вновь вызвало обсуждение в индустрии о путях развития ИИ: будущее направлено на создание универсального искусственного интеллекта (AGI) или многоагентных систем (MAS)? Это на самом деле отражает основное противоречие в развитии ИИ: как сбалансировать эффективность и безопасность. Чем ближе единичный интеллект к AGI, тем менее прозрачным становится его процесс принятия решений, и, соответственно, риск возрастает; в то время как сотрудничество многоагентов может распределить риски, но может пропустить ключевые моменты для принятия решений из-за задержки связи.
С развитием систем ИИ, которые становятся все более умными, их потенциальные угрозы безопасности также увеличиваются. Например, в медицинских сценариях ИИ необходимо получать доступ к чувствительным генетическим данным пациентов; в финансовых переговорах могут быть задействованы неопубликованные финансовые данные компаний. Кроме того, в системах ИИ могут быть алгоритмические предвзятости, такие как несправедливые предложения по зарплате для определенных групп в процессе найма. Более серьезно, системы ИИ могут стать мишенью хакерских атак, когда через внедрение определенных сигналов можно повлиять на их суждения.
Для решения этих проблем в отрасли предложено множество стратегий безопасности, среди которых полностью гомоморфное шифрование (Fully Homomorphic Encryption, FHE) считается ключевой технологией для решения проблем безопасности в эпоху ИИ. FHE позволяет выполнять вычисления над данными в зашифрованном состоянии, что означает, что даже сама система ИИ не может расшифровать исходные данные.
На уровне данных FHE гарантирует, что вся информация, вводимая пользователем (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном состоянии, эффективно предотвращая утечку информации. На алгоритмическом уровне FHE реализует "обучение моделью шифрования", что делает невозможным для разработчиков подглядывать за процессом принятия решений ИИ. В области сотрудничества нескольких агентов использование технологии порогового шифрования может гарантировать, что даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
Хотя технологии безопасности Web3 могут не иметь прямого отношения к обычным пользователям, они оказывают глубокое влияние на каждого. В этом полном вызовов цифровом мире пользователям будет трудно защитить свои права, если они не примут активные меры безопасности.
В настоящее время несколько проектов исследуют область безопасности Web3. Например, один проект стал первым, кто реализовал технологию FHE в основной сети и начал сотрудничество с несколькими известными технологическими компаниями. Однако проекты в области безопасности часто не привлекают спекулянтов, и станет ли он лидером в области безопасности, еще предстоит выяснить со временем.
С развитием технологий ИИ, приближающихся к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. FHE не только может решить текущие проблемы безопасности, но и заложить основу для будущей эпохи сильного ИИ. На пути к AGI FHE больше не является опциональным, а является необходимым условием для обеспечения безопасного развития ИИ.