Прорив продуктивності моделі Manus викликав роздуми про шляхи розвитку ШІ

Нещодавно модель Manus досягла проривних результатів у бенчмаркінгу GAIA, її продуктивність перевершила продуктивність великих мовних моделей того ж рівня. Це означає, що Manus може самостійно виконувати складні завдання, такі як міжнародні комерційні переговори, що включають аналіз умов контракту, розробку стратегій та генерування пропозицій, а також може координувати юридичні та фінансові команди.

Переваги Manus в основному полягають у трьох аспектах: здатності до динамічного розподілу цілей, здатності до крос-модального висновку та здатності до навчання з підкріпленням, що підсилює пам'ять. Він може розбивати складні завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних і постійно підвищуючи ефективність прийняття рішень і знижуючи рівень помилок за допомогою навчання з підкріпленням.

Цей прорив ще раз спровокував обговорення щодо майбутніх шляхів розвитку в галузі штучного інтелекту: чи рухатися в напрямку загального штучного інтелекту (AGI), чи домінувати завдяки системам з багатьма агентами (MAS)?

Дизайнерська концепція Manus натякає на дві можливості: перша - шлях AGI, шляхом постійного підвищення рівня одиничного інтелекту, наближаючи його до комплексної здатності прийняття рішень людиною; друга - шлях MAS, як суперкоординатор, що керує тисячами спеціалізованих агентів у спільній роботі.

На перший погляд, це суперечка про технологічні шляхи, яка насправді відображає глибокий конфлікт між ефективністю та безпекою у розвитку ШІ. Чим ближче одиночний інтелект до AGI, тим вищий ризик непрозорості його процесу прийняття рішень; тоді як співпраця багатьох агентів може розподілити ризики, але через затримку в комунікації можна втратити критично важливі моменти для прийняття рішень.

Прогрес Manus також посилив вроджені ризики розвитку ШІ, включаючи питання конфіденційності даних, упередженості алгоритмів і ворожих атак. Наприклад, у медичному контексті Manus потребує доступу до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені неопубліковані фінансові дані компаній. У процесі набору персоналу може виникнути дискримінація заробітної плати певних груп; під час перевірки юридичних контрактів може бути високий рівень помилок у оцінці положень нових галузей. Крім того, хакери можуть впроваджувати специфічні звукові частоти, щоб заважати судженням Manus під час переговорів.

Ці виклики підкреслюють тривожний факт: чим розумніші системи ШІ, тим ширшим є їх потенційна поверхня атаки.

У сфері Web3 безпека завжди була основною проблемою. У рамках концепції "неможливого трикутника", запропонованої засновником Ethereum Віталіком Бутеріним (блокчейн-мережі не можуть одночасно досягти безпеки, децентралізації та масштабованості), виникло безліч криптографічних технологій:

1. Модель нульового довіри: на основі принципу "не довіряйте нікому, завжди перевіряйте", кожен запит на доступ проходить сувору перевірку особи та авторизацію.

2. Децентралізована ідентичність (DID): новий тип децентралізованого стандарту цифрової ідентифікації, який дозволяє проводити верифікацію особи без центрального реєстраційного органу.

3. Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи конфіденційність даних і реалізуючи їхню цінність.

Серед цих технологій FHE вважається важливим інструментом для вирішення проблем безпеки в епоху ШІ. Він може забезпечити захист на кількох рівнях:

• Дані: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому вигляді, і навіть сама AI-система не може розшифрувати оригінальні дані.

• Алгоритмічний рівень: реалізація "навчання зашифрованої моделі" через FHE, що забезпечує непомітність процесу прийняття рішень AI від зовнішнього спостереження.

• Координаційний рівень: комунікація між кількома агентами здійснюється з використанням порогового шифрування, злом одного вузла не призведе до витоку глобальних даних.

Хоча технології безпеки Web3 можуть не мати безпосереднього зв'язку з простими користувачами, вони мають глибокий вплив на інтереси користувачів. У цьому складному середовищі постійне вдосконалення заходів безпеки є вкрай важливим.

Деякі проекти вже досягли прогресу в цих сферах. Наприклад, uPort у 2017 році випустив рішення для децентралізованої ідентичності, NKN у 2019 році представив основну мережу на основі моделі нульового довіри. А в сфері FHE, Mind Network став першим проектом, який запустив основну мережу, і уклав угоди з кількома відомими установами.

З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нетрадиційні системи захисту стають дедалі важливішими. Технології, такі як FHE, не лише вирішують актуальні проблеми, але й закладають основу для майбутньої епохи сильного штучного інтелекту. На шляху до AGI ці технології безпеки вже стали невід'ємними елементами.