Прорив продуктивності Manus викликав суперечку щодо шляхів розвитку ШІ

Не так давно Manus досяг значних успіхів у тестуванні GAIA, перевершивши продуктивність великих мовних моделей того ж рівня. Manus продемонстрував здатність самостійно виконувати складні завдання, такі як міжнародні бізнес-переговори, що включають аналіз умов контракту, розробку стратегій та генерацію пропозицій. Порівняно з традиційними системами, перевагою Manus є його динамічне розподілення цілей, крос-модальне міркування та можливості посилення пам'яті. Він може розбивати складні завдання на кілька сотень виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно покращувати ефективність прийняття рішень і знижувати ймовірність помилок за допомогою підкріпленого навчання.

Прорив Manus знову викликав дискусію в галузі про шлях розвитку штучного інтелекту: чи буде в майбутньому домінувати штучний загальний інтелект (AGI), чи в мультиагентних системах (MAS) домінуватиме синергічно?

Дизайнерська концепція Manus містить у собі дві можливості:

1. Шлях AGI: постійно підвищуючи рівень одиничного інтелекту, наближаючи його до загальної здатності прийняття рішень людиною.

2. Шлях MAS: як суперкоординатор, керує співпрацею тисяч професійних агентів.

На поверхні це розбіжність різних технологічних шляхів, але насправді це відображає глибокий конфлікт у балансуванні між ефективністю та безпекою у розвитку ШІ. Чим ближче одиничний інтелект до AGI, тим вищий ризик непрозорості його процесу прийняття рішень; хоча співпраця багатьох агентів може розподілити ризики, вона може також призвести до втрати ключових моментів прийняття рішень через затримку в комунікації.

Прогрес Manus також підкреслює вроджені ризики розвитку ШІ:

1. Проблеми конфіденційності даних: у медичних сценаріях необхідно отримати доступ до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені непублічна інформація підприємств.

2. Алгоритмічна упередженість: під час переговорів про прийом на роботу можуть бути надані несправедливі пропозиції щодо зарплати для певних груп; під час перевірки юридичних контрактів може бути високий рівень помилок у оцінці умов нових галузей.

3. Атаку на витривалість: хакери можуть впроваджувати специфічні сигнали, щоб заважати судженням системи штучного інтелекту.

Ці виклики підкреслюють сувору реальність: чим розумніші системи ШІ, тим ширшими є їхні потенційні вразливості.

Щоб впоратися з цими викликами, галузь досліджує різні стратегії безпеки:

1. Модель нульового довіри в безпеці: вимагає сувірної аутентифікації та авторизації для кожного запиту на доступ.

2. Децентралізовані ідентичності (DID): реалізація перевіряємої та стійкої ідентифікації, без необхідності покладатися на централізовані реєстри.

3. Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому стані, захищаючи приватність даних.

Зокрема, FHE вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Він може відігравати роль у таких аспектах:

• Рівень даних: Уся інформація, введена користувачем, обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати оригінальні дані.

• Алгоритмічний рівень: реалізація "шифрованого навчання моделі" через FHE, що забезпечує недоступність процесу прийняття рішень AI.

• Співпраця: комунікація між кількома агентами здійснюється за допомогою шифрування з порогом, щоб запобігти витоку глобальних даних через єдину точку відмови.

Незважаючи на те, що розвиток технологій безпеки Web3 може не мати прямого зв'язку з звичайними користувачами, він має вирішальне значення для здорового розвитку всієї екосистеми. У часи швидкого розвитку ШІ важливість технологій безпеки очевидна.

З наближенням технологій штучного інтелекту до рівня людського інтелекту, нам потрібні більш просунуті системи захисту. Безпечні технології, такі як FHE, можуть не лише вирішити поточні проблеми, але й прокласти шлях до більш потужної ери ШІ в майбутньому. На шляху до AGI ці безпечні технології більше не є опціональними, а стають необхідністю для виживання.