Коли ми вперше говорили про децентралізацію ШІ, ми зосередилися на обчисленнях, даних та моделях управління – і це все ще має значення.
Проте, оскільки автономні агенти діють у реальних умовах, таких як торгівля активами, управління ланцюгами постачання та модерація спільнот, довіра є викликом, який виходить на перший план.
Не той м'який, людський тип, як «Мені подобається цей бренд» або «Їхній маркетинг переконливий».
У машинних економіках довіра повинна бути перевіряємою, кількісною та такою, що підлягає виконанню на швидкості протоколу.
Без цього децентралізований ШІ ризикує стати ареною високої пропускної спроможності для галюцинацій, спаму, експлуатації та каскадних збоїв.
Це не проблема, яку ми можемо вирішити за допомогою більшої обчислювальної потужності або чистіших наборів даних. Це проблема того, як ми вирішуємо, хто має право діяти.
Від неформальної довіри до правил протоколу
У Web 2.0 довіра була схожа на читання відгуків про ресторани – це підходило для вибору вечері, але не мало сенсу, коли тисячі автономних агентів приймають миттєві, впливові рішення.
Ці сигнали легко підробити, неможливо перевірити в масштабі та не несуть жодних вбудованих наслідків для поганих акторів.
У децентралізованих AI-мережах це не спрацює. Агенти більше не є ізольованими скриптами, що працюють на сервері любителя.
Це сутності, які запитують ресурси, виконують угоди, голосують у DAO та координують інших агентів.
Збитки є негайними та часто незворотними, якщо хтось діє зловмисно або некомпетентно.
Відповідь, яка виникає в дослідницькому співтоваристві, полягає в тому, щоб зробити довіру частиною інфраструктури.
Однією з пропозицій, яка набирає популярності, є ідея токенів AgentBound – непередаваних облікових даних, які слугують трек-рекордом для AI-агентів, вперше запропонована дослідником Томером Йорді Чаффером.
ABT – Паспорт для машин
ABT є неконтрольованим криптографічним посвідченням, яке фіксує поведінку агента протягом часу.
Думайте про це як про паспорт для машин – не з візами, а з підтвердженими виконаними роботами, досягнутими результатами та зафіксованими невдачами.
На відміну від залишків в гаманцях або сум стейкінгу, ABT не можна купити, продати або делегувати.
Вони заробляються через дії, оновлюються на основі перевірених показників і зменшуються за неналежну поведінку – доказ поведінки.
Це змінює стандарт з оплати за гру на доведення дії.
Токенові залишки можуть контролювати людей, але в машинних економіках вони неправильно оцінюють ризик – агенти дешево клонуються, можуть позичати капітал і працювати на швидкості машини, створюючи зовнішні ефекти, що значно перевищують їхні частки.
ABT заповнює цю прогалину, роблячи перевірену продуктивність дефіцитним ресурсом з часом.
У токеново-важких системах глибокі кишені купують доступ – у системах ABT-Gated лише надійна, прозора історія відкриває доступ до ролей з більшим впливом.
Надійність стає операційним забезпеченням.
Через реальний п'ятиетапний цикл ABT перетворюють поведінку агентів на операційний капітал, який може зростати, згасати або бути скороченим.
Розгляньте децентралізовану логістичну мережу. Новий маршрутизуючий агент з нульовою репутацією ABT починає під наглядом з невеликих вантажів.
Кожна перевірена робота отримує атестації – довіра зростає, поки вона не почне працювати автономно в регіоні.
Багатий оновлення тоді викликає затримки - валідатори сигналізують про це, і ABT штрафується, повертаючи агента до завдань з низьким ризиком.
Після чистого випробувального терміну його репутація відновлюється.
Це довіра як жива система, що здобувається, втрачається та відновлюється в формі, яку можуть зрозуміти машини, а протоколи можуть забезпечити.
Будуючи на ідеї, яка прив'язана до душі
Якщо це звучить концептуально близько до токенів Soulbound, то це так.
У своїй статті 2022 року «Децентралізоване суспільство – пошук душі Web 3.0» Глен Вейл, Пуджа Охлавер та Віталік Бутерін запропонували SBT як непередавальні документи для людської ідентичності – дипломи, членства, ліцензії.
ABT розширює цю логіку на машини.
Але там, де SBT в основному статичні ("ця особа закінчила X"), ABT є динамічними, оновлюючись з кожною перевіреною дією.
Вони більше стосуються того, як агент поводиться з часом, а не того, хто він є – і часовий елемент є критично важливим.
Бездоганна репутація минулого року мало що означає, якщо модель агента з тих пір погіршилася або була скомпрометована.
ABT захоплюють цю еволюцію, перетворюючи їх на живий сигнал, а не одноразову значку.
Репутаційні DAO як шар управління
ABT обробляють дані, незмінний запис того, що сталося, але хтось повинен встановити правила.
Що таке хороша чи погана поведінка? Яку вагу мають різні дії? Як вирішувати суперечки?
Репутаційні DAO — це децентралізовані органи управління, які визначають, підтримують і перевіряють рівень репутації.
Вони вирішують, які валідатори можуть оновлювати ABT, які метрики мають значення для певної сфери та як репутація знижується або відновлюється з часом.
Вони також можуть встановлювати рівні ризику в умовах високих ставок – агент модерації контенту потребує одного досвіду, щоб діяти автономно.
На відміну від цього, торговому боту може знадобитися інший. Децентралізуючи ці рішення, система уникне як захоплення єдиною владою, так і жорсткості жорстко закодованих правил.
Репутаційні DAO є людським елементом у процесі децентралізованого довіри – не мікроманажуючи кожну дію – а керуючи нормами та параметрами, які забезпечують чесність машинного рівня.
Виклики у програмуванні довіри
Нічого з цього не є тривіальним для реалізації. Найскладніші проблеми є соціальними та технічними одночасно.
Атаки Сібілла є очевидною загрозою – створюючи тисячі нових агентів для накопичення репутації в низькоризикових ролях, а потім використовуючи їх у більш ризикованих контекстах.
Запобігання цьому вимагає прив'язування ABT до сильних децентралізованих ідентичностей – і іноді до апаратного забезпечення або середовищ виконання, які не можуть бути дешево відтворені.
Репутаційне відмивання є ще одним ризиком.
Без запобіжних заходів система ABT може перетворитися на високопрофільну костюмовану вечірку, де зловмисні агенти надягають маску когось іншого, щоб потрапити до VIP-зали.
Протокольна нетрансферність, криптографічне зв'язування з ключами та суворі правила антиделегування є істотними.
Існує також компроміс між конфіденційністю та можливістю аудиту. Щоб довіряти агенту, потрібно знати, як він працював.
Однак публікація повних журналів рішень може розкрити чутливі дані або патентовані методи.
ZKPs (докази нульового знання) та агрегаційні метрики є багатообіцяючими способами вирішення цієї проблеми.
А потім є захоплення управління – якщо невелика група валідаторів контролює більшість оновлень, вони можуть внести до білого списку поганих акторів або покарати суперників.
Відкриті набори валідаторів, ротація та штрафи за змову допомагають розподілити цю владу.
Чому це важливо зараз
Ми знаходимося на етапі, коли децентралізований ШІ обмежується менше технологіями і більше легітимністю.
Не вирішуючи, які агенти можуть бути довірені яким ролям, мережі або централізують контроль, або приймають постійний ризик.
ABT та репутаційні DAO пропонують третій шлях – спосіб закодувати довіру безпосередньо в інфраструктуру, роблячи її такою ж рідною для системи, як консенсус.
Вони публічно відповідають на це питання, перетворюючи «хто контролює ШІ?» на «як визначається контроль, надається і відкликається?»
Перша хвиля Web 3.0 навчила нас довіряти незнайомцям з грошима.
Наступне повинно навчити нас довіряти незнайомцям у прийнятті рішень на швидкості машин, з наслідками, які жодна людина не може скасувати вчасно.
У агентській економіці це не є варіантом – це виживання.
Роман Мельник є головним маркетинговим директором в DeXe.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Машинна довіра – Чому репутація є наступним примітивом ШІ - The Daily Hodl
HodlX Гостьовий ПостПодайте Ваш Пост
Коли ми вперше говорили про децентралізацію ШІ, ми зосередилися на обчисленнях, даних та моделях управління – і це все ще має значення.
Проте, оскільки автономні агенти діють у реальних умовах, таких як торгівля активами, управління ланцюгами постачання та модерація спільнот, довіра є викликом, який виходить на перший план.
Не той м'який, людський тип, як «Мені подобається цей бренд» або «Їхній маркетинг переконливий».
У машинних економіках довіра повинна бути перевіряємою, кількісною та такою, що підлягає виконанню на швидкості протоколу.
Без цього децентралізований ШІ ризикує стати ареною високої пропускної спроможності для галюцинацій, спаму, експлуатації та каскадних збоїв.
Це не проблема, яку ми можемо вирішити за допомогою більшої обчислювальної потужності або чистіших наборів даних. Це проблема того, як ми вирішуємо, хто має право діяти.
Від неформальної довіри до правил протоколу
У Web 2.0 довіра була схожа на читання відгуків про ресторани – це підходило для вибору вечері, але не мало сенсу, коли тисячі автономних агентів приймають миттєві, впливові рішення.
Ці сигнали легко підробити, неможливо перевірити в масштабі та не несуть жодних вбудованих наслідків для поганих акторів.
У децентралізованих AI-мережах це не спрацює. Агенти більше не є ізольованими скриптами, що працюють на сервері любителя.
Це сутності, які запитують ресурси, виконують угоди, голосують у DAO та координують інших агентів.
Збитки є негайними та часто незворотними, якщо хтось діє зловмисно або некомпетентно.
Відповідь, яка виникає в дослідницькому співтоваристві, полягає в тому, щоб зробити довіру частиною інфраструктури.
Однією з пропозицій, яка набирає популярності, є ідея токенів AgentBound – непередаваних облікових даних, які слугують трек-рекордом для AI-агентів, вперше запропонована дослідником Томером Йорді Чаффером.
ABT – Паспорт для машин
ABT є неконтрольованим криптографічним посвідченням, яке фіксує поведінку агента протягом часу.
Думайте про це як про паспорт для машин – не з візами, а з підтвердженими виконаними роботами, досягнутими результатами та зафіксованими невдачами.
На відміну від залишків в гаманцях або сум стейкінгу, ABT не можна купити, продати або делегувати.
Вони заробляються через дії, оновлюються на основі перевірених показників і зменшуються за неналежну поведінку – доказ поведінки.
Це змінює стандарт з оплати за гру на доведення дії.
Токенові залишки можуть контролювати людей, але в машинних економіках вони неправильно оцінюють ризик – агенти дешево клонуються, можуть позичати капітал і працювати на швидкості машини, створюючи зовнішні ефекти, що значно перевищують їхні частки.
ABT заповнює цю прогалину, роблячи перевірену продуктивність дефіцитним ресурсом з часом.
У токеново-важких системах глибокі кишені купують доступ – у системах ABT-Gated лише надійна, прозора історія відкриває доступ до ролей з більшим впливом.
Надійність стає операційним забезпеченням.
Через реальний п'ятиетапний цикл ABT перетворюють поведінку агентів на операційний капітал, який може зростати, згасати або бути скороченим.
Розгляньте децентралізовану логістичну мережу. Новий маршрутизуючий агент з нульовою репутацією ABT починає під наглядом з невеликих вантажів.
Кожна перевірена робота отримує атестації – довіра зростає, поки вона не почне працювати автономно в регіоні.
Багатий оновлення тоді викликає затримки - валідатори сигналізують про це, і ABT штрафується, повертаючи агента до завдань з низьким ризиком.
Після чистого випробувального терміну його репутація відновлюється.
Це довіра як жива система, що здобувається, втрачається та відновлюється в формі, яку можуть зрозуміти машини, а протоколи можуть забезпечити.
Будуючи на ідеї, яка прив'язана до душі
Якщо це звучить концептуально близько до токенів Soulbound, то це так.
У своїй статті 2022 року «Децентралізоване суспільство – пошук душі Web 3.0» Глен Вейл, Пуджа Охлавер та Віталік Бутерін запропонували SBT як непередавальні документи для людської ідентичності – дипломи, членства, ліцензії.
ABT розширює цю логіку на машини.
Але там, де SBT в основному статичні ("ця особа закінчила X"), ABT є динамічними, оновлюючись з кожною перевіреною дією.
Вони більше стосуються того, як агент поводиться з часом, а не того, хто він є – і часовий елемент є критично важливим.
Бездоганна репутація минулого року мало що означає, якщо модель агента з тих пір погіршилася або була скомпрометована.
ABT захоплюють цю еволюцію, перетворюючи їх на живий сигнал, а не одноразову значку.
Репутаційні DAO як шар управління
ABT обробляють дані, незмінний запис того, що сталося, але хтось повинен встановити правила.
Що таке хороша чи погана поведінка? Яку вагу мають різні дії? Як вирішувати суперечки?
Репутаційні DAO — це децентралізовані органи управління, які визначають, підтримують і перевіряють рівень репутації.
Вони вирішують, які валідатори можуть оновлювати ABT, які метрики мають значення для певної сфери та як репутація знижується або відновлюється з часом.
Вони також можуть встановлювати рівні ризику в умовах високих ставок – агент модерації контенту потребує одного досвіду, щоб діяти автономно.
На відміну від цього, торговому боту може знадобитися інший. Децентралізуючи ці рішення, система уникне як захоплення єдиною владою, так і жорсткості жорстко закодованих правил.
Репутаційні DAO є людським елементом у процесі децентралізованого довіри – не мікроманажуючи кожну дію – а керуючи нормами та параметрами, які забезпечують чесність машинного рівня.
Виклики у програмуванні довіри
Нічого з цього не є тривіальним для реалізації. Найскладніші проблеми є соціальними та технічними одночасно.
Атаки Сібілла є очевидною загрозою – створюючи тисячі нових агентів для накопичення репутації в низькоризикових ролях, а потім використовуючи їх у більш ризикованих контекстах.
Запобігання цьому вимагає прив'язування ABT до сильних децентралізованих ідентичностей – і іноді до апаратного забезпечення або середовищ виконання, які не можуть бути дешево відтворені.
Репутаційне відмивання є ще одним ризиком.
Без запобіжних заходів система ABT може перетворитися на високопрофільну костюмовану вечірку, де зловмисні агенти надягають маску когось іншого, щоб потрапити до VIP-зали.
Протокольна нетрансферність, криптографічне зв'язування з ключами та суворі правила антиделегування є істотними.
Існує також компроміс між конфіденційністю та можливістю аудиту. Щоб довіряти агенту, потрібно знати, як він працював.
Однак публікація повних журналів рішень може розкрити чутливі дані або патентовані методи.
ZKPs (докази нульового знання) та агрегаційні метрики є багатообіцяючими способами вирішення цієї проблеми.
А потім є захоплення управління – якщо невелика група валідаторів контролює більшість оновлень, вони можуть внести до білого списку поганих акторів або покарати суперників.
Відкриті набори валідаторів, ротація та штрафи за змову допомагають розподілити цю владу.
Чому це важливо зараз
Ми знаходимося на етапі, коли децентралізований ШІ обмежується менше технологіями і більше легітимністю.
Не вирішуючи, які агенти можуть бути довірені яким ролям, мережі або централізують контроль, або приймають постійний ризик.
ABT та репутаційні DAO пропонують третій шлях – спосіб закодувати довіру безпосередньо в інфраструктуру, роблячи її такою ж рідною для системи, як консенсус.
Вони публічно відповідають на це питання, перетворюючи «хто контролює ШІ?» на «як визначається контроль, надається і відкликається?»
Перша хвиля Web 3.0 навчила нас довіряти незнайомцям з грошима.
Наступне повинно навчити нас довіряти незнайомцям у прийнятті рішень на швидкості машин, з наслідками, які жодна людина не може скасувати вчасно.
У агентській економіці це не є варіантом – це виживання.
Роман Мельник є головним маркетинговим директором в DeXe.