Нові дослідження довірчого рівня AI: Запуск публічної Тестової мережі Mira

Нещодавно публічна тестова мережа Mira офіційно запустилася, цей проект має на меті побудувати рівень довіри для ШІ. Отже, чому ШІ потрібно довіряти? Як Mira вирішує цю проблему?

Обговорюючи ШІ, люди зазвичай більше зосереджуються на його потужних можливостях. Проте проблема "ілюзій" або упереджень ШІ часто залишається без уваги. Що стосується "ілюзій" ШІ, то простими словами, це означає, що іноді ШІ може "вигадувати" інформацію, нібито обґрунтовуючи деякі неіснуючі явища.

"Галюцинації" або упередження штучного інтелекту пов'язані з поточним шляхом технологій ШІ. Генеративний ШІ досягає узгодженості та раціональності, прогнозуючи "найімовірніший" контент, але іноді важко перевірити достовірність. Крім того, навчальні дані можуть містити помилки, упередження або навіть вигаданий контент, що також впливає на вихідні дані ШІ. Іншими словами, ШІ вивчає мовні моделі людей, а не самі факти.

Сучасні механізми генерації ймовірностей та моделі, що базуються на даних, майже неминуче призводять до того, що ШІ створює "ілюзії". Ці упереджені або ілюзорні результати можуть тимчасово не мати прямих наслідків у загальних знаннях або розважальному контенті, але в таких високопрофесійних сферах, як медицина, право, авіація, фінанси, вони можуть мати значний вплив. Тому вирішення проблеми ілюзій та упереджень ШІ стає одним із ключових питань у процесі еволюції ШІ.

Проєкт Mira намагається вирішити проблеми упередженості та ілюзій в AI, створюючи шар довіри для AI, що підвищує надійність AI. То як же Mira зменшує упередженість та ілюзії в AI і врешті-решт досягає довіреного AI?

Основна стратегія Mira полягає у верифікації AI-виходу шляхом консенсусу між кількома AI-моделями. По суті, Mira є мережею верифікації, яка використовує консенсус кількох AI-моделей для перевірки надійності AI-виходу. Що ще важливіше, Mira використовує децентралізований консенсус для верифікації.

Ключем мережі Mira є децентралізована верифікація консенсусу. Цей метод поєднує переваги криптографічної сфери та характеристики багатомодельної координації, зменшуючи упередження та ілюзії за допомогою колективної моделі верифікації.

У контексті архітектури верифікації, протокол Mira підтримує перетворення складного контенту в незалежні верифікаційні декларації. Оператори вузлів беруть участь у верифікації цих декларацій, забезпечуючи добросовісність операторів вузлів через механізми економічних стимулів/покарань. Різні моделі ШІ та розподілені оператори вузлів спільно беруть участь у забезпеченні надійності результатів верифікації.

Мережна архітектура Mira включає в себе конвертацію контенту, розподілену верифікацію та механізм консенсусу. По-перше, система розкладає подані клієнтом кандидатні матеріали на верифіковані заяви, після чого розподіляє їх на вузли для верифікації, а потім підсумовує результати для досягнення консенсусу. Для захисту конфіденційності клієнтів заяви будуть розподілені на різні вузли у випадковій шардовій формі.

Оператори вузлів відповідають за запуск моделей валідації, обробку заявок та подання результатів валідації. Їх мотивація до участі у валідації походить з отримуваного доходу, який виникає з цінності, створеної для клієнтів. Мета мережі Mira полягає в зниженні рівня помилок ШІ, особливо в таких сферах, як медицина, право, авіація, фінанси, де це може мати величезну цінність.

Щоб запобігти спекуляціям з боку операторів вузлів, вузли, які постійно відхиляються від консенсусу, будуть позбавлені частини стейкованих токенів. Ця економічна механіка гри забезпечує чесну участь операторів вузлів у верифікації.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ. Вона будує децентралізовану мережу консенсусної верифікації на основі кількох моделей ШІ, що забезпечує вищу надійність для послуг ШІ клієнтів, зменшує упередженість та ілюзії ШІ, задовольняючи вимоги клієнтів до більшої точності та точності.

Наразі Mira співпрацює з кількома фреймворками AI agent. Користувачі можуть брати участь у публічній тестовій мережі Mira через Klok (додаток для чату на основі LLM від Mira), випробувати перевірені AI-результати та отримати можливість заробити бали Mira. Цей новий тип довірчого шару AI обіцяє сприяти глибшому розвитку застосувань AI.