Новые исследования уровня доверия ИИ: Запуск публичной Тестовая сеть Mira

На днях была официально запущена публичная Тестовая сеть Mira, проект которой направлен на создание уровня доверия для ИИ. Так почему ИИ нуждается в доверии? Как Mira решает эту проблему?

При обсуждении ИИ люди часто больше заботятся о его мощных способностях. Однако проблема "галлюцинаций" или предвзятости ИИ часто игнорируется. Так называемые "галлюцинации" ИИ, проще говоря, это когда ИИ иногда "выдумывает" информацию, казалось бы, разумно объясняя некоторые несуществующие явления.

"Галлюцинации" или предвзятости ИИ связаны с текущими путями технологий ИИ. Генеративный ИИ достигает согласованности и разумности, предсказывая "наиболее вероятное" содержание, но иногда его трудно проверить на подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости и даже вымышленные материалы, что также влияет на выводы ИИ. Другими словами, ИИ учится языковым паттернам человека, а не самим фактам.

Текущие механизмы генерации вероятности и модели, основанные на данных, почти неизбежно приводят к тому, что ИИ создает "иллюзии". Эти предвзятые или иллюзорные результаты могут временно не иметь непосредственных последствий в области общих знаний или развлекательного контента, но в таких строго регламентированных областях, как медицина, право, авиация, финансы и т.д., они могут иметь серьезные последствия. Поэтому решение проблем иллюзий и предвзятости ИИ стало одним из ключевых вопросов в процессе эволюции ИИ.

Проект Mira пытается решить проблемы предвзятости и иллюзий в ИИ, создавая уровень доверия к ИИ и повышая его надежность. Итак, как Mira снижает предвзятость и иллюзии ИИ и в конечном итоге достигает доверительного ИИ?

Основная стратегия Mira заключается в проверке вывода ИИ с помощью консенсуса нескольких моделей ИИ. Mira по сути является сетью верификации, использующей консенсус нескольких моделей ИИ для проверки надежности вывода ИИ. Более важно, что Mira использует децентрализованный консенсус для верификации.

Ключом сети Mira является децентрализованная проверка консенсуса. Этот подход объединяет преимущества криптосферы и характеристики многомодельной кооперации, уменьшая предвзятость и иллюзии посредством коллективной модели проверки.

В отношении архитектуры проверки протокол Mira поддерживает преобразование сложного контента в независимые заявления о проверке. Операторы узлов участвуют в верификации этих заявлений, обеспечивая честность операторов узлов через механизмы криптоэкономического стимулирования/наказания. Различные модели ИИ и децентрализованные операторы узлов совместно участвуют, чтобы гарантировать надежность результатов проверки.

Сетевая архитектура Mira включает преобразование содержимого, распределенную проверку и механизм консенсуса. Сначала система разбивает кандидаты на содержимое, представленные клиентом, на проверяемые заявления, затем распределяет их по узлам для проверки, и, наконец, обобщает результаты для достижения консенсуса. Для защиты конфиденциальности клиентов заявления будут распределены между различными узлами случайными фрагментами.

Операторы узлов отвечают за работу моделей верификаторов, обработку заявлений и представление результатов верификации. Их мотивация участвовать в верификации исходит от доступной прибыли, которая возникает из ценности, создаваемой для клиентов. Цель сети Mira состоит в том, чтобы снизить уровень ошибок ИИ, особенно в таких областях, как медицина, право, авиация и финансы, что может привести к огромной ценности.

Чтобы предотвратить спекуляции со стороны операторов узлов, узлы, которые постоянно отклоняются от консенсуса, будут лишены части своих заложенных токенов. Эта экономическая механика игры гарантирует честное участие операторов узлов в верификации.

В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Он строит децентрализованную сеть проверки консенсуса на основе нескольких моделей ИИ, что обеспечивает более высокую надежность ИИ-сервисов для клиентов, снижает предвзятость и иллюзии ИИ, а также удовлетворяет потребности клиентов в более высокой точности и точности.

В настоящее время Mira сотрудничает с несколькими фреймворками AI agent. Пользователи могут участвовать в публичной Тестовая сеть Mira через Klok (приложение для общения на основе LLM от Mira), испытывая проверенные AI-выходы и получая возможность зарабатывать очки Mira. Этот новый уровень доверия к AI имеет потенциал для глубокого развития AI-приложений.