d/acc: Огляд через рік

Вступ

Дякуємо волонтерам, таким як Ліраз Сірі, Жанін Лежер та Балві, за їхні відгуки та рецензії.

Приблизно рік тому я написав статтю про технічний оптимізм, в якій виклав свій загальний ентузіазм щодо технологій та їх величезних переваг, а також висловив обережність щодо певних конкретних проблем, зокрема стосовно надінтелектуального штучного інтелекту та ризиків, які можуть виникнути у разі неналежного будівництва, що може призвести до катастрофічних наслідків або ж до незворотної втрати влади людиною.

Основна ідея статті полягає в підтримці децентралізованого, демократичного та диференційованого оборонного прискорення. Потрібно прискорювати розвиток технологій, але зосереджуватися на тих технологіях, які можуть підвищити нашу обороноздатність, а не завдати шкоди, а також прагнути до розподілу влади, а не до її зосередження в руках небагатьох еліт, уникаючи того, щоб ці еліти визначали, що є добром, а що злом від імені всіх. Оборонна модель повинна бути подібною до демократичної Швейцарії та історично анархістського регіону Зомія, а не до моделі, що представляє собою феодалізм середньовіччя з його лордами та замками.

Протягом минулого року ці ідеї та концепції суттєво розвинулися та стали зрілішими. Я поділився цими думками на платформі "80,000 годин", отримавши багато відгуків, здебільшого позитивних, хоча, звичайно, були й деякі критичні голоси.

Ця робота продовжує просуватися і вже дала реальні результати: у сфері перевірених відкритих вакцин ми бачимо прогрес; усвідомлення цінності здорового внутрішнього повітря поглиблюється; "громадські нотатки" продовжують грати позитивну роль; ринок прогнозів як інформаційний інструмент переживає проривний рік; нульові знання простих неконтактних доказів ( ZK-SNARKs ) були застосовані в урядовій ідентифікації та соціальних мережах ( і забезпечили безпеку гаманців Ethereum через абстракцію облікових записів ); відкриті інструменти зображення були застосовані в медицині та в галузі інтерфейсів мозок-комп'ютер ( BCI ) тощо.

Минулої осені ми відзначили першу важливу подію d/acc: "день відкриття d/acc"(d/aDDy), яка відбулася на Devcon, зібравши спікерів з різних секторів d/acc(, таких як біологія, фізика, мережі, інформаційна безпека та нейротехнології). Захід тривав цілий день. Люди, які протягом багатьох років займалися цими технологіями, все більше розуміють роботу один одного, а зовнішні особи дедалі більше усвідомлюють цю більшу мету: цінності, що сприяють розвитку Ethereum та криптовалют, можуть розширитися на більш широкий світ.

Зміст та обсяг d/acc

Уявіть, що час настав 2042 рік. Ви бачите в медіа повідомлення, що в вашому місті може спалахнути нова епідемія. До таких новин ви вже звикли: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, а в більшості випадків ці мутації врешті-решт не призводять до реальної кризи. Попередні два потенційні спалахи епідемії були вчасно виявлені завдяки моніторингу стічних вод та аналізу відкритих даних соціальних медіа, і успішно стримані на стадії зародження. Проте, ця ситуація відрізняється, ринкові прогнози показують ймовірність наявності принаймні 10 000 випадків на рівні 60%, що викликає у вас занепокоєння.

Вчора було підтверджено геномний послідовність вірусу. Оновлення програмного забезпечення для ваших кишенькових приладів для тестування повітря було негайно випущено, завдяки якому прилад може виявити новий вірус ( як через тест на дихання, так і через тестування ) після 15-хвилинного перебування в кімнаті на внутрішньому повітрі. Тим часом, відкриті інструкції та код для створення вакцини за допомогою обладнання, доступного в будь-якому сучасному медичному закладі всього світу, очікується, що будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись головним чином на широко використовувані заходи з очищення повітря та вентиляції для забезпечення своєї безпеки.

Оскільки у вас є імунні проблеми, ви дієте більш обережно: ваш відкритий локальний персональний асистент штучного інтелекту, окрім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також враховує дані про якість повітря в реальному часі та дані про вуглекислий газ, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надають тисячі учасників та пристроїв, за допомогою технологій ZK-SNARKs та диференційованої конфіденційності ризик витоку даних або їх неналежного використання зведено до мінімуму ( Якщо ви маєте намір внести дані до цих наборів даних, інші персональні асистенти штучного інтелекту перевірять, чи дійсно ці криптографічні інструменти є ефективними ).

Два місяці потому епідемія дивовижним чином зникла: здавалося, що 60% людей дотримувалися основних протиепідемічних заходів, а саме, носили маски, коли детектор повітря сповіщав про наявність вірусу, і ізолювалися вдома у разі позитивного результату тесту. Саме цей захід дозволив знизити рівень передачі, який уже значно зменшився завдяки пасивній фільтрації повітря, до менш ніж 1. Хвороба, яка за результатами моделювання могла бути в п'ять разів серйознішою за пандемію COVID-19, на сьогодні не завдала серйозної шкоди.

Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме, концепція d/acc успішно об'єднала людей з різних сфер, й справді викликала в них сильний інтерес до роботи один одного.

Організувати захід з "різноманітністю" не є важким завданням, але справжнє встановлення тісних зв'язків між людьми з різним фоном та інтересами є досить складним. Я досі пам'ятаю свій досвід, коли в середній та старшій школі мене змушували дивитися довгі опери, і тоді я вважав їх нудними. Я добре усвідомлював, що "повинен" їх цінувати, адже інакше мене вважали б культурним комп'ютерним бездельником, але я так і не зміг на глибшому рівні відчути зв'язок з змістом опери. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що люди щиро люблять дізнаватися про різноманітну працю в різних сферах.

Якщо ми прагнемо побудувати світле майбутнє, яке перевершує панування, сповільнення та руйнування, нам обов'язково потрібно розпочати таку широку роботу зі створення альянсів. d/acc у цьому відношенні, здається, досяг значних успіхів, і лише цього достатньо, щоб підкреслити цінність цієї ідеї.

Основна ідея d/acc проста і зрозуміла: децентралізоване, демократичне та диференційоване оборонне прискорення. Створення технологій, які можуть сприяти балансуванню атак і захисту в бік оборони, і при цьому не покладатися на передачу більшої влади центральним авторитетам в процесі впровадження. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай може процвітати, коли оборону легко реалізувати, тоді як вона стикається з серйозними викликами, коли оборона зустрічає численні труднощі - в таких випадках більш імовірним результатом є період хаосу, в якому всі протистоять один одному, зрештою досягнувши стану балансу, що підпорядковується найсильнішому.

Розуміння важливості одночасного досягнення децентралізації, захисту та прискорення можна досягти шляхом порівняння з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним прискорювачем ( e/acc ), але при цьому прагнути до децентралізації. Є багато людей, які йдуть цим шляхом, деякі з яких самі себе називають d/acc, але вони корисно описують свою увагу як "агресивну". Крім того, є багато інших, хто виявляє більш помірний інтерес до "децентралізованого штучного інтелекту" та подібних тем, але, на мою думку, їхня увага до "оборонних" аспектів явно недостатня.

На мою думку, цей підхід, можливо, здатен уникнути ризику диктаторського правління конкретних груп над усім людством, але він не вирішує потенційні структурні проблеми: у середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуючу позицію. Що стосується штучного інтелекту, то він також не може належним чином вирішити ризик зменшення влади людства в порівнянні з штучним інтелектом.

Диференційоване прискорення захисту, але ігнорування "децентралізації та демократії"

З метою досягнення безпеки прийняття централізованого контролю завжди має певну привабливість для частини людей, читачі, безсумнівно, вже знайомі з численними такими випадками та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним шляхом для реагування на екстремальні технології в майбутньому: наприклад, уявіть собі таку гіпотетичну ситуацію: "кожен носить 'вільну мітку' - це наступний продукт більш обмежених носимих пристроїв моніторингу сьогодні, подібно до кількох країн, які використовують їх як альтернативу ув'язненню, наприклад, браслети на щиколотку... зашифроване відео та аудіо постійно завантажуються та в реальному часі аналізуються машинами". Однак централізований контроль має певну проблему. Одна форма відносно м'якого централізованого контролю, яка зазвичай ігнорується, але все ще є шкідливою, проявляється в біотехнологічній сфері (, наприклад, у випадках опору громадському контролю щодо їжі, вакцин ), а також у дозволі на те, щоб ця поведінка залишалася без виклику закритими стандартами.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні отримані дослідження, профінансовані кількома основними світовими урядами, могли бути джерелом епідемії, а централізована епістемологія призвела до багаторічного відмови Всесвітньої організації охорони здоров'я визнавати, що вірус COVID-19 передається повітрям, в той час як примусова соціальна дистанція і обов'язкові вакцини викликали політичні наслідки, які можуть тривати десятиліттями. Подібні ситуації, ймовірно, знову виникнуть у будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. На відміну від цього, децентралізований підхід ефективніше впорається з ризиками, що виходять від самого центру.

Децентралізований захист, але відторгнення прискорення

В основному, це спроба уповільнити технологічний прогрес або спричинити економічний спад.

Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний і економічний ріст є надзвичайно корисними для людства, і будь-яке затримання цього процесу призведе до важко вимірюваних витрат. По-друге, в неавторитарному світі стагнація є нестабільною: ті, хто "обманює" найбільше, здатні знайти на перший погляд розумні способи продовжувати розвиток, отримають перевагу. Стратегія сповільнення може частково спрацьовувати в певних специфічних умовах: наприклад, європейська їжа є більш здоровою, ніж американська, що є прикладом; успіхи в нерозповсюдженні ядерної зброї до цього часу також підтверджують це. Однак ці стратегії не можуть діяти вічно.

За допомогою d/acc ми прагнемо досягти наступних цілей:

• Дотримуючись принципів у світі, що дедалі більше стає племінним, а не просто сліпо будуючи різні речі, ми, навпаки, сподіваємось створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Усвідомлення експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "відбиток" людства у Всесвіті обов'язково буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та групи людей від шкоди має постійно покращуватися, і єдиний вихід – це йти вперед.
• Створення технологій, які дійсно захищають нас, а не базуються на припущенні "добрих людей ( або хорошого штучного інтелекту ), які контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для побудови та захисту, ніж для руйнування.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.

Наша мета – побудувати світ, який може зберегти людську активність, реалізувати негативну свободу, тобто уникати того, щоб інші (, будь то звичайні громадяни, уряди чи суперінтелектуальні роботи ), формували наше власне життя.