d/acc: Tinjauan setelah satu tahun

Pendahuluan

Terima kasih kepada umpan balik dan tinjauan dari relawan seperti Liraz Siri, Janine Leger, dan Balvi.

Sekitar setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan semangat saya secara keseluruhan terhadap teknologi dan manfaat besar yang dimilikinya, sambil juga menyampaikan sikap hati-hati terhadap beberapa masalah tertentu, terutama mengenai kecerdasan buatan super, serta risiko kehancuran yang mungkin ditimbulkan jika dibangun dengan buruk, atau risiko kehilangan kekuasaan oleh umat manusia secara tidak dapat diubah.

Salah satu poin inti dari artikel ini adalah mendorong akselerasi defensif yang terdesentralisasi, demokratis, dan berbeda. Kita harus mempercepat perkembangan teknologi, sekaligus secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita, bukan yang dapat menyebabkan kerusakan, dan berkomitmen untuk mendorong distribusi kekuasaan, bukan membiarkan kekuasaan terpusat pada segelintir elit, menghindari penilaian baik dan buruk oleh elit ini yang mewakili semua orang. Model pertahanan harus seperti demokrasi Swiss, serta daerah Zomia yang hampir-anarkis dalam sejarah, bukan model yang diwakili oleh tuan dan kastil di bawah feodalisme abad pertengahan.

Dalam setahun terakhir, konsep dan ide ini telah berkembang dan matang secara signifikan. Saya telah membagikan ide-ide ini di platform "80,000 Jam" dan menerima banyak tanggapan, sebagian besar positif, tentu saja, ada juga beberapa suara kritis.

Pekerjaan ini sendiri terus berlanjut dan mencapai hasil yang nyata: di bidang vaksin open source yang dapat diverifikasi, kami melihat kemajuan; kesadaran orang tentang nilai udara dalam ruangan yang sehat semakin dalam; "catatan komunitas" terus berperan positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; pembuktian pengetahuan non-interaktif yang ringkas tanpa pengetahuan ( ZK-SNARKs ) diterapkan di bidang identifikasi pemerintah dan media sosial ( dan memastikan keamanan dompet Ethereum melalui abstraksi akun ); alat pencitraan open source diterapkan di bidang medis dan antarmuka otak-mesin ( BCI ), dan lain-lain.

Musim gugur tahun lalu, kami menyambut kegiatan d/acc penting pertama: "Hari Penemuan d/acc" ( d/aDDy ), acara ini diadakan di Devcon, mengumpulkan para pembicara dari berbagai bidang pilar d/acc ( biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf ). Acara ini berlangsung selama sehari penuh. Selama bertahun-tahun, orang-orang yang telah berkomitmen pada teknologi ini semakin memahami pekerjaan satu sama lain, sementara orang luar juga semakin menyadari visi yang lebih besar ini: mendorong nilai-nilai yang sama dalam pengembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.

Makna dan Ruang Lingkup d/acc

Bayangkan waktu telah tiba di tahun 2042. Anda melihat sebuah berita di media yang menyatakan bahwa kota Anda mungkin akan mengalami wabah baru. Untuk berita semacam ini, Anda sudah tidak asing lagi: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini akhirnya tidak menimbulkan krisis nyata. Dua potensi wabah sebelumnya terdeteksi pada tahap awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dihentikan di tahap awal. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan kemungkinan munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda sangat khawatir.

Hanya kemarin, urutan gen virus telah ditentukan. Pembaruan perangkat lunak untuk alat pengukur udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat pengukur dapat mendeteksi virus baru ( baik melalui tes pernapasan tunggal, maupun setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu. Kebanyakan orang saat ini belum mengambil tindakan apa pun, mereka terutama mengandalkan langkah-langkah filtrasi udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka.

Karena Anda memiliki masalah kekebalan, Anda bertindak lebih hati-hati: asisten pribadi AI lokal open-source yang Anda gunakan, selain menjalankan tugas-tugas rutin seperti navigasi, rekomendasi restoran, dan aktivitas, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan teknologi ZK-SNARKs dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain ( Jika Anda berminat untuk menyumbangkan data untuk kumpulan data ini, ada asisten pribadi AI lainnya yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif ).

Dua bulan kemudian, pandemi tiba-tiba menghilang: sepertinya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara mengeluarkan alarm dan menunjukkan adanya virus, serta mengisolasi diri di rumah jika hasil pengujian pribadi positif. Langkah ini cukup untuk menurunkan tingkat penularan yang sudah sangat berkurang karena penyaringan udara yang kuat secara pasif, hingga di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menyebabkan dampak serius.

Acara d/acc yang diadakan oleh Devcon telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil mengumpulkan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat yang kuat terhadap pekerjaan satu sama lain.

Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar membangun hubungan yang dekat adalah hal yang tidak mudah. Saya masih ingat dengan jelas pengalaman dipaksa menonton opera yang panjang di sekolah menengah dan sekolah tinggi, di mana saya pribadi merasa bahwa opera-opera tersebut membosankan. Saya sangat sadar bahwa saya "seharusnya" menghargai mereka, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak bisa merasakan resonansi yang lebih dalam dengan isi opera tersebut. Namun, suasana acara d/acc hari ini sangat berbeda: rasanya orang-orang benar-benar suka untuk memahami berbagai jenis pekerjaan di berbagai bidang.

Jika kita ingin membangun masa depan yang lebih cerah daripada pemerintahan, perlambatan, dan penghancuran, kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, hanya ini saja sudah cukup untuk menunjukkan nilai berharga dari gagasan ini.

Pokok pikiran dari d/acc jelas dan ringkas: desentralisasi, demokratis, dan pertahanan yang terakselerasi secara berbeda. Membangun teknologi yang dapat mempromosikan keseimbangan antara serangan dan pertahanan yang condong ke arah pertahanan, dan selama implementasi tidak bergantung pada memberikan lebih banyak kekuasaan kepada otoritas pusat. Ada hubungan erat yang mendalam antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah diimplementasikan, tetapi akan menghadapi tantangan berat ketika pertahanan menghadapi kesulitan yang berat--dalam keadaan tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling bertentangan, yang akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.

Salah satu cara untuk memahami pentingnya mencoba untuk mewujudkan desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan ide yang dihasilkan dari pengabaian salah satu dari ketiga aspek ini.

Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"

Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Banyak orang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka secara menguntungkan menggambarkan fokus mereka sebagai "menyerang". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, mereka jelas kurang memperhatikan aspek "pertahanan".

Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu yang mendiktatori terhadap umat manusia secara global, tetapi ini tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan memposisikan diri mereka sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ini juga tidak dapat dengan baik mengatasi risiko kekuasaan manusia secara keseluruhan yang melemah dibandingkan dengan kecerdasan buatan.

Percepatan pertahanan yang berbeda, tetapi mengabaikan "desentralisasi dan demokrasi"

Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang. Pembaca tentu sudah akrab dengan banyak contoh seperti itu dan kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan sebuah skenario hipotetis, "setiap orang mengenakan 'label kebebasan'--ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi diunggah secara terus menerus, dan ditafsirkan secara langsung oleh mesin". Namun, ada masalah tingkat dalam kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat namun tetap berbahaya, yang biasanya diabaikan, terwujud dalam bidang bioteknologi ( misalnya penolakan publik terhadap makanan, vaksin ), dan memungkinkan perilaku penolakan ini untuk tidak ditantang oleh norma-norma sumber tertutup.

Risiko dari cara ini sangat jelas, yaitu pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian yang didanai oleh beberapa pemerintah utama dunia mungkin menjadi akar penyebab pandemi, dan epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sedangkan jarak sosial yang wajib dan mandat vaksin telah memicu kemungkinan reaksi politik yang berlangsung selama puluhan tahun. Situasi serupa kemungkinan besar akan terjadi lagi dalam situasi risiko terkait kecerdasan buatan atau teknologi berisiko lainnya. Sebaliknya, cara desentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.

Pertahanan terdesentralisasi, tetapi menolak percepatan

Pada dasarnya, ini mencoba memperlambat kemajuan teknologi atau mendorong resesi ekonomi.

Strategi ini menghadapi dua tantangan. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan akan memiliki biaya yang sulit untuk diukur. Kedua, dalam dunia yang tidak otoriter, ketidakstabilan muncul dari stagnasi: mereka yang paling "curang" dan dapat menemukan cara yang tampak masuk akal untuk terus memajukan perkembangan akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi hingga tingkat tertentu dalam situasi tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, yang merupakan contoh; keberhasilan non-proliferasi nuklir hingga saat ini juga demikian. Namun, strategi ini tidak mungkin selalu berhasil.

Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:

• Dalam tren dunia yang semakin terpecah belah ini, kita harus berpegang pada prinsip, bukan sekadar membangun berbagai hal secara membabi buta -- sebaliknya, kita berharap dapat membangun hal-hal tertentu untuk membuat dunia menjadi lebih aman dan lebih baik.
• Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan jejak keseluruhan umat manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah melangkah maju.
• Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang lebih efektif secara alami untuk membangun dan melindungi dibandingkan dengan untuk merusak.

Salah satu sudut pandang lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir tahun 2000-an: pemberdayaan.

Tujuan kami adalah membangun dunia yang dapat mempertahankan kemampuan manusia, mencapai kebebasan negatif, yaitu menghindari orang lain ( baik itu warga sipil biasa, pemerintah, atau superintelligent robot ) membentuk nasib kita sendiri.