d/acc: Nhìn lại một năm sau

Lời mở đầu

Cảm ơn phản hồi và đánh giá của các tình nguyện viên như Liraz Siri, Janine Leger và Balvi.

Khoảng một năm trước, tôi đã viết một bài về chủ nghĩa lạc quan công nghệ, trình bày niềm đam mê tổng thể của tôi đối với công nghệ và những lợi ích to lớn của nó, đồng thời cũng bày tỏ thái độ thận trọng đối với một số vấn đề cụ thể, chủ yếu là về trí tuệ nhân tạo siêu thông minh, và những rủi ro hủy diệt có thể phát sinh nếu được xây dựng không đúng cách, hoặc dẫn đến việc con người mất quyền lực một cách không thể đảo ngược.

Một trong những quan điểm cốt lõi của bài viết là khuyến khích tăng tốc phòng thủ phi tập trung, dân chủ và khác biệt. Cần phải thúc đẩy sự phát triển công nghệ, đồng thời tập trung một cách phân biệt vào những công nghệ có thể nâng cao khả năng phòng thủ của chúng ta thay vì gây ra khả năng gây hại, và cam kết thúc đẩy quyền lực phân tán, thay vì để quyền lực tập trung trong tay một số ít tinh hoa, tránh để những tinh hoa này đại diện cho tất cả mọi người trong việc xác định đúng sai. Mô hình phòng thủ nên giống như một Thụy Sĩ dân chủ, cũng như khu vực Zomia gần như vô chính phủ trong lịch sử, chứ không phải là mô hình của các lãnh chúa và lâu đài dưới chế độ phong kiến trung cổ.

Trong năm qua, những quan niệm và ý tưởng này đã có sự phát triển và trưởng thành đáng kể. Tôi đã chia sẻ những ý tưởng này trên nền tảng "80,000 giờ" và nhận được nhiều phản hồi, phần lớn là tích cực, dĩ nhiên cũng có một số ý kiến phê bình.

Công việc này đang tiếp tục tiến triển và đã đạt được những kết quả thực tế: trong lĩnh vực vắc-xin mã nguồn mở có thể xác minh, chúng ta đã thấy sự tiến bộ; nhận thức của mọi người về giá trị của không khí trong nhà lành mạnh ngày càng sâu sắc; "ghi chú cộng đồng" tiếp tục phát huy vai trò tích cực; thị trường dự đoán đã có một năm đột phá như một công cụ thông tin; chứng minh kiến thức không cần biết - không tương tác ZK-SNARKs ( đã được áp dụng trong lĩnh vực nhận dạng chính phủ và mạng xã hội ) và đảm bảo an toàn cho ví Ethereum thông qua việc trừu tượng hóa tài khoản (; công cụ hình ảnh mã nguồn mở đã được ứng dụng trong y học và giao diện não-máy tính BCI ), v.v.

Mùa thu năm ngoái, chúng tôi đã chào đón sự kiện d/acc quan trọng đầu tiên: "Ngày khám phá d/acc" ( d/aDDy ), sự kiện diễn ra tại Devcon, quy tụ các diễn giả từ nhiều lĩnh vực trụ cột của d/acc ( như sinh học, vật lý, mạng, bảo vệ thông tin, cũng như công nghệ thần kinh ), sự kiện kéo dài suốt một ngày. Những người đã cống hiến nhiều năm cho các công nghệ này ngày càng hiểu rõ hơn về công việc của nhau, trong khi những người bên ngoài cũng ngày càng nhận thức rõ hơn về tầm nhìn lớn lao hơn: thúc đẩy các giá trị chung trong việc phát triển Ethereum và tiền điện tử có thể mở rộng ra thế giới rộng lớn hơn.

Ý nghĩa và phạm vi của d/acc

Hãy tưởng tượng thời gian đến năm 2042. Bạn thấy một tin tức trên các phương tiện truyền thông, nói rằng thành phố bạn đang sống có thể bùng phát một dịch bệnh mới. Đối với những tin tức như vậy, bạn đã quá quen thuộc: mọi người thường phản ứng thái quá với mọi sự đột biến bệnh dịch ở động vật, trong khi phần lớn các trường hợp, những đột biến này cuối cùng sẽ không dẫn đến khủng hoảng thực sự. Hai lần dịch bệnh tiềm tàng trước đây đều đã được phát hiện sớm thông qua giám sát nước thải và phân tích nguồn mở trên mạng xã hội, và đã được ngăn chặn thành công ngay từ khi còn trong trứng nước. Tuy nhiên, tình hình lần này thì khác, thị trường dự đoán cho thấy xác suất xuất hiện ít nhất 10.000 ca bệnh lên tới 60%, điều này khiến bạn lo lắng.

Ngay hôm qua, chuỗi gene của virus đã được xác định. Bản cập nhật phần mềm cho thiết bị thử nghiệm không khí bỏ túi của bạn đã được phát hành ngay lập tức, nhờ vào bản cập nhật này, thiết bị thử nghiệm có thể phát hiện virus mới ( không chỉ qua một lần kiểm tra hô hấp mà còn khi bị phơi nhiễm với không khí trong phòng trong 15 phút sau khi kiểm tra ). Đồng thời, các hướng dẫn và mã nguồn mở để tạo ra vắc xin bằng thiết bị có sẵn tại bất kỳ cơ sở y tế hiện đại nào trên toàn cầu dự kiến sẽ được phát hành trong vài tuần tới. Hầu hết mọi người hiện chưa thực hiện bất kỳ hành động nào, họ chủ yếu dựa vào các biện pháp lọc không khí và thông gió được áp dụng rộng rãi để bảo vệ an toàn cho bản thân.

Do vì bạn có vấn đề miễn dịch, nên bạn hành động cẩn thận hơn: Trợ lý AI cá nhân chạy trên mã nguồn mở mà bạn sử dụng, ngoài việc thực hiện các nhiệm vụ thông thường như điều hướng, gợi ý nhà hàng và sự kiện, còn xem xét dữ liệu kiểm tra không khí thời gian thực và dữ liệu carbon dioxide, từ đó chỉ đề xuất cho bạn những địa điểm an toàn nhất. Những dữ liệu này được cung cấp bởi hàng ngàn người tham gia và thiết bị, nhờ vào công nghệ ZK-SNARKs và bảo mật riêng tư, giảm thiểu tối đa rủi ro dữ liệu bị rò rỉ hoặc bị lạm dụng cho các mục đích khác ( Nếu bạn có ý định đóng góp dữ liệu cho các tập dữ liệu này, còn có những trợ lý AI khác sẽ xác minh xem các công cụ mã hóa này có thực sự hiệu quả hay không ).

Hai tháng sau, dịch bệnh kỳ diệu đã biến mất: dường như 60% người dân tuân thủ các biện pháp phòng ngừa cơ bản, tức là đeo khẩu trang khi thiết bị kiểm tra không khí phát ra cảnh báo và cho thấy có virus, nếu kết quả xét nghiệm cá nhân dương tính thì cách ly tại nhà. Chính biện pháp này đã đủ để giảm tỷ lệ lây lan, vốn đã giảm đáng kể do bộ lọc không khí mạnh mẽ, xuống dưới 1. Một mô phỏng cho thấy một căn bệnh có thể nghiêm trọng gấp năm lần so với dịch COVID-19 cách đây hai mươi năm, nhưng hiện tại không gây ra tác động nghiêm trọng.

Sự kiện d/acc được tổ chức bởi Devcon đã đạt được một kết quả hết sức tích cực, đó là tư tưởng d/acc đã thành công trong việc gắn kết những người đến từ các lĩnh vực khác nhau và thực sự khơi dậy sự quan tâm sâu sắc của họ đối với công việc của nhau.

Tổ chức một sự kiện "đa dạng" không phải là điều khó khăn, nhưng để những người đến từ các nền tảng và sở thích khác nhau thực sự thiết lập được mối liên hệ chặt chẽ thì thật không dễ. Tôi vẫn nhớ mãi trải nghiệm bị ép buộc xem những vở opera dài dòng trong thời trung học, khi đó tôi cảm thấy những vở opera này thật nhàm chán. Tôi biết mình "nên" trân trọng chúng, vì nếu không, tôi sẽ bị coi là một kẻ lười biếng trong ngành khoa học máy tính thiếu văn hóa, nhưng tôi không thể kết nối với nội dung của opera ở mức độ sâu hơn. Tuy nhiên, bầu không khí của sự kiện d/acc lại hoàn toàn khác biệt: cảm giác mọi người thật sự yêu thích việc tìm hiểu về các công việc trong nhiều lĩnh vực khác nhau.

Nếu chúng ta khao khát xây dựng một tương lai tươi sáng hơn sự thống trị, chậm lại và hủy diệt, thì nhất định cần phải tiến hành việc xây dựng liên minh rộng rãi như vậy. d/acc dường như đã đạt được thành công đáng kể trong lĩnh vực này, chỉ riêng điều này cũng đủ để làm nổi bật giá trị quý giá của quan điểm này.

Ý tưởng cốt lõi của d/acc rất đơn giản và rõ ràng: phi tập trung, dân chủ và phòng thủ phân hóa. Xây dựng công nghệ có thể thúc đẩy sự cân bằng giữa tấn công và phòng thủ nghiêng về phía phòng thủ, và trong quá trình thực hiện không dựa vào việc giao thêm quyền lực cho các cơ quan trung ương. Hai khía cạnh này có mối liên hệ chặt chẽ nội tại: bất kỳ cấu trúc chính trị nào phi tập trung, dân chủ hoặc tự do, khi phòng thủ dễ thực hiện thường có thể phát triển mạnh mẽ, trong khi khi phòng thủ gặp nhiều khó khăn sẽ phải đối mặt với những thách thức nghiêm trọng - trong những trường hợp đó, kết quả có khả năng xảy ra hơn cả là một giai đoạn hỗn loạn mà mọi người chống đối lẫn nhau, cuối cùng đạt được trạng thái cân bằng do những kẻ mạnh nhất thống trị.

Một cách để hiểu tầm quan trọng của việc cố gắng thực hiện đồng thời tính phi tập trung, tính phòng thủ và tính gia tốc là so sánh nó với những ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này.

Tăng tốc phi tập trung, nhưng bỏ qua phần "phòng thủ khác biệt"

Về bản chất, điều này giống như việc trở thành một người theo chủ nghĩa tăng tốc hiệu quả (e/acc), nhưng đồng thời theo đuổi sự phi tập trung. Có rất nhiều người theo cách này, trong đó một số tự gọi mình là d/acc, nhưng họ hữu ích mô tả trọng tâm của mình là "tấn công". Hơn nữa, còn nhiều người khác thể hiện sự nhiệt tình ôn hòa hơn đối với "trí tuệ nhân tạo phi tập trung" và các chủ đề tương tự, nhưng theo tôi, sự quan tâm của họ đối với khía cạnh "phòng thủ" là rõ ràng không đủ.

Theo tôi, phương pháp này có thể giúp tránh được nguy cơ một nhóm nhất định áp đặt chế độ độc tài lên toàn nhân loại, nhưng nó vẫn không giải quyết được những vấn đề cấu trúc tiềm ẩn: trong một môi trường thuận lợi cho tấn công, luôn có rủi ro kéo dài về thảm họa xảy ra, hoặc một ai đó sẽ tự định vị mình là người bảo vệ và chiếm giữ vị trí thống trị một cách vĩnh viễn. Về mặt trí tuệ nhân tạo, nó cũng không thể giải quyết một cách thỏa đáng rủi ro sức mạnh của con người bị suy yếu so với trí tuệ nhân tạo.

Phòng thủ khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ"

Để đạt được mục tiêu an toàn mà chấp nhận kiểm soát tập trung, điều này luôn có sức hấp dẫn nhất định đối với một số người, độc giả chắc chắn đã quen thuộc với nhiều ví dụ như vậy và những bất lợi mà chúng mang lại. Gần đây, một số người lo ngại rằng kiểm soát tập trung cực đoan có thể là cách duy nhất để đối phó với các công nghệ cực đoan trong tương lai: ví dụ, hãy tưởng tượng một kịch bản giả định, "mỗi người đều đeo một 'nhãn tự do' - đây là sản phẩm kế tiếp của các thiết bị giám sát đeo trên người hiện nay, tương tự như các nhãn chân được một số quốc gia sử dụng như một giải pháp thay thế cho tù nhân... video và âm thanh được mã hóa liên tục được tải lên, và được máy móc giải mã theo thời gian thực". Tuy nhiên, kiểm soát tập trung có một vấn đề về mức độ. Một hình thức kiểm soát tập trung tương đối nhẹ nhàng thường bị bỏ qua nhưng vẫn có hại, thể hiện trong lĩnh vực công nghệ sinh học ( chẳng hạn như thực phẩm, vắc-xin ) sự kháng cự đối với sự giám sát của công chúng, cũng như việc cho phép hành vi kháng cự này không bị thách thức bởi các tiêu chuẩn mã nguồn đóng.

Rủi ro của phương pháp này là rõ ràng, đó là trung tâm thường trở thành nguồn gốc của rủi ro. Chúng ta đã chứng kiến điều này trong thời kỳ đại dịch Covid-19, khi các nghiên cứu chức năng được tài trợ bởi nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch, và tri thức tập trung đã dẫn đến việc Tổ chức Y tế Thế giới từ chối công nhận virus Covid-19 lây lan qua không khí trong nhiều năm, trong khi các biện pháp giãn cách xã hội và tiêm chủng bắt buộc đã gây ra phản ứng chính trị có thể kéo dài hàng thập kỷ. Tình huống tương tự rất có thể xảy ra một lần nữa trong bất kỳ tình huống rủi ro nào liên quan đến trí tuệ nhân tạo hoặc các công nghệ rủi ro khác. Ngược lại, phương pháp phi tập trung sẽ hiệu quả hơn trong việc ứng phó với rủi ro đến từ chính trung tâm.

Phòng thủ phi tập trung, nhưng loại trừ tăng tốc

Về bản chất, đây là một nỗ lực nhằm làm chậm sự tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.

Chiến lược này đối mặt với hai thách thức. Đầu tiên, nhìn chung, sự phát triển công nghệ và kinh tế mang lại lợi ích rất lớn cho nhân loại, bất kỳ sự trì hoãn nào đều có thể gây ra những chi phí khó lường. Thứ hai, trong một thế giới không phải là chế độ chuyên quyền, sự đình trệ là không ổn định: những người hoặc nhóm "gian lận" nhiều nhất, có khả năng tìm ra những cách có vẻ hợp lý để tiếp tục thúc đẩy sự phát triển sẽ chiếm ưu thế. Chiến lược giảm tốc có thể hoạt động ở một mức độ nào đó trong một số tình huống cụ thể: chẳng hạn, thực phẩm ở châu Âu lành mạnh hơn thực phẩm ở Mỹ, đây là một ví dụ; sự thành công của việc không phổ biến vũ khí hạt nhân cho đến nay cũng tương tự. Tuy nhiên, những chiến lược này không thể luôn luôn có hiệu quả.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong xu hướng bộ lạc hóa ngày càng gia tăng trong thế giới ngày nay, chứ không chỉ đơn thuần là xây dựng một cách mù quáng các thứ khác nhau - ngược lại, chúng tôi mong muốn xây dựng những thứ cụ thể, từ đó làm cho thế giới trở nên an toàn và tốt đẹp hơn.
• Nhận thức rằng sự tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên vô cùng kỳ lạ, và "dấu ấn" tổng thể của con người trong vũ trụ chắc chắn sẽ ngày càng gia tăng. Khả năng của chúng ta để bảo vệ các loài động vật, thực vật và con người dễ bị tổn thương khỏi sự tổn hại phải tiếp tục được nâng cao, và con đường duy nhất là tiến về phía trước.
• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả định "người tốt ( hoặc trí tuệ nhân tạo tốt ) kiểm soát mọi thứ". Chúng ta đạt được điều này bằng cách xây dựng các công cụ tự nhiên hiệu quả hơn khi được sử dụng để xây dựng và bảo vệ so với khi được sử dụng để phá hoại.

Một cách khác để suy nghĩ về d/acc là quay trở lại khung của phong trào Pirate Party ở châu Âu vào cuối những năm 2000 của thế kỷ 21: trao quyền.

Mục tiêu của chúng tôi là xây dựng một thế giới có thể giữ lại tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh khỏi sự hình thành bản thân của chúng ta bởi người khác (, dù là công dân bình thường, chính phủ, hay siêu trí tuệ nhân tạo ).