d/acc: una revisión después de un año

Introducción

Agradecemos los comentarios y revisiones de los voluntarios como Liraz Siri, Janine Leger y Balvi.

Hace aproximadamente un año, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y sus enormes beneficios, al mismo tiempo que manifesté una actitud de cautela hacia ciertos problemas específicos, principalmente sobre la superinteligencia artificial y los riesgos de destrucción que podrían surgir si se construye de manera inapropiada, o el riesgo de que la humanidad pierda el poder de manera irreversible.

Uno de los puntos centrales del artículo es abogar por una aceleración defensiva que sea descentralizada, democrática y diferenciada. Se debe acelerar el desarrollo tecnológico, pero con un enfoque diferenciado en aquellas tecnologías que puedan mejorar nuestra capacidad de defensa en lugar de causar daño, y comprometerse a promover la dispersión del poder, en lugar de permitir que el poder se concentre en manos de unos pocos élites, evitando que estas élites representen a todos para decidir lo que es correcto o incorrecto. El modelo de defensa debería ser como la democracia suiza, así como la región de Zomia, que históricamente ha sido casi anárquica, y no el modelo representado por los señores y castillos del feudalismo medieval.

En el último año, estas ideas y conceptos han tenido un desarrollo y madurez significativos. He compartido estas ideas en la plataforma "80,000 horas" y he recibido muchas respuestas, la mayoría positivas, aunque también ha habido algunas críticas.

Este trabajo en sí mismo ha avanzado y ha logrado resultados concretos: hemos visto progresos en el campo de las vacunas de código abierto verificables; la conciencia sobre el valor del aire interior saludable sigue profundizándose; los "notas comunitarias" continúan desempeñando un papel positivo; el mercado de predicción ha tenido un año de突破 como herramienta de información; las pruebas de conocimiento no interactivas y de conocimiento cero ( ZK-SNARKs ) se han aplicado en el campo de la identificación gubernamental y las redes sociales ( y han asegurado la seguridad de las billeteras de Ethereum a través de la abstracción de cuentas ); las herramientas de imagen de código abierto se han aplicado en la medicina y en el campo de la interfaz cerebro-máquina ( BCI ), etc.

El otoño pasado, celebramos el primer evento importante de d/acc: "Día de descubrimiento de d/acc"(d/aDDy), el evento se llevó a cabo en Devcon, reuniendo a oradores de diversos campos pilares de d/acc(biología, física, redes, defensa de la información, así como tecnología neural). El evento duró todo un día. Las personas que han estado dedicadas a estas tecnologías durante años han llegado a comprender mejor el trabajo de los demás, y los externos también se han dado cuenta cada vez más de esta visión más grande: que los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden expandirse a un mundo más amplio.

Significado y alcance de d/acc

Imagina que estamos en el año 2042. Ves en los informes de los medios una noticia que dice que podría estallar una nueva epidemia en tu ciudad. Noticias como esta ya no te sorprenden: la gente suele reaccionar de manera exagerada ante cada mutación de enfermedades animales, y en la gran mayoría de los casos, estas mutaciones no provocan una crisis real. Las dos posibles epidemias anteriores fueron detectadas en una etapa temprana gracias al monitoreo de aguas residuales y al análisis de código abierto en las redes sociales, y se lograron contener en su fase inicial. Sin embargo, esta vez la situación es diferente; los mercados de predicción muestran que hay una probabilidad del 60% de que aparezcan al menos 10,000 casos, lo que te preocupa.

Ayer, se determinó la secuencia genética del virus. Se lanzó una actualización de software para el medidor de aire en tu bolsillo, gracias a la cual el medidor puede detectar el nuevo virus ( tanto a través de una prueba de respiración como al ser expuesto al aire interior durante 15 minutos antes de detectar ). Mientras tanto, se espera que las instrucciones y el código de código abierto para generar la vacuna, utilizando equipos que se pueden obtener en cualquier instalación médica moderna en el mundo, se publiquen en unas pocas semanas. La mayoría de las personas aún no han tomado ninguna medida, confiando principalmente en las medidas de filtración de aire y ventilación ampliamente adoptadas para protegerse.

Debido a tus propios problemas inmunológicos, actúas con mayor precaución: la inteligencia artificial asistente personal que utilizas, que funciona de manera local y es de código abierto, no solo se encarga de tareas habituales como la navegación, recomendaciones de restaurantes y actividades, sino que también considera datos de pruebas de aire en tiempo real y datos de dióxido de carbono, recomendándote solo los lugares más seguros. Estos datos son proporcionados por miles de participantes y dispositivos, y gracias a las tecnologías ZK-SNARKs y de privacidad diferencial, se minimiza el riesgo de que los datos sean filtrados o mal utilizados para otros fines ( Si deseas contribuir datos a estos conjuntos de datos, hay otros asistentes personales de inteligencia artificial que verificarán si estas herramientas criptográficas son efectivamente efectivas ).

Dos meses después, la pandemia se disipó milagrosamente: parece que el 60% de las personas siguieron los protocolos básicos de prevención, es decir, usaron mascarillas cuando el medidor de aire emitió una alarma y mostró la presencia del virus, y se aislaron en casa si el resultado de la prueba personal era positivo. Esta medida fue suficiente para reducir aún más la tasa de transmisión, que ya se había reducido drásticamente debido a la filtración de aire pasiva, a menos de 1. Un simulacro mostró que una enfermedad que podría ser cinco veces más grave que la pandemia de COVID-19 de hace veinte años, sin embargo, no ha causado un impacto grave.

El evento d/acc organizado por Devcon logró un resultado muy positivo, ya que la idea de d/acc logró unir a personas de diferentes campos y realmente despertó su gran interés en el trabajo de los demás.

Organizar un evento "diverso" no es difícil, pero lograr que personas de diferentes orígenes e intereses establezcan conexiones cercanas es realmente complicado. Aún recuerdo con claridad mis experiencias en la secundaria y preparatoria, cuando me obligaban a ver largas óperas, las cuales me parecían aburridas. Sabía que "debería" apreciarlas, porque de lo contrario, sería visto como un perezoso de la informática carente de cultura, pero no logré conectar más profundamente con el contenido de las óperas. Sin embargo, la atmósfera del evento d/acc fue completamente diferente: sentí que la gente realmente disfrutaba conocer el trabajo de diferentes campos.

Si deseamos construir un futuro más brillante que el dominio, la desaceleración y la destrucción, necesariamente debemos llevar a cabo esta amplia construcción de alianzas. d/acc parece haber logrado resultados significativos en este aspecto, y solo esto es suficiente para resaltar el valioso valor de esta idea.

La idea central de d/acc es clara y concisa: defensa acelerada descentralizada, democrática y diferenciada. Construir tecnologías que puedan inclinar el equilibrio entre ataque y defensa hacia la defensa, y que en el proceso de implementación no dependan de otorgar más poder a las autoridades centrales. Existe una conexión intrínseca y estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre tiende a prosperar cuando la defensa es fácil de implementar, mientras que enfrenta severos desafíos cuando la defensa encuentra muchas dificultades; en esos casos, el resultado más probable es un período de caos en el que todos se enfrentan entre sí, alcanzando finalmente un estado de equilibrio dominado por los más fuertes.

Una forma de entender la importancia de intentar implementar simultáneamente la descentralización, la defensa y la aceleración es compararla con las ideas que surgen al renunciar a cualquiera de esos tres aspectos.

Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"

En esencia, esto es similar a convertirse en un eficaz aceleracionista ( e/acc ), pero al mismo tiempo persiguiendo la descentralización. Hay muchas personas que adoptan este enfoque, algunos de los cuales se autodenominan d/acc, pero de manera beneficiosa describen su enfoque como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por la "inteligencia artificial descentralizada" y temas similares, pero en mi opinión, su atención al aspecto "defensivo" es claramente insuficiente.

En mi opinión, esta forma podría evitar el riesgo de que un grupo específico ejerza un dominio dictatorial sobre la humanidad global, pero no ha logrado resolver problemas estructurales potenciales: en un entorno favorable a la ofensiva, siempre existe el riesgo continuo de que ocurra una catástrofe, o que alguien se posicione como protector y ocupe permanentemente una posición dominante. En cuanto a la inteligencia artificial, tampoco puede abordar adecuadamente el riesgo de que el poder de la humanidad en su conjunto se vea debilitado en relación con la inteligencia artificial.

Defensa diferenciada acelerada, pero se ignora "descentralización y democracia"

Aceptar el control centralizado para lograr objetivos de seguridad siempre ha tenido cierto atractivo para algunas personas; los lectores sin duda están familiarizados con numerosos casos de este tipo y con los inconvenientes que conllevan. Recientemente, algunos han expresado su preocupación de que un control centralizado extremo podría ser la única forma de enfrentar tecnologías extremas en el futuro: por ejemplo, imaginemos un escenario hipotético en el que "cada persona lleva una 'etiqueta de libertad', que es el producto sucesor de los dispositivos de monitoreo portátil más limitados de hoy en día, similares a las etiquetas de tobillo que se utilizan como alternativas a la prisión en varios países... videos y audios encriptados se cargan continuamente y son interpretados en tiempo real por máquinas". Sin embargo, el control centralizado presenta un problema de grado. Una forma de control centralizado relativamente moderada, que a menudo se pasa por alto pero que sigue siendo perjudicial, se manifiesta en el campo de la biotecnología (, como la resistencia pública a la supervisión de alimentos y vacunas ), así como permitir que esta resistencia no sea desafiada por normas de código cerrado.

Los riesgos de este enfoque son evidentes, ya que el centro mismo a menudo se convierte en la fuente de riesgo. Ya hemos sido testigos de esto durante la pandemia de COVID-19, donde la investigación funcional financiada por varios gobiernos principales del mundo podría ser la raíz de la pandemia, y la epistemología centralizada ha llevado a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus COVID se transmite por el aire, mientras que el distanciamiento social obligatorio y los mandatos de vacunas han provocado un posible retroceso político que podría durar décadas. Situaciones similares son muy propensas a ocurrir nuevamente en cualquier escenario de riesgo relacionado con la inteligencia artificial u otras tecnologías de riesgo. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos que provienen del propio centro.

Defensa descentralizada, pero excluyente de aceleración

En esencia, esto es un intento de frenar el avance tecnológico o impulsar una recesión económica.

Esta estrategia enfrenta un doble desafío. En primer lugar, en general, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier retraso en esto traerá costos incalculables. En segundo lugar, en un mundo no totalitario, la inacción es inestable: aquellos que "hacen trampa" más, que pueden encontrar formas aparentemente razonables de seguir avanzando en el desarrollo, tendrán la ventaja. Las estrategias de desaceleración pueden funcionar hasta cierto punto en ciertas circunstancias específicas: por ejemplo, los alimentos europeos son más saludables que los alimentos estadounidenses, este es un ejemplo; el éxito logrado hasta ahora en la no proliferación nuclear también es así. Sin embargo, estas estrategias no pueden funcionar para siempre.

A través de d/acc, nos comprometemos a lograr los siguientes objetivos:

• Mantener principios en un mundo cada vez más tribal, y no simplemente construir diversas cosas de manera ciega; por el contrario, esperamos construir cosas específicas que hagan del mundo un lugar más seguro y mejor.
• Reconocer que el avance tecnológico exponencial significa que el mundo se volverá extremadamente peculiar, y la "huella" general de la humanidad en el universo necesariamente seguirá aumentando. Nuestra capacidad para proteger a los animales, plantas y comunidades vulnerables de daños debe seguir mejorando, y la única salida es avanzar sin miedo.
• Construir tecnologías que realmente nos protejan, en lugar de basarse en la suposición de que "buenas personas ( o buena inteligencia artificial ) controlan todo". Logramos este objetivo construyendo herramientas que son naturalmente más efectivas para construir y proteger que para destruir.

Una forma alternativa de pensar sobre d/acc es regresar al marco del movimiento del Partido Pirata en Europa a finales de los años 2000: empoderamiento.

Nuestro objetivo es construir un mundo que preserve la capacidad de acción humana, logrando la libertad negativa, es decir, evitar que otros (, ya sean ciudadanos comunes, gobiernos o superinteligencias robóticas ), moldeen nuestra propia existencia.