d/acc: Uma retrospectiva de um ano

Introdução

Agradecemos o feedback e a revisão dos voluntários, como Liraz Siri, Janine Leger e Balvi.

Há cerca de um ano, escrevi um artigo sobre otimismo tecnológico, onde expus meu entusiasmo geral pela tecnologia e seus enormes benefícios, ao mesmo tempo em que manifestei uma atitude cautelosa em relação a certos problemas específicos, principalmente sobre inteligência artificial superinteligente, e os riscos de destruição que podem surgir se for mal construída, ou o risco de a humanidade perder poder de forma irreversível.

Um dos pontos centrais do artigo é promover uma aceleração defensiva que seja descentralizada, democrática e diferenciada. É necessário acelerar o desenvolvimento tecnológico, mas com foco seletivo nas tecnologias que podem aprimorar nossa capacidade de defesa em vez de causar danos, e dedicar-se a promover a descentralização do poder, em vez de concentrá-lo nas mãos de poucos elites, evitando que esses elites julguem o bem e o mal em nome de todos. O modelo de defesa deve ser como a Suíça democrática e a região de Zomia, historicamente quase anárquica, em vez do modelo representado pelos senhores e castelos sob o feudalismo medieval.

No último ano, essas ideias e conceitos tiveram um desenvolvimento e amadurecimento significativos. Compartilhei essas ideias na plataforma "80,000 horas", recebendo várias respostas, a maioria positiva, mas, claro, também houve algumas vozes críticas.

Este trabalho continuou a avançar e obteve resultados concretos: no campo das vacinas de código aberto verificáveis, vimos progresso; a consciência sobre o valor do ar interior saudável está a aprofundar-se; as "notas da comunidade" continuam a desempenhar um papel positivo; o mercado de previsões como ferramenta de informação teve um ano de grandes avanços; provas de conhecimento de zero conhecimento, não interativas e concisas ( ZK-SNARKs ) foram aplicadas na identificação governamental e nas redes sociais (, e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas na medicina e na interface cérebro-máquina ( BCI ), entre outros.

No outono passado, recebemos o primeiro evento importante de d/acc: "Dia de Descoberta d/acc"(d/aDDy), que ocorreu na Devcon, reunindo palestrantes de diversos pilares do d/acc(, incluindo biologia, física, redes, defesa da informação e tecnologias neurais). O evento durou um dia inteiro. Ao longo dos anos, as pessoas que se dedicaram a essas tecnologias têm compreendido cada vez mais o trabalho umas das outras, enquanto os de fora também têm se conscientizado dessa visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem se expandir para um mundo mais amplo.

O significado e a extensão do d/acc

Imagine que estamos em 2042. Você vê em uma reportagem na mídia que a sua cidade pode enfrentar um novo surto de pandemia. Para esse tipo de notícia, você já está acostumado: as pessoas tendem a reagir de forma exagerada a cada mutação de doenças animais, e na maioria das vezes, essas mutações não resultam em uma crise real. As duas potenciais epidemias anteriores foram detectadas precocemente através da monitorização de águas residuais e da análise de código aberto nas redes sociais, e foram contidas com sucesso em seu estágio inicial. No entanto, a situação atual é diferente, os mercados de previsão indicam que a probabilidade de haver pelo menos 10.000 casos é de 60%, o que o deixa preocupado.

Foi ontem que a sequência genética do vírus foi determinada. Uma atualização de software para o testador de ar que você tem no bolso foi lançada imediatamente; com essa atualização, o testador pode detectar o novo vírus (, seja através de um teste de respiração, ou após 15 minutos de exposição ao ar interior de uma sala para detectar ). Ao mesmo tempo, as instruções e códigos de código aberto para gerar vacinas, utilizando equipamentos disponíveis em qualquer instalação médica moderna ao redor do mundo, devem ser lançados em algumas semanas. A maioria das pessoas ainda não tomou nenhuma medida, confiando principalmente em medidas de filtragem de ar e ventilação amplamente adotadas para proteger sua segurança.

Devido a problemas imunológicos, você age com mais cautela: o assistente pessoal de inteligência artificial de código aberto que você utiliza, além de realizar tarefas comuns como navegação, recomendações de restaurantes e atividades, também considera dados de testes de qualidade do ar em tempo real e dados de dióxido de carbono, recomendando apenas os locais mais seguros para você. Esses dados são fornecidos por milhares de participantes e dispositivos, e com o uso de ZK-SNARKs e tecnologia de privacidade diferencial, minimiza-se o risco de que os dados sejam vazados ou usados indevidamente para outros fins ( Se você estiver interessado em contribuir com dados para esses conjuntos de dados, outros assistentes pessoais de inteligência artificial verificarão se essas ferramentas criptográficas são realmente eficazes ).

Dois meses depois, a pandemia desapareceu milagrosamente: parece que 60% das pessoas seguiram os protocolos básicos de prevenção, ou seja, usaram máscaras quando o detector de ar emitia um alarme e mostrava a presença do vírus, e se o resultado do teste pessoal fosse positivo, isolavam-se em casa. Esta medida foi suficiente para reduzir ainda mais a taxa de transmissão, que já havia diminuído significativamente devido à filtragem de ar forçada passivamente, para abaixo de 1. Uma simulação mostrou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de COVID-19 há vinte anos, agora não causou impactos sérios.

O evento d/acc realizado pela Devcon obteve um resultado extremamente positivo, que é a ideia de d/acc ter conseguido unir pessoas de diferentes áreas e realmente despertado um grande interesse pelo trabalho uns dos outros.

Organizar um evento com "diversidade" não é difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões íntimas é algo muito mais desafiador. Eu ainda me lembro vividamente da minha experiência forçada de assistir a longas óperas durante o ensino fundamental e médio; na época, eu achava essas óperas maçantes e entediantes. Eu sabia que "deveria" apreciá-las, pois, se não o fizesse, seria visto como um preguiçoso sem cultura em ciência da computação, mas não consegui me conectar em um nível mais profundo com o conteúdo das óperas. No entanto, a atmosfera do evento d/acc foi completamente diferente: parecia que as pessoas realmente amavam entender os vários trabalhos de diferentes áreas.

Se desejarmos construir um futuro mais brilhante do que o domínio, a desaceleração e a destruição, é inevitável que precisemos iniciar essa ampla construção de alianças. O d/acc parece ter alcançado resultados significativos nesse aspecto, e apenas isso é suficiente para destacar o valioso valor dessa ideia.

A ideia central do d/acc é clara e concisa: defesa descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em favor da defesa, sem depender da transferência de mais poder para autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, enquanto enfrenta grandes desafios quando a defesa se torna difícil – nessas situações, o resultado mais provável é um período de caos em que todos estão em conflito, culminando em um estado de equilíbrio dominado pelo mais forte.

Uma forma de entender a importância de tentar implementar a descentralização, a defesa e a aceleração ao mesmo tempo é compará-la com a ideia resultante de abdicar de qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte de "defesa diferenciada"

Essencialmente, isso é semelhante a se tornar um aceleracionista eficaz ( e/acc ), mas ao mesmo tempo buscando descentralização. Muitas pessoas adotam essa abordagem, algumas das quais se autodenominam d/acc, mas elas benéficamente descrevem seu foco como "ofensivo". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos semelhantes, mas, na minha opinião, sua atenção ao aspecto "defensivo" é claramente insuficiente.

Na minha opinião, este método pode evitar o risco de um grupo específico implementar uma ditadura sobre a humanidade global, mas não resolve os problemas estruturais subjacentes: em um ambiente favorável à ofensiva, sempre existe o risco contínuo de desastres, ou alguém pode se posicionar como protetor e ocupar permanentemente a posição de domínio. No que diz respeito à inteligência artificial, também não consegue resolver adequadamente o risco de que a humanidade em geral tenha seu poder em relação à inteligência artificial enfraquecido.

Defesa diferenciada acelerada, mas ignora "descentralização e democracia"

A aceitação do controle centralizado para alcançar objetivos de segurança sempre teve um certo apelo para algumas pessoas; os leitores sem dúvida já estão familiarizados com muitos desses casos, bem como com os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupações de que o controle centralizado extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético em que "cada pessoa usa uma 'etiqueta de liberdade' - um produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhante a etiquetas de tornozelo usadas como alternativas à prisão em alguns países... vídeos e áudios criptografados são continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma relativamente moderada de controle centralizado, geralmente ignorada mas ainda prejudicial, é refletida no campo da biotecnologia (, por exemplo, a resistência da supervisão pública sobre alimentos, vacinas ) e a permissão para que esse comportamento de resistência não seja desafiado por normas de código fechado.

Os riscos desta abordagem são evidentes, pois o centro em si muitas vezes se torna a fonte do risco. Já testemunhámos isso durante a pandemia de Covid-19, onde a pesquisa funcional financiada por vários governos mundiais pode ter sido a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a recusar-se a reconhecer durante anos que o vírus da Covid-19 se espalha pelo ar, enquanto o distanciamento social obrigatório e os mandatos de vacinação provocaram uma possível reação política que pode durar décadas. Situações semelhantes podem muito provavelmente ocorrer novamente em qualquer cenário de risco relacionado à inteligência artificial ou outras tecnologias de risco. Em contraste, uma abordagem descentralizada responderá de forma mais eficaz aos riscos provenientes do próprio centro.

Defesa descentralizada, mas rejeição à aceleração

Em essência, isso é uma tentativa de retardar o progresso tecnológico ou impulsionar a recessão econômica.

Esta estratégia enfrenta um duplo desafio. Primeiro, em geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, capazes de encontrar maneiras aparentemente razoáveis de continuar a avançar, terão vantagem. A estratégia de desaceleração pode funcionar em certas situações específicas até certo ponto: por exemplo, os alimentos europeus são mais saudáveis do que os alimentos americanos, e isso é um exemplo; o sucesso da não proliferação nuclear até agora também é assim. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Manter princípios em um mundo que se tribaliza cada vez mais, e não apenas construir coisas de forma cega - pelo contrário, esperamos construir coisas específicas que tornem o mundo mais seguro e melhor.
• Reconhecer que os avanços tecnológicos exponenciais significam que o mundo se tornará extremamente peculiar, e que a "pegada" geral da humanidade no universo inevitavelmente aumentará. Nossa capacidade de proteger animais, plantas e comunidades vulneráveis de danos deve continuar a melhorar, e a única saída é seguir em frente.
• Construir tecnologias que realmente nos protejam, em vez de basear-se na suposição de que "boas pessoas( ou boa inteligência artificial) controlam tudo". Alcançamos esse objetivo construindo ferramentas que, quando utilizadas para construir e proteger, são naturalmente mais eficazes do que quando utilizadas para destruir.

Uma outra perspectiva sobre o d/acc é voltar a um quadro do movimento dos Piratas na Europa no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que possa preservar a agência humana, realizando a liberdade negativa, ou seja, evitando que outros (, sejam cidadãos comuns, governos ou super-robôs inteligentes ), moldem a nossa própria existência.