O que a governança da IA ​​pode Aprenda com o ethos de descentralização da criptomoeda

Os titãs da tecnologia dos EUA rapidamente deixaram de ser rotulados por seus críticos como tecno-utopistas egoístas para se tornarem os propagadores mais vocais de uma narrativa tecno-distópica.

Esta semana, uma carta assinada por mais de 350 pessoas, incluindo o fundador da Microsoft, Bill Gates, o CEO da OpenAI, Sam Altman, e o ex-cientista do Google, Geoffrey Hinton (às vezes chamado de "Padrinho da IA"), continha uma única frase declarativa: "Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear".

Você está lendoDinheiro reinventado, uma análise semanal dos Eventos e tendências tecnológicas, econômicas e sociais que estão redefinindo nossa relação com o dinheiro e transformando o sistema financeiro global. Assine para receber o boletim informativo completo aqui.

Há apenas dois meses, uma abertura anteriorcarta assinado pelo CEO da Tesla e do Twitter, ELON Musk, junto com outros 31.800, pediu uma pausa de seis meses no desenvolvimento de IA para permitir que a sociedade determine seus riscos para a humanidade. um artigo de opinião para a TIME na mesma semana, Eliezer Yudkowsky, considerado o fundador do campo da inteligência geral artificial (AGI), disse que se recusou a assinar a carta porque ela T ia longe o suficiente. Em vez disso, ele pediu um fechamento forçado militarmente dos laboratórios de desenvolvimento de IA para que um ser digital senciente não surja e mate todos nós.

Líderes mundiais acharão difícil ignorar as preocupações desses especialistas altamente reconhecidos. Agora é amplamente compreendido que uma ameaça à existência Human realmente existe. A questão é: como, exatamente, devemos mitigá-la?

Como eu tenhoescrito anteriormente, Vejo um papel para a indústria de Cripto , trabalhando com outras soluções tecnológicas e em conjunto com uma regulamentação ponderada que incentive a inovação inovadora e centrada no ser humano, nos esforços da sociedade para KEEP a IA em seu caminho. Blockchains podem ajudar com a procedência de entradas de dados, com provas para evitar falsificações profundas e outras formas de desinformação, e para permitir a propriedade coletiva, em vez da corporativa. Mas mesmo deixando de lado essas considerações, acho que a contribuição mais valiosa da comunidade de Cripto está em sua “mentalidade de descentralização”, que oferece uma perspectiva única sobre os perigos representados pela propriedade concentrada de uma Tecnologia tão poderosa.

Uma visão bizantina dos riscos da IA

Primeiro, o que quero dizer com essa “mentalidade de descentralização”?

Bem, em sua CORE, a Cripto está impregnada de um ethos de “T confie, verifique”. Desenvolvedores de Cripto obstinados – em vez dos gananciosos cujos cassinos de token centralizados colocam a indústria em descrédito – se envolvem implacavelmente em “ALICE e Bob” experimentos mentais para considerar todos os vetores de ameaça e pontos de falha pelos quais um ator desonesto pode intencionalmente ou não ser habilitado a causar danos. O próprio Bitcoin nasceu de Satoshi tentando resolver um dos mais famosos cenários da teoria dos jogos, o Problema dos generais bizantinos, que trata de como confiar em informações de alguém que você T conhece.

A mentalidade trata a descentralização como a maneira de lidar com esses riscos. A ideia é que, se não houver uma entidade única e centralizada com poderes de intermediário para determinar o resultado de uma troca entre dois atores, e ambos puderem confiar nas informações disponíveis sobre essa troca, então a ameaça de intervenção maliciosa é neutralizada.

Agora, vamos aplicar essa visão de mundo às demandas apresentadas na carta de “extinção” da IA desta semana.

Leia Mais: Allison Duettmann - Como a Cripto pode ajudar a proteger a IA

Os signatários querem que os governos se unam e criem políticas de nível internacional para lidar com a ameaça da IA. Esse é um objetivo nobre, mas a mentalidade de descentralização diria que é ingênuo. Como podemos supor que todos os governos, presentes e futuros, reconhecerão que seus interesses são atendidos pela cooperação em vez de agirem sozinhos – ou pior, que eles T dirão uma coisa, mas farão outra? (Se você acha que monitorar o programa de armas nucleares da Coreia do Norte é difícil, tente ficar atrás de um muro de criptografia financiado pelo Kremlin para espiar seus experimentos de aprendizado de máquina.)

Uma coisa era esperar uma coordenação global em torno da pandemia da COVID, quando todos os países tinham necessidade de vacinas, ou esperar que a lógica da destruição mútua assegurada (MAD) levaria até os inimigos mais ferrenhos da Guerra Fria a concordar em não trazer nem armas nucleares, onde o pior cenário é tão óbvio para todos. Outra coisa é acontecer em torno de algo tão imprevisível quanto a direção da IA ​​– e, tão importante quanto, onde atores não governamentais podem facilmente usar a Tecnologia independentemente de governos.

A preocupação de quealguns na comunidade Cripto tem sobre esses grandes players de IA correndo para regulamentar é que eles criarão um fosso para proteger sua vantagem de pioneiros, tornando mais difícil para os concorrentes irem atrás deles. Por que isso importa? Porque ao endossar um monopólio, você cria o risco muito centralizado que esses experimentos mentais de Cripto de décadas nos dizem para evitar.

Nunca dei muito crédito ao lema "Do No Evil" do Google, mas mesmo que Alphabet, Microsoft, OpenAI e companhia sejam bem-intencionadas, como sei que sua Tecnologia T será cooptada por um conselho executivo, governo ou um hacker com motivação diferente no futuro? Ou, em um sentido mais inocente, se essa Tecnologia existe dentro de uma caixa-preta corporativa impenetrável, como pessoas de fora podem verificar o código do algoritmo para garantir que o desenvolvimento bem-intencionado não esteja inadvertidamente saindo dos trilhos?

E aqui está outro experimento mental para examinar o risco de centralização para a IA:

Se, como acreditam pessoas como Yudkowsky, a IA está destinada, na sua trajectória actual, aStatus da Inteligência Geral Artificial (AGI), com uma inteligência que poderia levá-la a concluir que deveria nos matar a todos, qual cenário estrutural a levaria a tirar essa conclusão? Se os dados e a capacidade de processamento que mantém a IA “viva” estiverem concentrados em uma única entidade que pode ser desligada por um governo ou um CEO preocupado, pode- ONE argumentar logicamente que a IA nos mataria para evitar essa possibilidade. Mas se a própria IA “vive” dentro de uma rede descentralizada e resistente à censura de nós que não podem ser desligados, esse senciente digital T se sentirá suficientemente ameaçado para nos erradicar.

Não tenho ideia, é claro, se é assim que as coisas aconteceriam. Mas, na ausência de uma bola de cristal, a lógica da tese da AGI de Yudowskly exige que nos envolvamos nesses experimentos mentais para considerar como esse potencial inimigo futuro pode “pensar”.

Encontrando a mistura certa

Claro, a maioria dos governos terá dificuldade em comprar qualquer coisa disso. Eles naturalmente preferirão a mensagem “por favor, nos regulem” que Altman da OpenAI e outros estão ativamente entregando agora. Os governos querem controle; eles querem a capacidade de intimar CEOs e ordenar paralisações. Está no DNA deles.

E, para ser claro, precisamos ser realistas. Vivemos em um mundo organizado em torno de estados-nação. Goste ou não, é o sistema jurisdicional com o qual estamos presos. Não temos escolha a não ser envolver algum nível de regulamentação na estratégia de extinção-mitigação da IA.

O desafio é descobrir a combinação certa e complementar de regulamentação governamental nacional, tratados internacionais e modelos de governança descentralizados e transnacionais.

Talvez haja lições a serem tiradas da abordagem que governos, instituições acadêmicas, empresas privadas e organizações sem fins lucrativos adotaram para regular a internet. Por meio de órgãos como a Internet Corporation for Assigned Names (ICANN) e a Força-Tarefa de Engenharia da Internet(IETF), instalamos estruturas multissetoriais para permitir o desenvolvimento de padrões comuns e permitir a resolução de disputas por meio de arbitragem em vez de tribunais.

Algum nível de regulamentação de IA será, sem dúvida, necessário, mas não há como essa Tecnologia sem fronteiras, aberta e em rápida mudança ser controlada inteiramente pelos governos. Vamos torcer para que eles possam deixar de lado o atual animus em relação à indústria de Cripto e buscar seus conselhos sobre como resolver esses desafios com abordagens descentralizadas.