Os impulsionadores da IA sacrificariam a humanidade por um simulacro - desde que estivessem no controle

Os humanos sempre tiveram uma relação estranha com sua Tecnologia. Seja o fogo, a palavra escrita ou a inteligência artificial (IA), as coisas que criamos para nos fortalecer e nos expandir muitas vezes parecem estranhas forças externas, seu impacto transformador em nossas vidas e mentes é tão profundo e imprevisível quanto o de deuses caprichosos.

Este artigo foi extraído do The Node, o resumo diário do CoinDesk das histórias mais importantes em notícias sobre blockchain e Cripto . Você pode se inscrever para obter o conteúdo completo boletim informativo aqui.

No século 21, há muitas tecnologias cujo impacto ainda T nos adaptamos, como as mídias sociais. Outras, particularmente a inteligência artificial e a Criptomoeda, ainda não estão totalmente desenvolvidas, mas podem ter grandes impactos em como vivemos. Isso inclui moldar a maneira como pensamos sobre o mundo: grupos Human são frequentemente profundamente influenciados pelos vieses embutidos das tecnologias em que confiam. (Essa relação entre a humanidade e sua Tecnologia foi o foco principal da minha carreira acadêmica antes de me voltar para o jornalismo.)

Os casos de IA e Criptomoeda são particularmente fascinantes. Seus respectivos fundamentos tecnológicos mapeiam ideias muito mais amplas sobre a sociedade e até mesmo a moralidade individual. Os dois conjuntos de ideias também parecem, de muitas maneiras, diametralmente e fundamentalmente opostos. De um lado, você tem ideólogos Cripto , frequentemente alguma variedade de libertários; de outro, você tem o tecno-utopismo dos impulsionadores da IA.

O princípio CORE da tecnologia blockchain é a universalidade. O ponto principal é que todos, em todos os lugares, podem acessar essas ferramentas e serviços, quer alguém em posição de autoridade concorde com isso ou não. Um corolário desse princípio é valorizar muito a Política de Privacidade . Esses valores levam a uma quantidade significativa de caos, mas o ethos subjacente inclui a crença de que esse caos é produtivo, ou pelo menos uma troca necessária para o florescimento Human .

Comunidades de inteligência artificial tendem a uma visão muito diferente do mundo, também intimamente ligada à estrutura da Tecnologia. O papel básico de uma IA é observar o comportamento Human e então copiá-lo, em todas as suas nuances. Isso tem muitas implicações, mas as principais incluem o eventual fim do trabalho Human , a centralização técnica e um viés em direção à transparência total dos dados.

Elas podem parecer inócuas ou até positivas. Mas, para ser franco, as implicações dos vieses técnicos da IA parecem bastante sombrias para a humanidade. Isso torna ainda mais fascinante assistir os impulsionadores da IA não apenas abraçarem essas implicações sombrias, mas trabalharem incansavelmente para torná-las reais.

Você T é mais Human

A manifestação mais flagrantemente malévola da visão de mundo da IA ​​pode não parecer uma. Worldcoin é aparentemente um projeto de Criptomoeda projetado para distribuir uma “renda básica universal” (UBI) em troca de coletando dados biométricos ultrassensíveisde populações vulneráveis.

Mas, embora seja uma “Cripto” na superfície, a Worldcoin é, na verdade, um projeto de IA em substância. É uma ideia original de Sam Altman, também fundador da OpenAI. Seu objetivo de identificar indivíduos e dar a eles UBI é baseado em um futuro no qual a inteligência artificial assume todos os empregos Human , exigindo uma redistribuição administrada centralmente da riqueza gerada pela IA.

Veja também:Por que todo mundo está bravo com o Worldcoin de Sam Altman(2021)

Uma implicação frequentemente esquecida disto é que neste futuro, pessoas como Sam Altman serão as que ainda terão trabalho significativo e liberdade individual, porque eles estarão operando as máquinas. O resto de nós, ao que parece, terá que subsistir com Worldcoin.

Se isso parece desumanizante, experimente isto: direitos Human para máquinas. Em um ensaio publicado no The Hill em 23 de março, o colaborador Jacy Reese Anthis declarou: “Precisamos de um movimento pelos direitos da IA”. Como muitos apontaram, isso é filosoficamente suspeito porque não há evidências convincentes de que as inteligências artificiais terão ou poderão ter qualquer experiência subjetiva, ou conhecer o sofrimento de uma forma que necessitaria de proteção.

Os hipestas da IA fizeram grandes esforços para obscurecer essa questão da consciência subjetiva. Eles flutuaramuma série de argumentos maliciosamente enganososque as IAs – incluindo, absurdamente, os modelos de linguagem atualmente existentes – possuem alguma forma de consciência, ou a experiência subjetiva de estar no mundo.Consciência e suas origensestão entre os maiores mistérios da existência de todos os tempos, mas os defensores da IA muitas vezes parecem ter uma compreensão superficial da questão, ou mesmo do que a palavra "consciência" significa.

Anthis, cofundador de algo chamado Sentience Institute, repete em seu ensaio a falácia lógica fundamental de muitas pesquisas falhas sobre IA: aceitar acriticamente o resultado visível da IA como um sinal direto de alguma experiência subjetiva interna.

Por mais louco que seja o apelo pelos direitos da IA, ainda T tocamos nas franjas mais distantes do hype equivocado da IA. No final de março, ninguém menos que o aspirante a rei-filósofo Eleizer Yudkowsky sugeriu que seus seguidores deveriam estar preparados paracometer ataques violentos em fazendas de servidorespara retardar ou parar o avanço da IA.

Alguns podem se surpreender que eu inclua Yudkowsky com forças pró-IA. Yudkowsky é o líder de um movimento de “Segurança de IA” que surgiu de seu blog “racionalista” LessWrong, e argumenta que a IA pode potencialmente dominar o mundo e destruir a humanidade. A validade dessas ideias está em debate, mas o importante aqui é que Yudkowsy e seus chamados pares racionalistas T se opõem à inteligência artificial. Os yudkowskyitas acreditam que a IA pode trazer uma utopia (novamente, uma utopia da qual eles seriam responsáveis), mas que isso traz sérios riscos. Eles são fundamentalmente defensores da IA ​​vestidos com roupas de céticos.

Isto contrasta com o ceticismo mais genuíno e fundamentado de figuras como Timnit Gebru eCathy O'Neil. Esses pesquisadores, que não têm quase o mesmo número de seguidores de Yudkowsky, T estão preocupados com um apocalipse em um futuro distante. Sua preocupação é com um perigo claro e presente: que algoritmos treinados no comportamento Human também reproduzam as falhas desse comportamento, como discriminação racial e outras formas de discriminação. Gebru era notoriamentedemitido do Googlepor ter a ousadia deapontarproblemas com IAque ameaçava o modelo de negócios do Google.

Você pode notar a semelhança aqui com outros movimentos ideológicos, particularmente as ideias relacionadas de“altruísmo eficaz” e “longo prazo”.Emile P. Torres, um filósofo radicado na Universidade Leibniz, na Alemanha, está entre aqueles que descrevem o profundo alinhamento e as afiliações entre os yudkowskyitas, os “transumanistas”, os altruístas eficazes e os longtermistas, sob a siglaTESCRÉAL. Como apenas um pequeno exemplo desse alinhamento, a FTX, a bolsa de Cripto fraudulenta composta substancialmente por altruístas eficazes e liderada por um homem que fingiu ser um, fez grandes doações (usando fundos supostamente roubados) paraSegurança da IAgrupos, bem como outras causas de longo prazo.

Este pacote de visões de mundo, argumenta Torres, resume-se a “colonizar, subjugar, explorar e maximizar.” Em Worldcoin em particular, vemos uma prévia do autoritarismo implacável de um mundo onde as máquinas copiam infinitamente os comportamentos Human e os substituem – exceto pelo punhado de humanos com as mãos no leme.

Veja também:A intersecção entre IA e Cripto| Dinheiro Reimaginado

Há muito mais a ser dito aqui, mas para aqueles no mundo Cripto , uma declaração do eixo TESCREAL merece atenção particular. Em um ensaio muito recente, Yudkowsky declarou que a ameaça futura de inteligência artificial perigosa poderia exigir "monitoramento global muito forte, incluindo quebrando toda a criptografia, para evitar comportamento hostil da AGI."

Em outras palavras, para essas pessoas a Política de Privacidade e autonomia dos humanos no presente devem ser descartadas em favor da criação de condições para expansão segura e contínua da inteligência artificial no futuro. Deixo para você decidir se esse é um futuro, ou presente, que alguém deveria querer.