'Indiferença Radical': Como o Capitalismo de Vigilância Conquistou Nossas Vidas

Quando Shoshana Zuboff retorna minha ligação com 15 minutos de atraso, é porque sua ligação anterior com uma organização em Israel caiu no meio do caminho e eles levaram um tempo para se reconectar. Esse é o perigo de funcionar em quarentena, mesmo que as empresas de tecnologia exerçam mais poder do que nunca.

Em vez de ter tempo durante o verão para refletir e planejar seu próximo livro como pretendia, Zuboff tem estado muito ocupada com pessoas querendo falar com ela e fazer Eventos virtuais. É parte da razão pela qual, nos últimos quatro meses, tentamos agendar uma ligação, apenas para ter a data repetidamente adiada.

Pássaros cantam ao fundo enquanto falamos ao telefone, parte do ambiente da casa de Zuboff no campo. Ela diz que tem sorte de estar lá, dados os desafios que seus amigos enfrentam para equilibrar a COVID-19 e viver nas cidades. Os pássaros batem o jingle distópico dos caminhões de sorvete enquanto eles percorrem a cidade de Nova York, procurando clientes em meio a uma pandemia.

“A vida pandêmica toma muito tempo”, ela diz. “Entre descobrir como fazer compras e tudo mais, é muito trabalhoso.”

Veja também:Em Trump versus Twitter, a tecnologia descentralizada pode WIN

Zuboff é o autor def "The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power" e o Charles Edward Wilson Professor Emerita na Harvard Business School. Zuboff diz que o livro (que tem 660 páginas) "sintetiza anos de pesquisa e pensamento para revelar um mundo no qual os usuários de Tecnologia não são clientes, funcionários ou produtos. Em vez disso, eles são a matéria-prima para novos procedimentos de fabricação e vendas que definem uma ordem econômica inteiramente nova: uma economia de vigilância".

Zuboff e eu falamos sobre a estrutura do capitalismo de vigilância. Mas estou ansioso para ouvir suas opiniões sobre os protestos turbulentos nos EUA e o presidente Donald Trumpordem executiva sobre a Seção 230, uma lei que concede às empresas de mídia social imunidade de responsabilidade de conteúdo, com a qual o presidente tem discordado. Parece um bom momento para pensar sobre o contexto que a internet dá a esses Eventos e quem os controla.

Esta conversa foi editada por questões de tamanho e clareza.

Descreva o capitalismo de vigilância e o que isso significa para pessoas que talvez não estejam familiarizadas com ele.

O capitalismo de vigilância foi inventado no Google entre 2000 e 2001 como uma resposta à emergência financeira durante a crise das pontocom. Eles eram os caras mais espertos com o melhor mecanismo de busca e os investidores de capital de risco mais elegantes. Mas até eles foram atacados com seus investidores ameaçando se retirar. Naquela época, eles decidiram que tinham que encontrar um caminho rápido para a monetização, e isso teria que ser por meio de publicidade, que eles rejeitaram anteriormente.

Eles descobriram que os dados comportamentais restantes em seus servidores, chamados de exaustão de dados, estavam na verdade cheios de ricos sinais preditivos. E esses sinais preditivos estavam simplesmente espalhados sem uso, mais do que o necessário para a melhoria do produto ou serviço. Eu chamo esses dados comportamentais de “excedentes”. Foi treinando suas capacidades analíticas já altamente sofisticadas nesses fluxos excedentes e extraindo esses sinais preditivos, enquanto os usavam para análise, que eles descobriram que podiam prever em que tipo de anúncio alguém provavelmente clicaria e se clicaria para acessar o site. Isso se tornou o que hoje conhecemos como “taxa de cliques”.

A taxa de cliques é um produto computacional que prevê um fragmento do comportamento Human . Descobriu-se que havia um mercado muito substancial de clientes empresariais que queriam saber o que os clientes fariam, que queriam previsões comportamentais do comportamento do cliente e do comportamento do usuário.

Então, os anunciantes e seus clientes abriram mão do relacionamento tradicional entre um produto e seu anúncio, onde uma empresa decide onde colocar seus anúncios com base no alinhamento com seus valores de marca. Mesmo os primeiros anos de publicidade online mantêm essa continuidade. Mas o Google fez a eles uma oferta que eles T podiam recusar e eles concordaram depois de um bom BIT de debate e conflito. Eles concordaram em comprar o produto sem pedir para ver o que havia dentro da caixa preta do Google e deixar as máquinas decidirem para onde os anúncios iriam.

Como esse modelo se expande para abranger quase toda a internet?

Isso não é apenas um acidente que aconteceu no Google. Essa é uma lógica econômica que foi tão bem-sucedida no Google que, em apenas alguns anos, tornou-se o modelo padrão em todo o setor de tecnologia e, então, espalhou-se pela economia normal e se tornou a lógica econômica dominante em nosso tempo.

Entre 2001, quando essa lógica começou a ser aplicada sistematicamente, e 2004, quando o Google abriu o capital (a primeira vez que vimos algum de seus números), sua receita aumentou em 3.590%. Esse aumento exponencial representa o que chamo de dividendo de vigilância. Naquele ponto, eles decifraram o código e muitas empresas encontraram um caminho para a monetização. Agora, todo mundo, do fabricante de TV à Ford Motor Company, começou a dizer "dane-se o produto, queremos os dados". Todos em todos os setores estão perseguindo o dividendo de vigilância.

Há uma história sobre os jovens de ponta do Google sentados em um escritório em 2001, tentando responder à pergunta: "O que é o Google?" E ninguém tinha uma maneira convincente de responder a essa pergunta. Larry Page finalmente começou a compartilhar coisas e o que ele disse foi que se o Google tivesse um negócio, seriam informações pessoais. As pessoas vão produzir tantos dados. Haverá câmeras e sensores baratos em todos os lugares. Haverá tantos dados sobre a vida das pessoas que toda a experiência Human será pesquisável e indexável. Ele tinha a visão de que as informações pessoais eram o jogo. O capitalismo de vigilância é uma lógica econômica fundada no roubo unilateral e Secret da experiência privada como uma fonte ilimitada de matéria-prima gratuita, e essa matéria-prima gratuita se torna o ativo de custo zero [o que significa que, após os custos de configuração, é gratuito para produzir]. Pode ser traduzido em dados comportamentais. Esses dados comportamentais agora são reivindicados como proprietários e são reunidos em novos ecossistemas complexos de cadeia de suprimentos.

Este é o arco que o capitalismo de vigilância está percorrendo: não apenas para saber tudo e usar isso para previsões, mas para ativar o comportamento Human .

Tudo alimenta a cadeia de suprimentos. Não apenas o que você faz online, mas tudo no seu telefone, todos os aplicativos no seu telefone e, como Page previu, todas as câmeras e sensores estão coletando dados. Todos os dados comportamentais agora são reivindicados como proprietários e fluem para ecossistemas complexos antes de serem transmitidos para as fábricas computacionais do capitalismo de vigilância, chamadas de inteligência artificial. A [saída] são produtos computacionais que preveem o comportamento Human que são vendidos em Mercados, assim como temos Mercados para futuros de barriga de porco ou futuros de petróleo.

O que isso significa para a vida diária das pessoas?

Os Mercados de futuros Human têm dinâmicas competitivas. O que os atores e vendedores nesses Mercados estão competindo é certeza. Eles estão vendendo certeza para seus clientes e as melhores previsões WIN. Tivemos alguns insights sobre esses centros de fábrica alguns anos atrás com um documento vazado do Facebook em 2018. O documento revelou que no hub de IA do Facebook, trilhões de pontos de dados são ingeridos todos os dias e 6 milhões de previsões de comportamento são produzidas a cada segundo. Então, esse é o tipo de escala de que estamos falando. Quando pensamos na competição nesses Mercados de previsão, e você meio que desconstrói essa competição, você começa a ver os imperativos econômicos em ação aqui muito claramente.

O ONE é a escala. Para que a IA seja eficaz na produção de previsões, ela precisa de muitos dados. O ONE é o escopo. Além do volume, você precisa de variedade. Isso envolve tirar as pessoas do desktop, do laptop e sair para o mundo e fazê-las se movimentar pela casa, no carro, pelas cidades. Dê a elas um pequeno computador, elas podem levar no bolso e ele nos dirá tudo o que estão fazendo. Vamos chamá-lo de telefone. Essas são economias de escopo.

A Confira final foi que os melhores dados preditivos vêm da intervenção digital no comportamento das pessoas e do aprendizado de como ajustar e conduzir seu comportamento na direção que maximiza a força de suas previsões e, portanto, maximiza os resultados do cliente. Isso se tornou uma nova zona de experimentação. A escala de extração é enorme, mas conceitualmente direta. O escopo é enorme, mas exigiu muita invenção. O Facebook, por exemplo, agora está trabalhando em como traduzir ondas cerebrais em linguagem.

Como realmente modificamos o comportamento na direção que otimiza os fluxos de receita? Isso não é tão simples. Esta é uma nova zona de experimentação e então as empresas começaram a trabalhar experimentando com ela. Coisas como os experimentos de contágio em grande escala do Facebook, e coisas como o Pokémon Go do Google, o jogo de realidade aumentada que experimentou como conduzir as pessoas por suas cidades, vilas e aldeias até os estabelecimentos que estavam pagando a Niantic Labs, que fez o Pokémon Go e que foi desmembrado do Google, para tráfego garantido. Esta é exatamente a mesma estrutura dos Mercados de anúncios online que estão pagando por taxa de cliques e agora você tem um estabelecimento do mundo real pagando por tráfego garantido.

Veja também:Por que a "guerra cultural" do Bitcoin é importante

É isso que os cientistas de dados chamam de mudança do monitoramento para a atuação. É quando você realmente tem conhecimento suficiente sobre um sistema de máquina para poder controlá-lo remotamente e automatizá-lo. Você pode alterar os parâmetros ou fazer o que for preciso remotamente porque agora você tem muitas informações sobre o sistema monitorando a atuação. Este é o arco que o capitalismo de vigilância está percorrendo: não apenas para saber tudo e usar isso para previsão, mas para atuar o comportamento Human , o comportamento social e o comportamento individual para conduzir o comportamento na direção que é ótima para a receita.

Nós vemos isso emmicro segmentação com base psicológica. Vemos isso no uso em tempo real de recompensas e punições, entregues pelo seu telefone. Vemos isso pela importação da gamificação para apontar as pessoas na direção que satisfaz os resultados comerciais. Pokémon Go foi um exemplo disso. O ponto é que quando as pessoas pensam sobre essas questões, elas só pensam em anúncios direcionados. Elas acham que isso é apenas sobre publicidade. Não é mais. Isso é sobre sua seguradora recompensando e punindo você em tempo real pela quantidade de pressão que seu pé coloca no pedal do GAS . Em tempo real, isso pode aumentar ou diminuir seus prêmios com base em seu comportamento imediato.

Então, qual é o objetivo final neste cenário? Você faz referência à experimentação anterior do Sidewalk Lab com Toronto como uma “cidade inteligente” que troca dados por todos os tipos de privilégios. Como isso se parece?

Tal experimento substitui decisões que os cidadãos tomam sobre como querem viver juntos, que são os blocos de construção de toda democracia. O cidadão não tem outro papel além de apenas fazer parte desse sistema maior. E essas empresas dizem que se você concordar em nos dar todos os seus dados e tornar sua vida completamente acessível a nós em todos os sentidos, então você será elegível para todos esses novos serviços legais.

Se você escolher Política de Privacidade e anonimato, você será excluído das ofertas de serviço. Você T poderá aproveitar os novos sistemas de trânsito ou os novos sistemas de segurança ou os sistemas de entrega de alimentos. Estas são as recompensas e punições em tempo real em ação. Googlefalou sobreusando dados para construir pontuações de reputação. Pessoas e empresas que se comportam dentro dos parâmetros algorítmicos obtêm pontuações de reputação mais altas e isso as privilegia quando se trata de empréstimos bancários ou outros tipos de serviços. Pessoas que violam os parâmetros algorítmicos são punidas porque são excluídas desses tipos de relacionamentos e serviços, e T podem progredir em suas vidas porque são excluídas.

Veja também:Descentralização e o que a Seção 230 realmente significa para a liberdade de expressão

Esta é uma visão de um futuro: uma corporação privada com poder irresponsável. É um futuro onde T temos a grande democratização da informação que esperávamos no século digital, mas exatamente o oposto. Nós revertemos a um padrão feudal com essas enormes concentrações de conhecimento e esse novo tipo de poder.

Esse poder não é soldados chegando na sua casa no meio da noite e te levando para o gulag. Isso não é violência, terror e assassinato. Esse é um poder que opera remotamente através do ambiente da instrumentação digital. Para qualquer um que pense que tais sistemas são apenas o assunto dos episódios de "Black Mirror", vá e leia a história do século XX, onde foi preciso que toda a aliança ocidental lutasse contra outro tipo de poder totalizante que queria controle total sobre os indivíduos e a sociedade, e esse era o totalitarismo. Isso é diferente porque tende a vir carregando um cappuccino em vez de uma arma.

A indiferença radical visa maximizar os fluxos de dados, não porque essas pessoas sejam más, mas porque essa é a compulsão dessa lógica econômica.

Como a ordem executiva de Trump atacando a Seção 230 – que isenta empresas de responsabilidade civil por conteúdo online – pode impactar isso, se é que pode?

Desinformação é uma consequência rotineira da lógica econômica que acabamos de discutir. É uma consequência dos imperativos de economias de escala e economias de escopo. Todos os sistemas foram projetados desde o início para maximizar os fluxos da cadeia de suprimentos. Na linguagem eufemística dos capitalistas de vigilância, é engajamento. Não há espaço nessa lógica econômica para julgar a qualidade do suprimento. T importa. A escala importa. O escopo importa. A atuação que nos permite aumentar a precisão da previsão importa. Isso é tudo.

Isso é o que eu chamo de indiferença radical. T nos importamos se você está feliz ou triste. Só nos importamos em conseguir os dados. T nos importamos se você tem câncer, se vai se casar ou se está planejando um ataque terrorista, só nos importamos em conseguir os dados. A indiferença radical é sobre maximizar os fluxos de dados, não porque essas são pessoas más, mas porque essa é a compulsão dessa lógica econômica. Até que interrompamos e proíbamos essa lógica econômica, teremos desinformação.

A natureza do ser Human é que se você estiver dirigindo por uma estrada, e houver um acidente de carro, você vai parar e olhar. Se você estiver dirigindo pela estrada, e houver um lindo salgueiro, você vai KEEP dirigindo. Acontece que conteúdo violento, contencioso, odioso, agitador e mentiroso faz as pessoas pararem e olharem. Esse é o acidente de carro.

Porque os sistemas são projetados para maximizar o fornecimento, e porque as pessoas param e olham para os destroços de carros, isso permite exércitos de bots e trolls. Esse é o Sr. Trump.

A Seção 230 não tinha como antecipar o capitalismo de vigilância. Não há incentivo para derrubar coisas ruins e incentivos massivos para KEEP as cadeias de suprimentos cheias. Acontece que a internet não é um quadro de avisos, como os criadores da Seção 230 imaginaram. A internet é mais como a corrente sanguínea do corpo político global. Graças aos imperativos econômicos do capitalismo de vigilância, as pessoas que possuem e operam a internet são incentivadas a permitir que qualquer um coloque qualquer tipo de veneno na corrente sanguínea sem um antídoto. É onde estamos hoje.

Então a Seção 230 precisa de escrutínio? Sim, mas precisa de escrutínio como parte de uma discussão maior sobre estruturas legislativas, paradigmas regulatórios, cartas de direitos ou as instituições que precisamos para tornar a internet compatível com a democracia.

Esta é a terceira década do século digital. Temos que descobrir isso. O Sr. Trump está chegando e chamando a atenção para a Seção 230, o que ONE poderia pensar que era uma coisa boa, mas agora temos o segundo golpe. Esse golpe é que o Sr. Trump está lutando pelo direito de colocar veneno à vontade na corrente sanguínea global. Ele está lutando pelo direito de mentir. Ele está lutando pelo direito de colocar informações contrafactuais no corpo político.

Precisamos construir um estado de direito compatível com a democracia que aborde essas questões CORE do capitalismo de vigilância e quem é dono e opera a internet. Precisamos fazer isso para tornar a internet segura para a verdade. Não segura para mentiras. Há áreas onde há Opinião , mas há áreas onde há fatos. Agora temos uma corrente sanguínea global na qual não há operação institucional que esteja sob proteção democrática e supervisão democrática. Isso tornou nossas democracias insustentáveis.