A vida algorítmica não vale a pena ser vivida

Isso é Semana da Política de Privacidade aqui na CoinDesk, e temos mergulhado em uma variedade de ângulos tecnológicos e legais sobre as consequências da vigilância digital. A ansiedade sobre o aumento da espionagem onipresente pode muitas vezes parecer uma questão acadêmica de princípio, ou uma série de avisos sobre casos extremos importantes, mas incomuns: o cônjuge espancado sendo perseguido com malware, o dissidente rastreado e assassinadopor um governo, o consumidor comlegal mas socialmente marginalizado gostos. Esses cenários de comprometimento da Política de Privacidade têm implicações sérias, é claro, para aqueles que são vítimas e para cada um de nós.

Mas o uso mais difundido da vigilância digital pode parecer muito mais mundano do que esses exemplos de manchetes, além de ser potencialmente muito mais insidioso.

Este artigo faz parte do CoinDesk'sSemana da Política de Privacidadesérie.

A segmentação de conteúdo algorítmica é a base de negócios de informação onipresentes como Google e Facebook, e afeta você a cada momento em que está online. Pode torná-lo menos informado, menos único, menos atencioso e menos interessante, tão sutilmente que você T percebe.

Pesquisador de HarvardShoshana Zuboff descreve o impacto da segmentação algorítmica como “a privatização da divisão do aprendizado”. Temos cada vez mais entregado nossas decisões sobre tudo para softwares de reconhecimento de padrões, ela argumenta. Ele orienta nossas interações com mídias sociais, sites de namoro, mecanismos de busca, publicidade programática e feeds de conteúdo – e é construído quase inteiramente em modelos de comportamento Human passado. Em sua raiz estrutural, é hostil à novidade, inovação e independência. E seus pioneiros se beneficiaram enormemente com isso – de acordo com Zuboff, o Google agora tem uma “concentração histórica mundial de conhecimento e poder”.

Eu tenho um nome um pouco mais rápido para isso do que Zuboff: o Loop Algorítmico. Como a maioria dos loops, é fácil ficar preso nele porque ele colhe nossas preferências e usa esses dados para nos KEEP fisgados — e assumir o controle. Claro que ele nos mostra datas em potencial ou títulos de filmes ou notícias que ele sabe que provavelmente clicaremos. Mas essas sugestões, por sua vez moldar nosso desejopara a próxima coisa que consumirmos.

O loop algorítmico, em suma, T apenas prevê nossos gostos, atitudes e crenças, ele os cria. E porque ele os molda com base apenas no que ele já sabe e pode entender, ele está nos tornando menos criativos e menos individuais de maneiras que mal começamos a entender.

Com o tempo, os efeitos individuais e coletivos podem ser devastadores.

Menor denominador comum

Como o ciclo algorítmico está estreitando o alcance do pensamento e da criatividade Human ?

A dinâmica varia, mas considere o básico. Empresas como Facebook, Amazon e Google, em última análise, ganham dinheiro mostrando coisas que você pode querer comprar. Um nível acima, plataformas sociais, de busca e streaming KEEP sua atenção mostrando o conteúdo que você mais gosta. provavelmente achará “envolvente”.Eles alcançam esses objetivos observando seu comportamento, comparando-o com o comportamento de pessoas semelhantes e, então, mostrando outras coisas que essas pessoas gostaram.

Esses sistemas são às vezes elogiados por sua capacidade de ajudar usuários com gostos de nicho a encontrar precisamente o que estão procurando, e há alguma verdade nisso. Mas a dinâmica maior é fácil de detectar: o loop algorítmico opera na suposição fundamental de que seu gosto é intercambiável com o de outras pessoas. O algoritmo não pode prever nem criar personalidade, inovação ou encontros casuais – o que significa que ele é, em última análise, hostil ao empoderamento pessoal e à individualidade.

Como um experimento mental, imagine um usuário realmente médio do YouTube ou Amazon PRIME Video. O que você sugere para alguém que alugou cinco filmes populares de Hollywood porque é tudo o que eles ouviram falar? Bem, você oferece a eles mais do mesmo conteúdo popular, médio e descontraído. Mesmo quando o conteúdo é realmente adaptado a um nicho demográfico, o processo criativo se tornou um exercício de verificação de caixa: Netflix, notoriamente, usa seu loop algorítmicopara “otimizar” um pedaço de conteúdo para o sucesso antes de ser feito. Se a arte no seu melhor é um processo de autodescoberta e aprendizado, o loop algorítmico está nos afastando disso e nos levando a simplesmente nos repetir infinitamente.

Esse viés algorítmico em direção à banalidade, junto com outras forças, já emburreceu nossa cultura de maneiras mensuráveis. Nos 20 e tantos anos desde que os mecanismos de recomendação algorítmica estão em atividade — primeiro em livrarias online como a Amazon, depois no serviço de DVD da Netflix, depois em plataformas de streaming de vídeo e música — a cultura popular global passou por uma contração radical centrada nos blockbusters mais populares e inofensivos.

Por exemplo, o Spotify, uma plataforma de música centrada em algoritmos, concentra os fluxos e os ganhos entre umum punhado de artistas de pontamuito mais do que o sistema físico de mídia e transmissão que o precedeu. Isso é particularmente impressionante porque o conglomerado de rádio terrestre ClearChannel era frequentemente um bicho-papão para fãs de música na década de 1990 pré-internet, acusado de silenciar artistas aventureiros ou controversos. Agora vivemos na era da “jukebox infinita”, com praticamente toda a música já gravada a apenas um clique de distância – mas fundir isso ao loop algorítmico parece ter tornado o consumo de música mais monolítico, não menos.

Hollywoodestúdios de cinema, grandes editoras de livros e gravadoras responderam a esse modelo de vencedor leva tudo. Elas mudaram em massa para focar quase que inteiramente em sucessos de bilheteria e estrelas, comprometendo recursos apenas com artistas que produzem o produto mais amplamente amado – e mesmo assim apenas comseus acertos mais claros. Esta ampla mudança tornou muito mais difícil para músicos e cineastas, mesmo os ligeiramente não convencionais, aqueles capazes de introduzir ideias novas e excitantes, obterem financiamentoapoiar o trabalho deles(para não falar dos escritores, que sempre tiveram dificuldades). Em vez disso, temos uma sequência infinita de filmes da Marvel.

Para ser justo, há outros fatores importantes por trás dessas mudanças. Hollywood, por exemplo, está lidando com um declínio secular na frequência ao teatro que cria pressão para fazer conteúdo menos desafiador porque precisa de traseiros nas poltronas. A cultura política dos EUA era cada vez mais partidária bem antes do loop algorítmico tornar a classificação de pessoas em colmeias opostas e igualmente obstinadas um processo tão inconsciente quanto respirar. No nível mais alto, a tendência para uma“economia do vencedor leva tudo” começou com a invenção do telégrafo: melhorar a Tecnologia de comunicação permite que os melhores desempenhos, empresas e produtos dominem fatias cada vez maiores do mercado global de quase tudo.

Mas o loop algorítmico é o que permite que a dinâmica do vencedor-leva-tudo se infiltre em todos os aspectos de nossas vidas, on-line e, cada vez mais, off-line. É o que constantemente nos tenta com notícias, produtos ou tuítes que podem não nos tornar mais pensativos, empáticos ou bem-informados — mas que todos os outros, como o algoritmo sabe, parecem estar gostando.

Rejeite a tradição, abrace a si mesmo

O loop algorítmico é a versão ciberneticamente aprimorada de um problema com o qual os humanos vêm lutando desde antes mesmo do aprendizado de máquina, da internet ou dos computadores existirem.

Antigamente, o problema era conhecido por nomes como tradição, hierarquia, superstição, sabedoria convencional ou apenas “o jeito que as coisas são”. Três décadas atrás, o jurista Spiros Simitis previu o quão poderosos esses sistemas poderiam ser para moldar o comportamento das pessoas em formas aceitáveis, muito parecidas com as hierarquias tradicionais. Em uma passagem citada por Zuboff, Simitis argumentou que algoritmos preditivos estavam “se desenvolvendo … em um elemento essencial de estratégias de manipulação de longo prazo destinadas a moldar e ajustar a conduta individual”.

Tais forças têm sido vistas com suspeita por milhares de anos. Você provavelmente já ouviu a frase, “A vida não examinada não vale a pena ser vivida”, um dos aforismos mais famosos de Sócrates, o filósofo fundador do mundo ocidental (conforme transmitido por seu aluno Platão e pelo aluno de Platão Aristóteles – Sócrates T mesmo escreveu, muito menos codificou). O sentimento geral é claro e óbvio o suficiente: Passe algum tempo refletindo sobre si mesmo. É bom Para Você.

Mas Sócrates também quis dizer algo muito mais específico: para realmente examinar a si mesmo, você tem que interrogar todas as normas sociais, suposições não ditas e condições históricas que o moldaram. Até então, você é essencialmente o fantoche das pessoas que vieram antes de você e estabeleceram as normas, quer estejamos falando sobre doutrina da igreja ou julgamento estético.

Alguns milhares de anos depois, o psicanalista pioneiro Sigmund Freud reafirmou isso um BIT mais explicitamente, em um slogan que também tem a vantagem de soar totalmente foda no alemão nativo de Freud: "Wo ist war, soll ich verden." Ou em inglês: "Onde estiver, lá estarei". O "isso" ao qual Freud se refere é a mente inconsciente, que ele via como moldada pelas tradições e normas sociais marteladas em todos nós desde o nascimento. Na época de Freud, a modernidade e a Tecnologia ajudaram a tornar essas normas cada vez mais difundidas, uniformes e rígidas, particularmente durante a era vitoriana de repressão sexual da juventude de Freud.

Freud acreditava que o conflito entre normas sociais e desejos individuais era uma fonte de problemas de saúde mental. Ele esperava que sua “cura pela fala” pudesse ajudar pacientes que se sentiam estranhamente deslocados em sua sociedade repressiva, tornando visíveis tanto as normas que muitas vezes não são ditas, quanto os desejos que as pessoas às vezes escondem até de si mesmas. Podemos entender descobertas perturbadoras sobre aimpactos da mídia social na saúde mentalem termos semelhantes: Um fluxo constante do conteúdo mais popular pode, às vezes, resultar em uma erosão psiquicamente prejudicial da individualidade pela ordem social dominante.

O loop algorítmico pode não parecer um mestre tão severo quanto as normas sociais da Europa vitoriana – mas é frequentemente mais insidioso. Normas sociais repressivas que são visivelmente impostas por um policial ou padre podem ser mais fáceis de desafiar do que o loop algorítmico, porque agora somos nós que fazemos o clique, o streaming, a rolagem. Certamente parece que estamos fazendo escolhas individuais, afirmando nossa singularidade e nos expressando.

Mas isso é apenas porque a curva em direção ao pensamento de grupo é tão sutil. Visto como um sistema total, o loop algorítmico inevitavelmente degrada a diversidade e a singularidade do que a maioria das pessoas vê, Aprenda e gosta. Mesmo que a quantidade de “conteúdo” que consumimos dispare (uma tendência perturbadora por si só), parece que cada vez menos consequências reais são oferecidas — menos coisas que podem desafiá-lo, ajudá-lo a crescer, torná-lo uma pessoa melhor.

Não importa o quanto naveguemos, naveguemos no YouTube ou tuitemos, podemos começar a suspeitar que nossas escolhas são ilusórias.

Escapando do loop

Como, então, você se liberta de uma videira estranguladora que lê seu futuro em sua própria luta? Como você reafirma o controle sobre suas próprias escolhas e seu próprio cérebro?

Claro, há práticas individuais que exigem vários graus de comprometimento. Uma ONE direta, se não totalmente fácil, é abandonar o Facebook e o Google em qualquer grau possível. O Facebook especialmente – a empresa que agora se autodenomina Meta – simplesmente não é confiável. (E sim, o Facebook pode rastreá-lo mesmo quando você não está usando Facebook.com. Aqui estácomo mudar isso.)

Use o DuckDuckGo para pesquisa. O ProtonMail é uma alternativa popular ao Gmail – que, sim, também espiona você. Na verdade, ele está aprendendo comoescreva seus e-mails Para Você, outro exemplo do ciclo mortal sedutor e narcotizante do qual precisamos escapar de alguma forma.

Os benefícios provavelmente são marginais — em parte porque eles já têm muitos dados — mas essas medidas pelo menos tornarão um pouco mais difícil para os acumuladores de dados criarem perfis e atraí-lo online.

Retornar à mídia física é outra maneira de se desligar da mente coletiva – CDs e vinil em vez de Spotify, DVDs e fitas VHS em vez de YouTube ou serviços de streaming, livros físicos em vez de (sejamos realistas) tweets. Aprenda a apreciar sua biblioteca local. Usar mais mídia física força você a fazer escolhas ponderadas e prestar atenção a ela por um tempo, em vez de apenas andar no loop algorítmico (embora MP3s e um Servidor PLEX também T são uma má opção). Caramba, se você realmente quer enlouquecer, compre um celular flip e assine um jornal impresso – você pode desaparecer das redes sociais e do streaming como o Homem de um braço só.

Mas esses ajustes individuais T são realmente A Solução, assim como você não pode consertar a epidemia de obesidade comendo mais quinoa você mesmo. Os sistemas digitais são imensamente mais convenientes do que os que vieram antes, e suas desvantagens são abstratas e coletivas. Mesmo que alguém esteja profundamente ciente dos compromissos que está fazendo todos os dias, tudo isso é muito difícil para se preocupar.

Para essas pessoas — ou seja, a maioria das pessoas — uma abordagem regulatória mais sistemática é necessária, e boas práticas e regulamentações de Política de Privacidade são o eixo. Limites cuidadosos sobre a quantidade de dados que fornecemos a plataformas de publicidade como Google e Facebook, e como exatamente elas podem nos atingir, criam mais espaço para a individualidade. Já existe algum precedente aqui — o Facebook foi pressionado recentemente a reduzir a capacidade dos anunciantes de alvo por raça, por exemplo (embora, como este é o Facebook, é claro que há umasolução fácil).

Depois, há a opção nuclear: tornar a publicidade programática ilegal.

Isso T vai acontecer nos EUA, o lar dos maiores acumuladores de dados corporativos. Os legisladores dos EUA são profundamente tendenciosos em relação ao lucro para fazer qualquer coisa que possa prejudicar o Facebook ou o Google ou as milhares de empresas auxiliares de adtech e marketing que se alimentam de sua pluma de dados.

Mas hipoteticamente, se a segmentação programática de anúncios terminasse ou fosse seriamente reduzida, os dados sobre seus hábitos e preferências perderiam seu valor. O Facebook pararia de espionar você não porque fosse forçado, mas porque não teria incentivo. Com seus dados e atenção subitamente sem valor, você estaria livre para Aprenda e explorar em seus próprios termos.

Bem, ainda podemos sonhar… T podemos?