Frances Haugen: informante do Facebook

Você T gosta do Facebook. Democratas T gostam do Facebook. Republicanos T gostam do Facebook. Pode ser a ONE coisa com a qual a maioria dos Estados Unidos concorda.

Mas o “Problema do Facebook” é quase certamente pior do que você pensa.

Essa é a mensagem CORE de Frances Haugen, a ex-gerente de projetos do Facebook que, em setembro de 2021, divulgou mais de 20.000 páginas de documentos que lançam luz sobre os lugares mais obscuros da internet. As evidências alimentaram a reportagem do The Wall Street Journal “Os arquivos do Facebook”, que descobriu que a empresa, cujo nome corporativo agora é Meta (FB), “sabe, em detalhes agudos, que suas plataformas estão repletas de falhas que causam danos, muitas vezes de maneiras que só a empresa entende completamente”.

Este artigo faz parte deCaminho para o consenso, uma série que destaca palestrantes e as grandes ideias que eles discutirãoConsenso 2022, festival do ano da CoinDesk de 9 a 12 de junho em Austin, Texas.Aprenda mais.

Apenas algumas das conclusões condenatórias: os algoritmos do Facebook conscientemente deixaram o site "mais irritado" para aumentar o engajamento, o Facebook estava intencionalmente tentando recrutar pré-adolescentes (embora a idade mínima seja 13 anos) e o Facebook sabia que o Instagram é tóxico para adolescentes.

Haugen então testemunhou perante o Congresso dos EUA, onde elacobradoque “os produtos do Facebook prejudicam as crianças, alimentam a divisão e enfraquecem a nossa democracia”. Baseada em Porto Rico, ela agora se descreve como uma “defensora da responsabilização e transparência nas redes sociais”, escrevendo recentemente umensaio para o The New York Timeselogiando o Digital Services Act da Europa, que ela acha que irá “pela primeira vez revelar os algoritmos que escolhem o que vemos e quando vemos em nossos feeds”. Ela está feliz com o Digital Services Act, mas sabe que é apenas um começo.

Uma solução possível?

Blockchain (cadeia de blocos).

Em uma recente chamada do Zoom, Haugen sugeriu um experimento mental impressionante: e se o Facebook tivesse sido fundado como uma organização autônoma descentralizada? “Se houvesse uma DAO que estivesse regulando o Facebook – se ela fosse de propriedade dos usuários – T acho que teríamos dito: "Ei, KEEP colocando [coisas] aleatórias em nossas contas que T pedimos”, diz Haugen.

Ela suspeita que um tipo de rede social “distribuída” – uma que seja realmente tricotada por nossos amigos e familiares – poderia oferecer um caminho melhor para o futuro. Haugen também explica por que o problema é mais global do que você pensa, o que ela quer ver como uma solução (dica: não é uma ótima notícia para o CEO Mark Zuckerberg) e por que ELON Musk comprar o Twitter (TWTR) pode ser uma WIN para a mídia social.

Então já se passaram mais de sete meses desde os "Arquivos do Facebook". O que lhe parece o maior problema hoje?

Eu diria que é em torno da classificação do algoritmo. Então, em março de 2021, Nick Clegg [ex-vice- PRIME ministro do Reino Unido e vice-presidente de assuntos globais da Meta] – oh, abençoe seu coração – publicou um artigo chamado "It Takes Two To Tango". Eu recomendo fortemente que você vá ler esse editorial. É uma obra de arte.

Ele diz [e estou parafraseando], “Ei, você KEEP nos culpando pelas coisas que você vê no Facebook, mas sejamos honestos aqui. Você escolheu seus amigos, você escolheu seus interesses. É preciso dois para dançar tango. Cuidado para onde você está apontando o dedo, porque quatro dedos estão apontando de volta para você."

Imagino que você T ache isso particularmente atraente!

Falar sobre culpabilização da vítima. Ele disse isso sabendo que os pesquisadores do Facebook tinham feito o mesmo experimento várias vezes, onde eles pegaram contas em branco e seguiram interesses moderados. No caso do Instagram, eles seguiram contas de alimentação saudável. E sejamos honestos, todos nós poderíamos comer um pouco mais saudável.

Ou muito mais saudável, no meu caso.

E tudo o que [as pessoas] fizeram foi clicar nas primeiras cinco ou 10 coisas de cada dia e Siga quaisquer hashtags que foram sugeridas. Em duas a três semanas, elas estavam recebendo conteúdo ativamente pró-anorexia e conteúdo ativo de automutilação. Não havia "duas pessoas dançando tango". Era apenas a escada rolante da classificação baseada em engajamento.

Você pode explicar melhor por que isso é tão importante?

Vou dar um pequeno exemplo. Então, fui entrevistada por um jornalista talvez duas semanas atrás, e ele tinha acabado de ter um bebê e criou uma nova conta para seu bebê. É um bebê muito fofo. As únicas coisas que eles postam nessa conta são fotos fofas de bebês. Há uma foto por dia. O bebê não tem amigos além de outros bebês fofos, certo?

Parece uma conta muito boa, para ser sincero.

Eles só postam fotos fofas de bebês. E ainda assim, 10% do feed dele é de crianças sofrendo. É de crianças no hospital, com os tubos saindo delas. É de crianças gravemente deformadas. Crianças morrendo. O que no mundo te leva de um bebê fofo a uma criança mutilada?

Leia Mais: David Z. Morris - Facebook rouba outra ideia de Cripto para sua reformulação absurda

Porque tudo o que o algoritmo sabe é que existe uma coisa chamada bebês, e que alguns conteúdos de bebês acabam tendo mais engajamento do que outros conteúdos. Acontece que, mesmo que ele não tenha colocado um comentário em ONE dessas fotos, e ele não tenha colocado um Like em ONE dessas fotos, ele provavelmente se detém nelas.

Isso é muito perturbador.

Pense no que isso faz em outros contextos, certo? No caso de adolescentes, isso leva as crianças a passarem fome ou a se matarem. No caso de adultos, isso puxa as pessoas para esses extremos. Quando eles fizeram o experimento com um ponto de vista de centro-esquerda, eles foram empurrados para o vamos-matar-os-republicanos. Quando eles fizeram isso no centro-direita, eles foram empurrados para o genocídio branco. E isso não é no horizonte de um mês. Isso é no horizonte de uma semana.

É assustador.

Pense no que isso faz na sociedade. E é aqui que fica realmente assustador. É por isso que eu acordo todos os dias. A versão do Facebook com a qual interagimos nos Estados Unidos é a versão mais limpa e higienizada do Facebook no mundo.

Em 2020, eles gastaram 87% do seu orçamento de desinformação em inglês, mesmo que apenas 9% dos usuários falassem inglês. A maioria das pessoas não sabe que há pelo menos um bilhão de pessoas no mundo – se não 2 bilhões de pessoas – para quem a internet é igual ao Facebook.

2 bilhões?

O Facebook foi até seus países e, por causa de algo chamado Free Basics, eles disseram: "Ei, se você usa o Facebook, seus dados são gratuitos. Se você usa qualquer coisa na web aberta, você mesmo pagará pelos dados."

Então pense no que essa dinâmica de mercado faz em termos de empurrar todo mundo para o Facebook. Agora você tem uma situação em que é um país muito frágil. Os lugares mais frágeis do mundo são frequentemente linguisticamente diversos, falam línguas menores e agora o modelo de negócios do Facebook T pode suportar dar a você sistemas de segurança.

Quando focamos na censura, em vez de focar na segurança do produto, basicamente deixamos para trás pessoas que estão nos lugares mais frágeis da Terra. E essas pessoas T conseguem sair do Facebook. Elas T conseguem consentir.

Qual você vê como o papel do blockchain em tudo isso, como uma possível solução?

O que mais me deixa animado é, [e se] houvesse uma DAO governando o Facebook em 2008? Para ser claro, o problema com o Facebook não é sua família ou seus amigos.

O Facebook fez experimentos em que tudo o que [ele faz] é dar a você mais conteúdo que você consentiu. Esse é o conteúdo de pessoas que você realmente adicionou como amigo, páginas que você realmente seguiu, grupos que você realmente entrou. Quando [ele faz] isso de graça, você tem menos discurso de ódio, menos nudez, menos violência. Eles são como, "Ei, vamos confiar no seu julgamento e dar a você mais do que você pede." Não é ciência de foguetes.

[Mas] o Facebook teve que fazer você consumir mais conteúdo a cada trimestre desde 2008, e a família e os amigos decepcionaram o Facebook. O Facebook precisava que eles KEEP produzindo mais e mais conteúdo. E quando T o fizeram, começaram a fazer todos esses pequenos truques estranhos.

Então, como um DAO se encaixaria nisso?

Se houvesse uma DAO que regulasse o Facebook — se ela fosse de propriedade dos usuários — T acho que teríamos dito: "Ei, KEEP colocando [porcarias] aleatórias em nossas contas que T pedimos". Ainda teríamos algo parecido com o Facebook de 2008. Então, estou cautelosamente otimista de que explorar diferentes modelos de negócios poderia ter potencial.

A segunda coisa é que acho que seria mais fácil administrar uma versão do Facebook que fosse sobre nossa família e amigos. Família e amigos não são o problema. Um sistema de amplificação que usa algoritmos para direcionar nossa atenção – esse é o problema.

Podcast: O que as patentes do Facebook nos dizem sobre a luta pela alma do metaverso

Sabe, se você puder fazer isso de forma distribuída e [construir] um sistema muito parecido com o Facebook, mas apenas com sua família e amigos, acho que seria muito mais seguro.

O que você acha que será necessário para resolver definitivamente o problema do Facebook?

Acho que, no mínimo, é uma questão de governança corporativa. Um dos problemas fundamentais com o Facebook é que [ele] T reconhece poder. [Ele] T consegue reconhecer responsabilidade. Por exemplo, vamos olhar para a situação em que crianças do ensino médio estão tendo ossos quebrados porque as crianças estão brigando para colocá-los no Instagram. Pense nisso por um momento. O que seria necessário para o Instagram derrubar essa conta? Por que eles T estão derrubando isso?

Eles T conseguem reconhecer a responsabilidade. Então, a menos que haja uma grande mudança de liderança... Falei em uma conferência de risco ontem, e o CEO da organização comercial estava dizendo: "Não se trata de ter listas de verificação. Não se trata de garantir que alguém preencha um formulário. Trata-se de ter uma cultura de responsabilidade." E, fundamentalmente, o Facebook não tem uma cultura de responsabilidade.

O que você espera ver?

Minha esperança é que a [US Securities and Exchange Commission] aja. E uma das coisas que vamos pedir é que eles exijam que Mark [Zuckerberg] venda algumas de suas ações. Isso permitiria que os acionistas interviessem. Então essa é minha grande esperança. Quem sabe se isso vai acontecer ou não?

E acho que o fato de o DSA [Digital Services Act] ter sido aprovado significa que poderemos começar a desenvolver soluções.

Dê-nos um exemplo?

Vou te dar um que funciona em todos os idiomas. Você deveria ter que clicar em um LINK para compartilhá-lo novamente?

Isso faz muito sentido.

O Twitter exige que você faça isso, o Facebook T exige que você faça isso. E reduz a desinformação em 10% a 15%.

Falando do Twitter, você sugeriu uma vez que um Twitter privado – de propriedade do [CEO da Tesla (TSLA) ELON] Musk – poderia ser mais seguro. Por quê?

Então, lembra como eu estava falando sobre como antes, se houvesse um DAO para o Facebook, provavelmente T teríamos um monte de [porcaria] injetado em nossas contas? Teria ficado muito mais sobre nossa família e amigos. Há muitas soluções não baseadas em conteúdo.

O que você quer dizer com isso?

Isso significa focar na segurança do produto, não em IAs mágicas [inteligência artificial] que retiram coisas [como uma forma de censura]. Mas a única maneira de fazer essas coisas é se você estiver disposto a sacrificar pequenas lascas de lucro e pequenos números de usuários. Então, parte do motivo pelo qual estou disposto a torcer por ELON é que a primeira coisa que ele disse publicamente é que estamos derrubando os bots.

Uma coisa que a maioria das pessoas T sabe – e isso pode ser interessante para esse público específico [Cripto] – é que quando falamos sobre dólares, temos leis contábeis muito detalhadas, certo? Então, se você quer dizer que eu tenho um dólar ou que eu tenho um passivo, [há] regras muito específicas sobre quando você tem que reconhecer essas coisas.

T temos um conjunto de regras semelhantes para o que é uma pessoa, mas os valores das empresas são incrivelmente dependentes do número de usuários que elas dizem ter. E eu conversei com pessoas que administram o maior captchasno mundo, e dizem que há sites onde 90% dos usuários relatados são bots.

Droga.

Certo. E esses sites escolhem intencionalmente configurações de captcha muito frouxas porque querem ter números maiores, mas a ameaça número um para nós são os bots. E ELON estava tipo, "Vamos aproveitar o fato de que T precisamos mais relatar números de usuários para limpar a lousa."

Vamos terminar com uma nota pessoal. O que você fez foi incrivelmente corajoso. Se T se importar em compartilhar, como foi o rescaldo Para Você?

Sabe, é interessante. As pessoas imaginam o ranger de dentes, o drama, todas essas coisas. Mas eu tive uma transição notavelmente tranquila.

Estou surpreso e feliz em ouvir isso.

Acho que sou entrevistado muito mais. Mas em Porto Rico ONE me reconhece, o que é ótimo. Até online é uma loucura. Acho que já recebi talvez de 15 a 20 coisas maldosas enviadas para mim em minhas DMs. Então, se você quiser ser o primeiro... [Ambos riem.]

E a parte que acho notável é que [frequentemente] mulheres que são figuras públicas são muito assediadas sexualmente. Eu T mesmo sou assediada sexualmente, o que é chocante para mim como alguém que já trabalhei em quatro redes sociais. Então, T posso reclamar. Tem sido bem tranquilo.

Dedos cruzados para que continue assim. Obrigado por fazer isso, e nos vemos na nossa nova versão DAO do Facebook!