Frances Haugen: informatrice di Facebook

A te T piace Facebook. Ai democratici T piace Facebook. Ai repubblicani T piace Facebook. Potrebbe essere l' ONE cosa su cui la maggior parte degli Stati Uniti è d'accordo.

Ma il “problema Facebook” è quasi certamente peggiore di quanto si pensi.

Questo è il messaggio CORE di Frances Haugen, l'ex project manager di Facebook che, a settembre 2021, ha divulgato oltre 20.000 pagine di documenti che hanno fatto luce sui luoghi più oscuri della rete. Le prove hanno alimentato il reportage del Wall Street Journal "I file di Facebook,” che ha scoperto che l’azienda, il cui nome aziendale è ora Meta (FB), “sa, nei minimi dettagli, che le sue piattaforme sono piene di difetti che causano danni, spesso in modi che solo l’azienda stessa comprende appieno.”

Questo articolo fa parte diLa strada verso il consenso, una serie che mette in evidenza gli oratori e le grandi idee che discuteranno aConsenso 2022, il festival dell'anno di CoinDesk dal 9 al 12 giugno ad Austin, Texas.Imparare di più.

Ecco solo alcune delle conclusioni schiaccianti: gli algoritmi di Facebook hanno consapevolmente reso il sito "più arrabbiato" per aumentare l'interazione, Facebook stava intenzionalmente cercando di reclutare preadolescenti (anche se l'età minima è 13 anni) e Facebook sapeva che Instagram è tossico per le ragazze adolescenti.

Haugen ha poi testimoniato davanti al Congresso degli Stati Uniti, dovecaricatoche “i prodotti di Facebook danneggiano i bambini, alimentano la divisione e indeboliscono la nostra democrazia”. Con sede a Porto Rico, ora si descrive come una “sostenitrice della responsabilità e della trasparenza nei social media”, scrivendo di recente unsaggio per il New York Timeselogiando il Digital Services Act europeo, che secondo lei “per la prima volta svelerà gli algoritmi che scelgono cosa vediamo e quando lo vediamo nei nostri feed”. È contenta del Digital Services Act, ma sa che è solo un inizio.

ONE possibile soluzione?

Tecnologia blockchain.

In una recente chiamata Zoom, Haugen ha suggerito un esperimento mentale interessante: cosa sarebbe successo se Facebook fosse stata fondata come un'organizzazione autonoma decentralizzata? "Se ci fosse stata una DAO a regolamentare Facebook, se fosse stata di proprietà degli utenti, T credo che avremmo detto: "Ehi, KEEP a mettere [roba] casuale nei nostri account che T abbiamo chiesto", afferma Haugen.

Sospetta che un tipo di social network "distribuito", ONE che sia veramente intrecciato dai nostri amici e familiari, potrebbe offrire una strada migliore da seguire. Haugen spiega anche perché il problema è più globale di quanto si pensi, cosa vorrebbe vedere come soluzione (suggerimento: non è una bella notizia per il CEO Mark Zuckerberg) e perché l'acquisto di Twitter (TWTR) ELON Musk potrebbe essere una WIN per i social media.

Sono passati più di sette mesi dai "Facebook Files". Qual è il problema più grande che ti sembra oggi?

Direi che riguarda la classificazione degli algoritmi. Quindi, a marzo 2021, Nick Clegg [ex vice PRIME ministro del Regno Unito e vicepresidente degli affari globali di Meta] – oh, che Dio lo benedica – ha pubblicato un articolo intitolato "Ci vogliono due per ballare il tango". Vi incoraggio vivamente a vai a leggere quell'editorialeÈ un'opera d'arte.

Lui dice [e sto parafrasando], "Ehi, KEEP a darci la colpa per le cose che vedi su Facebook, ma siamo onesti. Hai scelto i tuoi amici, hai scelto i tuoi interessi. Ci vogliono due persone per ballare il tango. Fai attenzione a dove punti quel dito, perché quattro dita puntano contro di te".

Immagino che T lo trovi particolarmente avvincente!

Parliamo di vittimizzazione. Lo ha detto pur sapendo che i ricercatori di Facebook avevano ripetuto lo stesso esperimento più e più volte, prendendo account vuoti e seguendo interessi moderati. Nel caso di Instagram, hanno seguito account di alimentazione sana. E siamo onesti, potremmo tutti mangiare un po' più sano.

O molto più sano, nel mio caso.

E tutto quello che [le persone] facevano era cliccare sulle prime cinque o dieci cose ogni giorno e Seguici tutti gli hashtag suggeriti. Nel giro di due o tre settimane, ricevevano contenuti attivamente pro-anoressia e contenuti attivi sull'autolesionismo. Non c'era nessun "due persone che ballano il tango". Era solo la scala mobile della classifica basata sull'impegno.

Puoi spiegare meglio perché questo è così importante?

Ti faccio un piccolo esempio. Sono stata intervistata da un giornalista circa due settimane fa, e lui ha appena avuto un bambino e ha creato un nuovo account per il suo bambino. È un bambino molto carino. Le uniche cose che pubblicano su questo account sono foto di bambini carini. C'è ONE foto al giorno. Il bambino non ha amici a parte altri bambini carini, giusto?

A dire il vero, sembra un resoconto davvero interessante.

Pubblicano solo foto di bambini carini. E tuttavia, il 10% del suo feed è di bambini che soffrono. Sono bambini in ospedale, con i tubi che escono da loro. Sono bambini gravemente deformi. Bambini morenti. Cosa diavolo ti porta da un bambino carino a un bambino mutilato?

Continua a leggere: David Z. Morris - Facebook ruba un'altra idea Cripto per il suo rebranding senza senso

Perché tutto ciò che l'algoritmo sa è che esiste una cosa chiamata bambini, e che alcuni contenuti sui bambini finiscono per ottenere un coinvolgimento maggiore rispetto ad altri contenuti. Si scopre che anche se non ha messo un commento su una ONE di quelle foto, e non ha messo un Mi piace su ONE di quelle foto, probabilmente ci si sofferma.

È davvero inquietante.

Pensa a cosa succede in altri contesti, giusto? Nel caso degli adolescenti, porta i ragazzi a morire di fame o a suicidarsi. Nel caso degli adulti, spinge le persone verso questi estremi. Quando hanno condotto l'esperimento con un punto di vista di centro-sinistra, sono stati spinti verso "uccidiamo i repubblicani". Quando l'hanno fatto con un punto di vista di centro-destra, sono stati spinti verso il genocidio bianco. E questo non è nell'orizzonte temporale di un mese. È nell'orizzonte temporale di una settimana.

È terrificante.

Pensate a cosa questo comporta nella società. Ed è qui che diventa davvero spaventoso. Ecco perché mi alzo ogni singolo giorno. La versione di Facebook con cui interagiamo negli Stati Uniti è la versione più pulita e più sanificata di Facebook al mondo.

Nel 2020, hanno speso l'87% del loro budget per la disinformazione in inglese, anche se solo il 9% degli utenti parlava inglese. La maggior parte delle persone non sa che ci sono almeno un miliardo di persone al mondo, se non 2 miliardi di persone, per cui Internet equivale a Facebook.

2 miliardi?

Facebook è entrato nei loro paesi e, grazie a qualcosa chiamato Free Basics, hanno detto: "Ehi, se usi Facebook, i tuoi dati sono gratuiti. Se usi qualsiasi cosa sul web aperto, pagherai tu stesso i dati".

Quindi pensa a cosa fa questa dinamica di mercato in termini di spinta di tutti su Facebook. Ora hai una situazione in cui è un paese molto fragile. I luoghi più fragili del mondo sono spesso linguisticamente diversi, parlano lingue più piccole e ora il modello di business di Facebook T può supportare la fornitura di sistemi di sicurezza.

Quando ci concentriamo sulla censura, invece di concentrarci sulla sicurezza dei prodotti, fondamentalmente lasciamo indietro persone che si trovano nei luoghi più fragili della Terra. E queste persone T possono lasciare Facebook. T possono dare il consenso.

Quale ritieni sia il ruolo della blockchain in tutto questo, come possibile soluzione?

La cosa che mi rende più eccitato è, [cosa sarebbe successo se] ci fosse stata una DAO a governare Facebook nel 2008? Per essere chiari, il problema con Facebook non è la tua famiglia o i tuoi amici.

Facebook ha condotto esperimenti in cui tutto [ciò che fa] è darti più contenuti di quelli a cui hai acconsentito. Si tratta di contenuti di persone che hai effettivamente aggiunto come amico, pagine che hai effettivamente seguito, gruppi a cui hai effettivamente aderito. Quando [lo fa] gratuitamente, hai meno discorsi d'odio, meno nudità, meno violenza. Sono semplicemente tipo, "Ehi, fidiamoci del tuo giudizio e ti diamo di più di quello che chiedi". Non è scienza missilistica.

[Ma] Facebook ha dovuto farti consumare più contenuti ogni singolo trimestre dal 2008, e la famiglia e gli amici hanno deluso Facebook. Facebook aveva bisogno che KEEP a produrre sempre più contenuti. E quando non T sono riusciti, hanno iniziato a fare tutti questi strani piccoli trucchi.

Come si inserirebbe quindi una DAO in tutto questo?

Se ci fosse stata una DAO a regolamentare Facebook, se fosse stata di proprietà degli utenti, T credo che avremmo detto: "Ehi, KEEP a mettere [spazzatura] a caso nei nostri account che T abbiamo chiesto". Avremmo comunque qualcosa di simile a Facebook del 2008. Quindi sono moderatamente ottimista sul fatto che esplorare diversi modelli di business potrebbe avere del potenziale.

La cosa secondaria è che penso che sarebbe più facile gestire una versione di Facebook che riguardasse la nostra famiglia e i nostri amici. La famiglia e gli amici non sono il problema. Un sistema di amplificazione che usa algoritmi per dirigere la nostra attenzione, questo è il problema.

Podcast: Cosa ci dicono i brevetti di Facebook sulla lotta per l’anima del metaverso

Sai, se potessi farlo in modo distribuito e [costruire] un sistema molto simile a Facebook, ma con solo la tua famiglia e i tuoi amici, penso che sarebbe molto più sicuro.

Cosa pensi che sarà necessario per risolvere definitivamente il problema di Facebook?

Penso che, come minimo, sia un problema di governance aziendale. ONE dei problemi fondamentali di Facebook è che [T ] riconosce il potere. [Non] T riconoscere la responsabilità. Ad esempio, prendiamo la situazione in cui i ragazzi delle superiori si rompono le ossa perché i ragazzi attaccano a botte per metterli su Instagram. Pensateci un attimo. Cosa ci vorrebbe perché Instagram chiudesse quell'account? Perché T lo stanno chiudendo?

T possono riconoscere la responsabilità. Quindi, a meno che non ci sia un importante cambio di leadership... Ieri ho parlato a una conferenza sui rischi e il CEO dell'organizzazione di categoria ha detto: "Non si tratta di avere delle checklist. Non si tratta di assicurarsi che qualcuno compili un modulo. Si tratta di avere una cultura di responsabilità". E fondamentalmente, Facebook non ha una cultura di responsabilità.

Cosa speri di vedere?

La mia speranza è che la [US Securities and Exchange Commission] agisca. E ONE delle cose che chiederemo è che obblighino Mark [Zuckerberg] a vendere alcune delle sue azioni. Ciò consentirebbe agli azionisti di intervenire. Quindi questa è la mia grande speranza. Chissà se accadrà o no?

E penso che il fatto che il DSA [Digital Services Act] sia stato approvato significhi che saremo in grado di iniziare a sviluppare soluzioni.

Ci fai un esempio?

Te ne do ONE che funziona in ogni lingua. Dovresti cliccare su un LINK per ricondividerlo?

Tutto ciò ha perfettamente senso.

Twitter ti chiede di farlo, Facebook T . E riduce la disinformazione dal 10% al 15%.

Parlando di Twitter, una volta hai suggerito che un Twitter privato, di proprietà di [Tesla (TSLA) CEO ELON] Musk, potrebbe in realtà essere più sicuro. Perché?

Quindi ricordate come stavo parlando di come prima, se ci fosse stata una DAO per Facebook, probabilmente T avremmo ricevuto un mucchio di [spazzatura] iniettata nei nostri account? Sarebbe rimasta molto di più sulla nostra famiglia e i nostri amici. Ci sono molte soluzioni non basate sui contenuti.

Cosa intendi dire?

Ciò significa concentrarsi sulla sicurezza del prodotto, non sulle IA magiche [intelligenza artificiale] che tirano fuori le cose [come forma di censura]. Ma l'unico modo in cui puoi fare queste cose è se sei disposto a sacrificare piccole schegge di profitto e piccoli numeri di utenti. Quindi, uno dei motivi per cui sono disposto a fare il tifo per ELON è che la prima cosa che ha detto pubblicamente è che stiamo eliminando i bot.

Una cosa di cui la maggior parte delle persone T è a conoscenza, e potrebbe essere interessante per questo specifico pubblico [Cripto], è che quando parliamo di dollari, abbiamo leggi contabili molto dettagliate, giusto? Quindi, se vuoi dire che ho un dollaro o ho una passività, [ci sono] regole molto specifiche su quando devi riconoscere queste cose.

T abbiamo un insieme di regole simili per ciò che è una persona, ma i valori delle aziende dipendono in modo incredibile dal numero di utenti che dicono di avere. E ho parlato con persone che gestiscono le più grandi captchanel mondo e si dice che ci siano siti web in cui il 90% degli utenti segnalati sono bot.

Dannazione.

Giusto. E quei siti scelgono intenzionalmente impostazioni captcha molto lasse perché vogliono avere numeri più grandi, ma la minaccia numero uno per noi sono i bot. Ed ELON era tipo, "Sfrutteremo il fatto che T dobbiamo più segnalare i numeri degli utenti per fare tabula rasa".

Concludiamo con una nota personale. Ciò che hai fatto è stato incredibilmente coraggioso. Se T ti dispiace condividerlo, come sono state le conseguenze Per te?

Sai, è interessante. La gente immagina lo stridore di denti, il dramma, tutte queste cose. Ma io ho avuto una transizione straordinariamente tranquilla.

Sono sorpreso e felice di sentirlo.

Immagino che mi intervistino molto di più. Ma a Porto Rico ONE mi riconosce, il che è fantastico. Anche online è pazzesco. Penso di aver ricevuto forse 15 o 20 messaggi diretti cattivi. Quindi se volete essere i primi... [Entrambi ridono.]

E la parte che trovo notevole è che [spesso] le donne che sono personaggi pubblici vengono molestate sessualmente in modo davvero grave. Io T vengo nemmeno molestata sessualmente, il che è scioccante per me che ho lavorato su quattro social network. Quindi T posso davvero lamentarmi. È stato piuttosto tranquillo.

Incrociamo le dita affinché rimanga così. Grazie per averlo fatto, e ci vediamo sulla nostra nuova versione DAO di Facebook!