La vita algoritmica non vale la pena di essere vissuta

Suo Settimana Privacy qui a CoinDesk, e ci siamo immersi in una varietà di angolazioni tecnologiche e legali sulle conseguenze della sorveglianza digitale. L'ansia per l'aumento dello spionaggio onnipresente può spesso sembrare una questione accademica di principio, o una serie di avvertimenti su casi limite importanti ma non comuni: il coniuge maltrattato perseguitato da malware, il dissidente rintracciato e assassinatoda un governo, il consumatore conlegale ma socialmente emarginato gusti. Questi scenari di compromissione Privacy hanno gravi implicazioni, ovviamente, per coloro che ne sono vittime e per ONE di noi.

Ma l'uso più diffuso della sorveglianza digitale può sembrare molto più banale di questi esempi clamorosi, pur essendo potenzialmente molto più insidioso.

Questo articolo fa parte di CoinDeskSettimana Privacyserie.

Il targeting algoritmico dei contenuti è il fondamento di aziende di informazione onnipresenti come Google e Facebook, e ti influenza ogni momento in cui sei online. Può renderti meno informato, meno unico, meno riflessivo e meno interessante, così sottilmente che T te ne accorgi nemmeno.

Ricercatore di HarvardShoshana Zuboff descrive l'impatto del targeting algoritmico come "la privatizzazione della divisione dell'apprendimento". Abbiamo sempre più affidato le nostre decisioni su tutto al software di riconoscimento di pattern, sostiene. Guida le nostre interazioni con i social media, i siti di incontri, i motori di ricerca, la pubblicità programmatica e i feed di contenuti, ed è costruito quasi interamente su modelli di comportamento Human passato. Alla sua radice strutturale, è ostile alla novità, all'innovazione e all'indipendenza. E i suoi pionieri ne hanno tratto enormi benefici: secondo Zuboff, Google ora ha una "concentrazione di conoscenza e potere di portata storica mondiale".

Ho un nome un po' più accattivante per questo di Zuboff: Algorithmic Loop. Come la maggior parte dei loop, è facile rimanerci intrappolati perché raccoglie le nostre preferenze, quindi usa quei dati per KEEP agganciati e prendere il controllo. Certo, ci mostra date probabili o titoli di film o notiziari che sa che probabilmente cliccheremo. Ma quei suggerimenti a loro volta modellare il nostro desiderioper la prossima cosa che consumeremo.

In breve, il ciclo algoritmico T si limita a prevedere i nostri gusti, atteggiamenti e convinzioni, li crea. E poiché li modella basandosi solo su ciò che già sa e può capire, ci sta rendendo meno creativi e meno individuali in modi che abbiamo appena iniziato a capire.

Nel tempo, gli effetti individuali e collettivi potrebbero rivelarsi devastanti.

Minimo comune denominatore

In che modo il ciclo algoritmico sta restringendo la gamma del pensiero e della creatività Human ?

La dinamica varia, ma considera le basi. Aziende come Facebook, Amazon e Google in ultima analisi guadagnano soldi mostrandoti cose che potresti voler acquistare. ONE livello più in alto, le piattaforme social, di ricerca e streaming KEEP la tua attenzione mostrandoti contenuti che ti interessano di più. probabilmente lo troverai "coinvolgente".Raggiungono questi obiettivi osservando il tuo comportamento, confrontandolo con quello di persone simili a te e mostrandoti poi le altre cose che sono piaciute a quelle persone.

Questi sistemi sono talvolta elogiati per la loro capacità di aiutare gli utenti con gusti di nicchia a trovare esattamente ciò che stanno cercando, e c'è del vero in questo. Ma la dinamica più ampia è facile da individuare: il ciclo algoritmico opera sul presupposto fondamentale che i tuoi gusti siano intercambiabili con quelli di altre persone. L'algoritmo non può né prevedere né creare personalità, innovazione o incontri casuali, il che significa che è in definitiva ostile all'emancipazione personale e all'individualità.

Come esperimento mentale, immagina un utente medio di YouTube o Amazon PRIME Video. Cosa suggerisci a qualcuno che ha noleggiato cinque film mainstream di Hollywood perché è tutto ciò di cui ha sentito parlare? Beh, gli offri di più dello stesso contenuto mainstream, mediocre e easygoing. Anche quando il contenuto è veramente su misura per una nicchia demografica, il processo creativo è diventato un esercizio di spunta delle caselle: Netflix, notoriamente, usa il suo ciclo algoritmicoper "ottimizzare" un contenuto per il successo prima che venga realizzato. Se l'arte al suo meglio è un processo di auto-scoperta e apprendimento, il ciclo algoritmico ci sta allontanando da questo e ci sta semplicemente ripetendo all'infinito.

Questa tendenza algoritmica verso la banalità, insieme ad altre forze, ha già reso stupida la nostra cultura in modi misurabili. Nei 20 e passa anni da quando i motori di raccomandazione algoritmici sono stati in circolazione, prima nelle librerie online come Amazon, poi nel servizio DVD di Netflix, poi sulle piattaforme di streaming video e musicali, la cultura popolare globale ha subito una radicale contrazione incentrata sui blockbuster più popolari e inoffensivi.

Ad esempio, Spotify, una piattaforma musicale incentrata sugli algoritmi, concentra gli streaming e i guadagni tra ununa manciata di artisti di alto livellomolto di più del sistema di media e trasmissione fisica che lo ha preceduto. Ciò è particolarmente sorprendente perché il conglomerato radiofonico terrestre ClearChannel è stato così spesso uno spauracchio per gli appassionati di musica negli anni Novanta pre-internet, accusato di mettere a tacere artisti avventurosi o controversi. Ora viviamo nell'era del "jukebox infinito", con praticamente tutta la musica mai registrata a portata di clic, eppure fonderla al ciclo algoritmico sembra aver reso il consumo di musica più monolitico, non meno.

Hollywoodstudi cinematografici, i principali editori di libri e le etichette musicali hanno tutti risposto a questo modello del vincitore che prende tutto. Si sono spostati in massa verso un'attenzione quasi esclusiva sui blockbuster e sulle star, impegnando risorse solo per gli artisti che producono il prodotto più amato, e anche in quel caso solo peri loro successi più chiariQuesto ampio cambiamento ha reso molto più difficile anche per musicisti e registi leggermente non convenzionali, quelli capaci di introdurre idee nuove ed entusiasmanti, di ottenere risultati finanziarisostenere il loro lavoro(per non parlare degli scrittori, che hanno sempre avuto difficoltà). Invece, abbiamo una serie infinita di film Marvel.

Per essere onesti, ci sono altri fattori importanti dietro questi cambiamenti. Hollywood, ad esempio, sta lottando con un declino secolare della partecipazione al cinema che crea pressione per realizzare contenuti meno impegnativi perché ha bisogno di sedere sui sedili. La cultura politica degli Stati Uniti era sempre più partigiana ben prima che il ciclo algoritmico rendesse la suddivisione delle persone in alveari opposti, ugualmente risoluti, un processo inconscio come respirare. Al livello più alto, la tendenza verso un“economia del vincitore che prende tutto” ha avuto inizio con l'invenzione del telegrafo: il miglioramento Tecnologie delle comunicazioni consente alle aziende, ai prodotti e alle aziende più performanti di dominare quote sempre maggiori del mercato globale per quasi ogni cosa.

Ma il loop algoritmico è ciò che consente alla dinamica del vincitore che prende tutto di infiltrarsi in ogni aspetto delle nostre vite, online e, sempre più, offline. È ciò che ci tenta costantemente con notizie, prodotti o tweet che potrebbero non renderci più riflessivi, empatici o ben informati, ma che tutti gli altri, come sa l'algoritmo, sembrano apprezzare.

Rifiuta la tradizione, abbraccia te stesso

Il ciclo algoritmico è la versione ciberneticamente potenziata di un problema con cui gli esseri umani si sono confrontati fin da prima che esistessero l'apprendimento automatico, Internet o i computer.

Nei tempi antichi, il problema era chiamato tradizione, gerarchia, superstizione, saggezza convenzionale o semplicemente "il modo in cui stanno le cose". Tre decenni fa, lo studioso di diritto Spiros Simitis predisse quanto questi sistemi potessero essere potenti nel plasmare il comportamento delle persone in forme accettabili, proprio come le gerarchie tradizionali. In un passaggio citato da Zuboff, Simitis sosteneva che gli algoritmi predittivi si stavano "sviluppando ... in un elemento essenziale di strategie di manipolazione a lungo termine volte a plasmare e adattare la condotta individuale".

Tali forze sono state viste con sospetto per migliaia di anni. Probabilmente hai sentito la frase "La vita non esaminata non vale la pena di essere vissuta", ONE degli aforismi più famosi di Socrate, il filosofo fondatore del mondo occidentale (come tramandato dal suo studente Platone e dallo studente di Platone Aristotele - Socrate T scriveva nemmeno, e tanto meno programmava). Il sentimento generale è abbastanza chiaro e ovvio: dedica un po' di tempo a riflettere su te stesso. Fa bene a Per te.

Ma Socrate intendeva anche qualcosa di molto più specifico: per esaminare veramente te stesso, devi interrogare tutte le norme sociali, le ipotesi inespresse e le condizioni storiche che ti hanno plasmato. Fino a quel momento, sei essenzialmente il burattino delle persone che sono venute prima di te e hanno stabilito le norme, che si tratti di dottrina della chiesa o di giudizio estetico.

Un paio di migliaia di anni dopo, il pioniere della psicoanalisi Sigmund Freud lo riformulò in modo un BIT' più esplicito, in uno slogan che ha anche il vantaggio di suonare totalmente tosto nel tedesco nativo di Freud: "Wo ist war, soll ich verden". O in inglese: "Dove è, lì sarò". L'"esso" a cui Freud si riferisce è la mente inconscia, che vedeva plasmata dalle tradizioni e dalle norme sociali inculcate in tutti noi fin dalla nascita. All'epoca di Freud, la modernità e la Tecnologie avevano contribuito a rendere quelle norme sempre più diffuse, uniformi e rigide, in particolare durante l'era vittoriana della repressione sessuale della giovinezza di Freud.

Freud credeva che il conflitto tra norme sociali e desideri individuali fosse una fonte di problemi di salute mentale. Sperava che la sua "cura della parola" potesse aiutare i pazienti che si sentivano stranamente fuori posto nella loro società repressiva, rendendo visibili sia le norme che sono così spesso inespresse, sia i desideri che le persone a volte nascondono persino a se stesse. Potremmo comprendere le inquietanti scoperte sullaimpatto sulla salute mentale dei social mediain termini simili: un flusso costante di contenuti molto popolari potrebbe talvolta equivalere a un'erosione psichica dannosa dell'individualità da parte dell'ordine sociale dominante.

Il loop algoritmico potrebbe non sembrare un padrone così duro come le norme sociali dell'Europa vittoriana, ma è spesso più insidioso. Le norme sociali repressive che sono visibilmente applicate da un poliziotto o da un prete potrebbero essere più facili da sfidare del loop algoritmico, perché ora siamo noi a cliccare, a trasmettere in streaming, a scorrere. Sembra proprio che stiamo facendo scelte individuali, affermando la nostra unicità ed esprimendo noi stessi.

Ma questo è solo perché la curva verso il pensiero di gruppo è così sottile. Visto come un sistema totale, il ciclo algoritmico degrada inevitabilmente la diversità e l'unicità di ciò che la maggior parte delle persone vede, Imparare e apprezza. Anche se la quantità di "contenuti" che consumiamo sale alle stelle (una tendenza inquietante di per sé), sembra che ci siano sempre meno conseguenze reali in offerta, meno cose che possono sfidarti, aiutarti a crescere, renderti una persona migliore.

Non importa quanto scorriamo le notizie, guardiamo i video o twittiamo, potremmo iniziare a sospettare che le nostre scelte siano illusorie.

Uscire dal loop

Come, allora, ti liberi da una vite strangolante che legge il suo futuro nella tua stessa lotta? Come riaffermi il controllo sulle tue scelte e sul tuo cervello?

Naturalmente, ci sono pratiche individuali che richiedono vari gradi di impegno. ONE semplice, se non del tutto facile, è quella di abbandonare Facebook e Google il più possibile. Facebook in particolare, la società che ora si fa chiamare Meta, è semplicemente e uniformemente disattenta. (E sì, Facebook può tracciarti anche quando non stai usando Facebook.comEcco quicome cambiare ciò)

Usa DuckDuckGo per la ricerca. ProtonMail è una popolare alternativa a Gmail, che, sì, ti spia anche. Infatti, sta imparando comescrivi le tue email Per te, un altro esempio del seducente e narcotizzante circolo vizioso della morte da cui in qualche modo dobbiamo uscire.

I vantaggi sono probabilmente marginali, in parte perché hanno già così tanti dati, ma queste mosse renderanno almeno un po' più difficile per gli accumulatori di dati profilarti e adescarti online.

Tornare ai supporti fisici è un altro modo per staccarsi dalla mente alveare: CD e vinili al posto di Spotify, DVD e nastri VHS al posto di YouTube o servizi di streaming, libri fisici al posto di (siamo realistici) tweet. Imparare ad apprezzare la tua biblioteca locale. Utilizzare più supporti fisici ti obbliga a fare scelte ponderate e a prestarci attenzione per un po', invece di limitarti a cavalcare il loop algoritmico (anche se gli MP3 e un Server PLEX T sono una cattiva opzione). Cavolo, se vuoi davvero scatenarti, prendi un telefono a conchiglia e abbonati a un giornale cartaceo: puoi sparire dai social media e dallo streaming come il Uomo con un braccio solo.

Ma queste modifiche individuali T sono davvero la soluzione, così come non puoi risolvere l'epidemia di obesità mangiando più quinoa. I sistemi digitali sono immensamente più comodi di quelli precedenti, e i loro svantaggi sono astratti e collettivi. Anche se qualcuno è profondamente consapevole dei compromessi che sta facendo ogni giorno, tutto questo è semplicemente troppo difficile da considerare.

Per queste persone, ovvero la maggior parte delle persone, è necessario un approccio normativo più sistematico, e una buona regolamentazione e buone pratiche Privacy sono il perno. Limiti attenti alla quantità di dati che forniamo a piattaforme pubblicitarie come Google e Facebook, e a come esattamente sono in grado di indirizzarci, creano più spazio per l'individualità. C'è già qualche precedente qui: Facebook è stata recentemente pressata per ridurre la capacità degli inserzionisti di obiettivo per razza, per esempio (anche se poiché questo è Facebook, ovviamente c'è unsoluzione facile).

Poi c’è l’opzione nucleare: rendere illegale la pubblicità programmatica.

Ciò T accadrà negli Stati Uniti, la patria dei più grandi accumulatori di dati aziendali. I legislatori statunitensi sono troppo profondamente orientati al profitto per fare qualcosa che danneggerebbe Facebook o Google o le migliaia di società di adtech e marketing ausiliarie che si nutrono del loro pennacchio di amici dei dati.

Ma ipoteticamente, se il targeting pubblicitario programmatico terminasse o fosse seriamente ridotto, i dati sulle tue abitudini e preferenze perderebbero il loro valore. Facebook smetterebbe di spiarti non perché costretto, ma perché non avrebbe alcun incentivo. Con i tuoi dati e la tua attenzione improvvisamente privi di valore saresti libero di Imparare ed esplorare alle tue condizioni.

Beh, possiamo ancora sognare... T vero?