'Radical Indifference': Paano Nasakop ng Surveillance Capitalism ang Ating Buhay

Nang ibalik ni Shoshana Zuboff ang aking tawag nang huli ng 15 minuto, ito ay dahil ang dati niyang tawag sa isang organisasyon sa Israel ay bumaba sa kalagitnaan at natagalan silang muling kumonekta. Ganyan ang panganib ng paggana sa quarantine, kahit na ang mga tech na kumpanya ay gumagamit ng higit na kapangyarihan kaysa dati.

Sa halip na magkaroon ng oras sa tag-araw para pag-isipan at planuhin ang kanyang susunod na aklat ayon sa gusto niya, naging abala si Zuboff sa mga taong gustong makipag-usap sa kanya at gumawa ng mga virtual Events. Bahagi ito ng dahilan na sa nakalipas na apat na buwan sinubukan naming mag-iskedyul ng isang tawag, para lang paulit-ulit na ibinalik ang petsa.

Huni ng mga ibon sa background habang nagsasalita kami sa telepono, bahagi ng ambience ng tahanan ni Zuboff sa bansa. Sinabi niya na masuwerte siyang naroon, dahil sa mga hamon na kinakaharap ng kanyang mga kaibigan sa pagbabalanse ng COVID-19 at pamumuhay sa mga lungsod. Tinalo ng mga ibon ang dystopian jingle ng mga trak ng sorbetes habang nililibot nila ang New York City, naghahanap ng mga customer sa gitna ng pandemya.

"Ang buhay ng pandemya ay tumatagal ng napakaraming oras," sabi niya. "Sa pagitan ng pag-iisip kung paano makakuha ng mga pamilihan at lahat ng iba pa, ito ay napakahirap."

Tingnan din ang: Sa Trump Versus Twitter, Maaaring WIN ang Decentralized Tech

Si Zuboff ang may-akda of"The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power," at ang Charles Edward Wilson Professor Emerita sa Harvard Business School. Sinabi ni Zuboff na ang aklat (na may haba na 660 na pahina) "ay nag-synthesize ng mga taon ng pananaliksik at pag-iisip upang ipakita ang isang mundo kung saan ang mga gumagamit ng Technology ay hindi mga customer, empleyado, o produkto. Sa halip, sila ang hilaw na materyal para sa mga bagong pamamaraan ng pagmamanupaktura at pagbebenta na tumutukoy sa isang ganap na bagong kaayusan sa ekonomiya: isang ekonomiya ng pagsubaybay.

Nag-uusap kami ni Zuboff tungkol sa balangkas ng surveillance kapitalismo. Ngunit gusto kong marinig ang kanyang mga pananaw sa umuugong mga protesta sa U.S., at ni Pangulong Donald Trump executive order sa Seksyon 230, isang batas na nagbibigay ng kaligtasan sa mga kumpanya ng social media mula sa pananagutan sa nilalaman, kung saan pinag-usapan ng pangulo. Parang magandang panahon para isipin ang kontekstong ibinibigay ng internet sa mga Events ito, at kung sino ang kumokontrol dito.

Ang pag-uusap na ito ay na-edit para sa haba at kalinawan.

Ilarawan ang surveillance capitalism at kung ano ang ibig sabihin nito para sa mga taong maaaring hindi pamilyar dito.

Ang surveillance capitalism ay naimbento sa Google sa pagitan ng 2000 at 2001 bilang tugon sa pinansyal na emergency sa panahon ng dot-com bust. Sila ang pinakamatalinong tao na may pinakamahusay na search engine at ang pinakamagagandang namumuhunan sa venture capital. Ngunit maging sila ay nasa ilalim ng baril sa kanilang mga namumuhunan na nagbabanta na mag-withdraw. Noong panahong iyon, nagpasya silang maghanap ng mabilis na landas sa monetization, at ito ay sa pamamagitan ng advertising, na tinanggihan nila dati.

Natuklasan nila ang natitirang data ng pag-uugali sa kanilang mga server, na tinatawag na data exhaust, ay talagang puno ng mga rich predictive signal. At ang mga predictive signal na iyon ay nasa paligid lamang na hindi ginagamit, higit pa sa kung ano ang kinakailangan para sa pagpapabuti ng produkto o serbisyo. Tinatawag ko ang mga data na ito bilang pag-uugali na "mga sobra." Ito ay sa pamamagitan ng pagsasanay sa kanilang napaka-sopistikadong kakayahan sa pagsusuri sa mga labis na daloy na ito at pag-alis ng mga predictive na signal na iyon, habang ginagamit ang mga ito para sa pagsusuri, na natuklasan nila na maaari nilang hulaan kung anong uri ng ad ang malamang na mag-click sa isang tao at kung magki-click sila sa website. Iyon ang naging kilala na natin ngayon bilang "click-through rate."

Ang click-through rate ay isang computational na produkto na hinuhulaan ang isang fragment ng gawi ng Human . Lumalabas na mayroong napakalaking market ng mga customer ng negosyo na gustong malaman kung ano ang gagawin ng mga customer, na gustong hulaan ang pag-uugali ng pag-uugali ng customer at pag-uugali ng user.

Kaya't isinuko ng mga advertiser at ng kanilang mga kliyente ang tradisyunal na ugnayan sa pagitan ng isang produkto at ng ad nito, kung saan nagpapasya ang kumpanya kung saan ilalagay ang mga ad nito batay sa pagkakahanay sa mga halaga ng brand nito. Kahit na ang mga unang taon ng online na advertising ay nagpapanatili ng pagpapatuloy na iyon. Ngunit binigyan sila ng Google ng isang alok na hindi nila T tanggihan at sumang-ayon sila dito pagkatapos ng BIT debate at salungatan. Sumang-ayon silang bilhin ang produkto nang hindi hinihiling na makita kung ano ang nasa loob ng black box ng Google at hayaan ang mga makina na magpasya kung saan pupunta ang mga ad.

Paano lumalawak ang modelong ito sa halos lahat ng internet?

Hindi lang ito isang aksidente na nangyari sa Google. Ito ay isang pang-ekonomiyang lohika na naging matagumpay sa Google na sa loob lamang ng ilang taon, ito ay naging default na modelo sa buong sektor ng teknolohiya at pagkatapos ay kumalat sa normal na ekonomiya at naging nangingibabaw na pang-ekonomiyang lohika sa ating panahon.

Sa pagitan ng 2001, noong unang nagsimulang gamitin ang lohika na ito, at noong 2004, nang naging publiko ang Google (sa unang pagkakataon na nakita namin ang alinman sa kanilang mga numero) tumaas ang kanilang kita ng 3,590%. Ang exponential increase na iyon ay kumakatawan sa tinatawag kong surveillance dividend. Sa puntong iyon, na-crack na nila ang code at maraming kumpanya ang nakahanap ng landas sa monetization. Ngayon lahat ng tao mula sa iyong TV manufacturer hanggang sa Ford Motor Company ay nagsimulang magsabi ng "to heck with the product, we want the data." Ang bawat isa sa bawat sektor ay hinahabol ang dibidendo sa pagbabantay.

May isang kuwento tungkol sa mga nangungunang kabataan sa Google na nakaupo sa isang opisina noong 2001, sinusubukang sagutin ang tanong na: "Ano ang Google?" At walang sinuman ang may matibay na paraan upang sagutin ang tanong na iyon. Sa huli ay nagsimulang magbahagi si Larry Page ng mga bagay at ang sinabi niya ay kung may negosyo ang Google, ito ay magiging personal na impormasyon. Ang mga tao ay gagawa ng napakaraming data. Magkakaroon ng murang mga camera at sensor sa lahat ng dako. Magkakaroon ng napakaraming data tungkol sa buhay ng mga tao na ang lahat ng karanasan ng Human ay mahahanap at mai-index. Siya ay nagkaroon ng pangitain na ang personal na impormasyon ay ang laro. Ang surveillance capitalism ay isang pang-ekonomiyang lohika na itinatag sa unilateral, Secret na pagnanakaw ng pribadong karanasan bilang walang limitasyong pinagmumulan ng libreng hilaw na materyal, at ang libreng hilaw na materyal ay nagiging zero-cost asset [ibig sabihin, pagkatapos ng mga gastos sa set-up, libre itong makagawa]. Maaari itong isalin sa data ng pag-uugali. Ang data ng pag-uugali na iyon ay inaangkin na ngayon bilang pagmamay-ari at ito ay natipon sa mga bagong kumplikadong supply chain ecosystem.

Ito ang arko na tinatahak ng surveillance kapitalismo: Hindi lamang para malaman ang lahat at gamitin ito para sa paghula, ngunit upang ikilos ang pag-uugali ng Human .

Ang lahat ay nagpapakain sa supply chain. Hindi lang kung ano ang ginagawa mo online, ngunit lahat ng bagay sa iyong telepono, lahat ng app sa iyong telepono, at gaya ng hinulaang Pahina, lahat ng camera at sensor ay kumukuha ng data. Ang lahat ng data ng pag-uugali ay inaangkin na ngayon bilang pagmamay-ari at dumadaloy sa mga kumplikadong ecosystem bago ihatid sa pagsubaybay sa mga pabrika ng computational ng kapitalismo, na tinatawag na artificial intelligence. Ang [output] ay mga produktong computational na hinuhulaan ang gawi ng Human na ibinebenta sa mga Markets, tulad ng mayroon tayong mga Markets para sa mga futures ng tiyan ng baboy o futures ng langis.

Ano ang ibig sabihin nito sa pang-araw-araw na buhay ng mga tao?

Ang mga Markets ng futures ng Human ay may mapagkumpitensyang dinamika. Ang pinaglalabanan ng mga aktor at nagbebenta sa mga Markets ito ay katiyakan. Nagbebenta sila ng katiyakan sa kanilang mga customer at WIN ang pinakamahusay na mga hula . Nagkaroon kami ng ilang insight sa mga factory hub na ito ilang taon na ang nakakaraan gamit ang a nag-leak na dokumento sa Facebook noong 2018. Ang dokumento ay nagsiwalat na sa AI hub ng Facebook, trilyong-trilyong data point ang kinakain araw-araw at 6 na milyong hula ng pag-uugali ang ginagawa bawat segundo. Kaya ito ang uri ng sukat na pinag-uusapan natin. Kapag iniisip namin ang tungkol sa kumpetisyon sa mga Markets ng hula na ito , at medyo na-deconstruct mo ang kumpetisyon na iyon, sisimulan mong makita nang malinaw ang mga pang-ekonomiyang imperative na gumagana dito.

Ang ONE ay sukat. Para maging epektibo ang AI sa paggawa ng mga hula, kailangan nito ng maraming data. Ang ONE ay saklaw. Bilang karagdagan sa dami, kailangan mo ng iba't-ibang. Iyon ay nagsasangkot ng pagpapaalis sa mga tao sa kanilang desktop, sa kanilang laptop, at sa paglabas sa mundo at pagpapalipat-lipat sa kanila sa kanilang bahay, sa kanilang mga sasakyan, sa kanilang mga lungsod. Bigyan sila ng isang maliit na computer, maaari nilang kunin ito sa kanilang bulsa at sasabihin nito sa amin ang lahat ng kanilang ginagawa. Tatawagan natin ito ng telepono. Iyon ay mga ekonomiya ng saklaw.

Ang huling Discovery ay ang pinakamagandang predictive data ay nagmumula sa digitally intervening sa gawi ng mga tao at pag-aaral kung paano ibagay at pagsama-samahin ang kanilang pag-uugali sa direksyon na nagma-maximize sa lakas ng kanilang mga hula at samakatuwid ay na-maximize ang mga resulta ng customer. Ito ay naging isang bagong sona ng eksperimento. Ang sukat ng pagkuha ay napakalaki, ngunit diretso sa konsepto. Ang saklaw ay napakalaki ngunit nangangailangan ng maraming imbensyon. Ang Facebook, halimbawa, ay gumagawa na ngayon kung paano magsalin brainwaves sa wika.

Paano natin talaga babaguhin ang pag-uugali sa direksyon na nag-o-optimize sa mga daloy ng kita? Ito ay hindi kasing diretso. Ito ay isang bagong zone ng eksperimento at kaya ang mga kumpanya ay nagtungo sa pag-eksperimento dito. Mga bagay tulad ng napakalaking sukat ng mga eksperimento sa contagion ng Facebook, at mga bagay tulad ng Pokemon Go ng Google, ang augmented reality game na nag-eksperimento sa kung paano magsama ng mga tao sa kanilang mga lungsod, bayan, at nayon sa mga establisyimento na nagbabayad sa Niantic Labs, na gumawa ng Pokemon Go at na-spun off sa Google, para sa garantisadong footfall. Ito ay eksaktong kaparehong istraktura sa mga Markets ng online na ad market na nagbabayad para sa click through rate at ngayon ay mayroon ka nang real world establishment na nagbabayad para sa garantisadong footfall.

Tingnan din ang: Bakit Mahalaga ang 'Culture War' ng Bitcoin

Ito ang tinatawag ng mga data scientist na shift mula sa pagsubaybay patungo sa actuation. Iyan ay kapag mayroon kang sapat na kaalaman tungkol sa isang sistema ng makina upang makontrol ito nang malayuan at i-automate ito. Maaari mong baguhin ang mga parameter o gawin ang anumang kailangan mong gawin nang malayuan dahil mayroon kang napakaraming impormasyon ngayon tungkol sa pagsubaybay ng system sa actuation. Ito ang arko na tinatahak ng surveillance kapitalismo: Hindi lamang para malaman ang lahat at gamitin ito para sa paghula, ngunit upang ikilos ang pag-uugali ng Human , panlipunang pag-uugali, at indibidwal na pag-uugali upang himukin ang pag-uugali sa direksyon na pinakamainam para sa kita.

Nakikita natin ito sa micro targeting na nakabatay sa sikolohikal. Nakikita namin ito sa real-time na paggamit ng mga reward at parusa, na inihatid sa pamamagitan ng iyong telepono. Nakikita namin ito sa pamamagitan ng pag-import ng gamification upang ituro ang mga tao sa direksyon na nakakatugon sa mga resulta ng komersyal. Ang Pokemon Go ay isang halimbawa nito. Ang punto ay kapag iniisip ng mga tao ang tungkol sa mga isyung ito, iniisip lang nila ang tungkol sa mga naka-target na ad. Sa tingin nila ito ay tungkol lamang sa advertising. Hindi na ito. Ito ay tungkol sa iyong kompanya ng seguro na nagbibigay ng gantimpala at pagpaparusa sa iyo sa totoong oras para sa dami ng presyon na inilalagay ng iyong paa sa pedal ng GAS . Sa real time, maaari nitong taasan o babaan ang iyong mga premium batay sa iyong agarang pag-uugali.

Kaya ano ang pagtatapos ng laro sa sitwasyong ito? Tinutukoy mo ang nakaraang eksperimento ng Sidewalk Lab sa Toronto bilang isang "matalinong lungsod" na nagpapalitan ng data para sa lahat ng uri ng mga pribilehiyo. Ano ang hitsura nito?

Pinapalitan ng naturang eksperimento ang mga desisyong ginagawa ng mga mamamayan tungkol sa kung paano nila gustong mamuhay nang sama-sama, na siyang mga bloke ng pagbuo ng bawat demokrasya. Ang mamamayan ay walang tungkulin maliban sa maging bahagi lamang ng mas malaking sistemang ito. At sinasabi ng mga kumpanyang ito kung sumasang-ayon kang ibigay sa amin ang lahat ng iyong data at gawing ganap na naa-access sa amin ang iyong buhay sa lahat ng paraan, magiging karapat-dapat ka para sa lahat ng mga cool na bagong serbisyong ito.

Kung pipiliin mo ang Privacy at anonymity bagaman, hindi ka isasama sa mga alok ng serbisyo. T mo magagawang samantalahin ang mga bagong sistema ng transportasyon o ang mga bagong sistema ng seguridad o ang mga sistema ng paghahatid ng pagkain. Ito ang mga real-time na gantimpala at parusa sa pagkilos. Google nagsalita tungkol sa gamit ang data upang bumuo ng mga marka ng reputasyon. Ang mga tao at negosyong kumikilos sa loob ng algorithmic na mga parameter ay nakakakuha ng mas matataas na marka ng reputasyon at binibigyan sila ng pribilehiyo pagdating sa mga pautang sa bangko o iba pang uri ng mga serbisyo. Ang mga taong lumalabag sa mga algorithmic na parameter ay pinarurusahan dahil hindi sila kasama sa mga ganitong uri ng mga relasyon at serbisyo, at T nila maaaring isulong ang kanilang buhay dahil hindi sila kasama.

Tingnan din ang: Desentralisasyon at Ano Talaga ang Ibig Sabihin ng Seksyon 230 para sa Kalayaan sa Pagsasalita

Ito ay isang pananaw ng isang hinaharap: isang pribadong korporasyon na walang pananagutan na kapangyarihan. Ito ay isang hinaharap kung saan T tayong mahusay na demokratisasyon ng impormasyon na inaasahan natin sa digital na siglo, ngunit kabaligtaran lamang. Bumalik tayo sa isang pyudal na pattern na may ganitong malalaking konsentrasyon ng kaalaman at ang bagong uri ng kapangyarihan.

Ang kapangyarihang ito ay hindi mga sundalong pumupunta sa iyong bahay sa kalagitnaan ng gabi at hinahalikan ka sa gulag. Hindi ito karahasan at terorismo at pagpatay. Ito ay kapangyarihan na nagpapatakbo nang malayuan sa pamamagitan ng kapaligiran ng digital instrumentation. Para sa sinumang nag-iisip na ang mga ganitong sistema ay paksa lamang ng mga episode ng "Black Mirror", pumunta at basahin ang kasaysayan ng ika-20 siglo kung saan kinailangan ng buong alyansa ng Kanluranin upang labanan ang isa pang uri ng totalizing power na nagnanais ng kabuuang kontrol sa mga indibidwal at lipunan at iyon ay totalitarianism. Naiiba ito dahil may posibilidad itong dumating na may dalang cappuccino kaysa baril.

Ang radikal na kawalang-interes ay tungkol sa pag-maximize ng mga daloy ng data, hindi dahil ang mga ito ay masasamang tao, ngunit dahil ito ang pagpilit ng pang-ekonomiyang lohika na ito.

Paano maaaring maapektuhan ng executive order ni Trump ang Seksyon 230 – na nagpapawalang-bisa sa mga kumpanya mula sa sibil na pananagutan para sa online na content – ​​kung mayroon man?

Ang disinformation ay isang nakagawiang kinahinatnan ng pang-ekonomiyang lohika na ating tinalakay. Isa itong kinahinatnan ng mga imperatives ng economies of scale at economies of scope. Ang lahat ng mga sistema ay na-engineered mula pa sa simula upang ma-maximize ang mga daloy ng supply chain. Sa euphemistic na wika ng mga kapitalistang surveillance, ito ay engagement. Walang puwang sa pang-ekonomiyang lohika na ito upang hatulan ang kalidad ng suplay. T mahalaga. Ang sukat ay mahalaga. Mahalaga ang saklaw. Actuation na nagbibigay-daan sa amin upang mapataas ang katumpakan ng mga usapin ng hula. Iyon lang.

Ito ang tinatawag kong radical indifference. T kaming pakialam kung masaya ka o malungkot. Nag-aalala lang kami na makuha namin ang data. T kaming pakialam kung mayroon kang cancer kung ikakasal ka o kung nagpaplano ka ng pag-atake ng terorista, pakialam lang namin na makuha namin ang data. Ang radikal na kawalang-interes ay tungkol sa pag-maximize ng mga daloy ng data, hindi dahil ang mga ito ay masasamang tao, ngunit dahil ito ang pagpilit ng pang-ekonomiyang lohika na ito. Hanggang hindi natin maabala at ipagbawal ang pang-ekonomiyang lohika na iyon, magkakaroon tayo ng disinformation.

Ang likas na katangian ng Human ay kung nagmamaneho ka sa isang kalsada, at may aksidente sa sasakyan, hihinto ka at titingin. Kung nagmamaneho ka sa kalsada, at may magandang puno ng wilow, KEEP kang magmaneho. Lumalabas na ang marahas, palaaway, mapoot, nakakaganyak at mapanlinlang na nilalaman ay humihimok sa mga tao na huminto at tumingin. Iyan ang pagkawasak ng sasakyan.

Dahil ang mga system ay ininhinyero upang mapakinabangan ang supply, at dahil ang mga tao ay huminto at tumitingin sa mga wrecks ng sasakyan, binibigyang-daan nito ang mga hukbo ng mga bot at troll. Si Mr Trump iyon.

Ang Seksyon 230 ay walang paraan ng pag-asa ng surveillance kapitalismo. Walang insentibo upang alisin ang masasamang bagay at napakalaking insentibo upang KEEP puno ang mga supply chain. Lumalabas na ang internet ay hindi isang bulletin board, gaya ng naisip ng mga lumikha ng Seksyon 230. Ang internet ay mas katulad ng daloy ng dugo ng pandaigdigang pulitika ng katawan. Salamat sa mga pangangailangang pang-ekonomiya ng kapitalismo sa pagsubaybay, ang mga taong nagmamay-ari at nagpapatakbo ng internet, ay insentibo na payagan ang sinuman na maglagay ng anumang uri ng lason sa daloy ng dugo nang walang panlunas. Doon tayo ngayon.

Kaya kailangan ba ng Seksyon 230 ang pagsisiyasat? Oo, ngunit nangangailangan ito ng masusing pagsusuri bilang bahagi ng mas malaking talakayan tungkol sa mga balangkas ng pambatasan, mga paradigma ng regulasyon, mga charter ng mga karapatan o mga institusyon na kailangan nating gawing tugma ang internet sa demokrasya.

Ito ang ikatlong dekada ng digital na siglo. Kailangan nating malaman ito. Si Mr. Trump ay darating at nagniningning ng pansin sa Seksyon 230, na maaaring isipin ng ONE ay isang magandang bagay, ngunit narito na ang pangalawang whiplash. Ang whiplash na iyon ay ang pakikipaglaban ni Mr. Trump para sa karapatang maglagay ng lason sa kalooban sa pandaigdigang daloy ng dugo. Ipinaglalaban niya ang karapatang magsinungaling. Ipinaglalaban niya ang karapatang maglagay ng counterfactual na impormasyon sa body politic.

Kailangan nating bumuo ng isang tuntunin ng batas na tumutugma sa demokrasya na tumutugon sa mga CORE tanong na ito ng kapitalismo sa pagsubaybay at kung sino ang nagmamay-ari at nagpapatakbo ng internet. Kailangan nating gawin ito upang maging ligtas ang internet para sa katotohanan. Hindi ligtas para sa kasinungalingan. May mga lugar kung saan may Opinyon ngunit may mga lugar kung saan may mga katotohanan. Ngayon ay mayroon na tayong pandaigdigang daloy ng dugo kung saan walang operasyong institusyonal na nasa ilalim ng demokratikong proteksyon at demokratikong pangangasiwa. Ito ay naging dahilan upang ang ating mga demokrasya ay hindi mapanghawakan.