Ang Algorithmic Life ay Hindi Karapat-dapat na Mabuhay

ito ay Linggo ng Privacy dito sa CoinDesk, at kami ay sumisid sa iba't ibang teknolohikal at legal na mga anggulo sa mga kahihinatnan ng digital surveillance. Ang pagkabalisa tungkol sa pag-usbong ng omnipresent snooping ay kadalasang parang isang akademikong usapin ng prinsipyo, o isang serye ng mga babala tungkol sa mahahalaga ngunit hindi pangkaraniwang mga kaso: ang battered na asawa ay ini-stalk ng malware, ang dissident sinusubaybayan at pinatay ng isang gobyerno, ang mamimili na may legal ngunit marginalized sa lipunan panlasa. Ang mga sitwasyong ito ng kompromiso sa Privacy ay may malubhang implikasyon, siyempre, para sa mga nabibiktima at para sa bawat ONE sa atin.

Ngunit ang pinakalaganap na paggamit ng digital surveillance ay maaaring mukhang mas karaniwan kaysa sa mga halimbawa ng headline na ito, habang ito ay potensyal na higit na mapanlinlang.

Ang artikulong ito ay bahagi ng CoinDesk's Linggo ng Privacy serye.

Ang pag-target sa nilalamang algorithm ay ang pundasyon ng mga negosyo sa lahat ng dako ng impormasyon tulad ng Google at Facebook, at nakakaapekto ito sa iyo sa bawat sandali na online ka. Maaari kang gumawa ng hindi gaanong kaalaman, hindi gaanong kakaiba, hindi gaanong maalalahanin at hindi gaanong kawili-wili, kaya T mo napapansin.

Harvard researcher Shoshana Zuboff inilalarawan ang epekto ng algorithmic na pag-target bilang "ang pagsasapribado ng dibisyon ng pag-aaral." Lalo naming ipinasa ang aming mga desisyon tungkol sa lahat sa software ng pagkilala sa pattern, ang sabi niya. Ginagabayan nito ang aming mga pakikipag-ugnayan sa social media, mga dating site, mga search engine, programmatic na advertising at mga feed ng nilalaman – at halos ganap itong binuo sa mga modelo ng dating gawi ng Human . Sa istrukturang ugat nito, laban ito sa bago, pagbabago at kalayaan. At ang mga pioneer nito ay nakinabang nang husto mula dito - ayon kay Zuboff, ang Google ay mayroon na ngayong "pangkasaysayang konsentrasyon ng kaalaman at kapangyarihan."

Mayroon akong bahagyang mas snappier na pangalan para dito kaysa sa Zuboff: ang Algorithmic Loop. Tulad ng karamihan sa mga loop, madaling ma-trap dahil kinukuha nito ang aming mga kagustuhan, pagkatapos ay ginagamit ang data na iyon para KEEP kaming nakakabit – at kontrolin. Siguradong ipinapakita nito sa amin ang mga inaasahang petsa o pamagat ng pelikula o mga blur ng balita na alam nitong malamang na magki-click kami. Ngunit ang mga mungkahi na iyon hubugin ang ating pagnanasa para sa susunod nating ubusin.

Ang algorithmic loop, sa madaling salita, ay T lamang hinuhulaan ang ating mga panlasa, saloobin at paniniwala, ito ay lumilikha ng mga ito. At dahil hinuhubog nito ang mga ito batay lamang sa kung ano ang alam na at nauunawaan nito, ginagawa tayong hindi gaanong malikhain at hindi gaanong indibidwal sa mga paraan na halos hindi pa natin nauunawaan.

Sa paglipas ng panahon, ang mga indibidwal at kolektibong epekto ay maaaring mapaminsala.

Pinakamababang common denominator

Paano pinapaliit ng algorithmic loop ang hanay ng pag-iisip at pagkamalikhain ng Human ?

Ang dynamic ay nag-iiba ngunit isaalang-alang ang mga pangunahing kaalaman. Ang mga kumpanya tulad ng Facebook, Amazon at Google sa huli ay kumikita sa pamamagitan ng pagpapakita sa iyo ng mga bagay na maaari mong bilhin. Ang ONE level up, social, paghahanap at streaming platform KEEP sa iyong atensyon sa pamamagitan ng pagpapakita sa iyo ng nilalaman na ikaw ang pinaka malamang na makahanap ng "nakatawag pansin." Nagagawa nila ang mga layuning ito sa pamamagitan ng pagmamasid sa iyong pag-uugali, pagtutugma nito sa pag-uugali ng mga katulad na tao, pagkatapos ay pagpapakita sa iyo ng iba pang mga bagay na nagustuhan ng mga taong iyon.

Minsan ay pinupuri ang mga system na ito para sa kanilang kakayahang tulungan ang mga user na may mga angkop na panlasa na mahanap nang eksakto kung ano ang kanilang hinahanap, at may ilang katotohanan iyon. Ngunit ang mas malaking dynamic ay madaling makita: Ang algorithmic loop ay gumagana sa pangunahing pagpapalagay na ang iyong panlasa ay maaaring palitan ng ibang mga tao. Ang algorithm ay hindi maaaring hulaan o lumikha ng personalidad, pagbabago o pagkakataong makatagpo - na nangangahulugan na ito ay sa huli ay palaban sa personal na empowerment at indibidwalidad.

Bilang isang eksperimento sa pag-iisip, isipin ang isang tunay na karaniwang gumagamit ng YouTube o Amazon PRIME Video. Ano ang iminumungkahi mo sa isang taong nagrenta ng limang pangunahing pelikula sa Hollywood dahil iyon lang ang narinig nila? Well, nag-aalok ka sa kanila ng higit pa sa parehong mainstream, middlebrow, nakakagaan na nilalaman. Kahit na ang nilalaman ay talagang iniayon sa isang demograpikong angkop na lugar, ang proseso ng creative ay naging isang ehersisyo sa pagsuri sa kahon: Netflix, sikat, gumagamit ng algorithmic loop nito upang "i-optimize" ang isang piraso ng nilalaman para sa tagumpay bago ito gawin. Kung ang sining sa pinakamainam nito ay isang proseso ng pagtuklas sa sarili at pag-aaral, pinalalayo tayo ng algorithmic loop mula doon at tungo sa simpleng pag-uulit ng ating sarili nang walang katapusang.

Ang algorithmic na bias na iyon sa pagiging banal, kasama ang iba pang mga puwersa, ay nagpakawala na sa ating kultura sa mga masusukat na paraan. Sa loob ng 20-kakaibang taon mula nang ang mga algorithmic recommendation engine ay nasa ligaw – una sa mga online na bookstore tulad ng Amazon, pagkatapos ay sa serbisyo ng DVD ng Netflix, pagkatapos ay sa streaming na video at mga platform ng musika – ang pandaigdigang popular na kultura ay sumailalim sa isang radikal na pagliit na nakasentro sa pinakasikat at hindi nakakasakit na mga blockbuster.

Halimbawa, ang Spotify, isang platform ng musika na nakasentro sa algorithm, ay nagtutuon ng mga stream at kita sa mga a maliit na bilang ng mga nangungunang artista higit pa kaysa sa pisikal na media-at-broadcasting system na nauna rito. Ito ay partikular na kapansin-pansin dahil ang terrestrial radio conglomerate na ClearChannel ay madalas na isang bugaboo para sa mga tagahanga ng musika noong pre-internet 1990s, na inakusahan ng pagpapatahimik sa mga adventurous o kontrobersyal na artist. Nabubuhay tayo ngayon sa panahon ng "walang katapusan na jukebox," na halos lahat ng musikang naitala sa isang pag-click lang ang layo - ngunit pinagsasama iyon sa algorithmic loop ay tila ginawang mas monolitik ang pagkonsumo ng musika, hindi mas mababa.

Hollywood mga studio ng pelikula, ang mga pangunahing publisher ng libro at mga label ng musika ay tumugon lahat sa modelong ito ng winner-take-all. Lumipat sila nang maramihan sa halos ganap na pagtuon sa mga blockbuster at bituin, na nagbibigay ng mga mapagkukunan lamang sa mga artista na gumagawa ng pinakaminamahal na produkto - at kahit na noon ay para lamang ang kanilang pinakamalinaw na hit. Ang malawak na pagbabago sa dagat na ito ay naging mas mahirap para sa kahit na bahagyang hindi kinaugalian na mga musikero at gumagawa ng pelikula, ang mga may kakayahang magpakilala ng bago at kapana-panabik na mga ideya, sa pananalapi. suportahan ang kanilang trabaho (to say nothing of writers, who have always struggled). Sa halip, nakakakuha kami ng walang katapusang string ng mga pelikulang Marvel.

In fairness, may iba pang major factors sa likod ng mga pagbabagong ito. Ang Hollywood, halimbawa, ay nakikipagbuno sa isang sekular na pagbaba sa pagdalo sa teatro na lumilikha ng pressure na gumawa ng hindi gaanong mapaghamong nilalaman dahil nangangailangan ito ng mga puwit sa mga upuan. Ang kulturang pampulitika ng U.S. ay lalong naging partisan bago ginawa ng algorithmic loop ang pag-uuri ng mga tao sa magkasalungat, parehong mga pantal na walang malay bilang isang proseso na walang malay tulad ng paghinga. Sa pinakamataas na antas, ang kalakaran patungo sa a "winner-take-all na ekonomiya" nagsimula sa pag-imbento ng telegraph: Ang pagpapabuti ng Technology ng komunikasyon ay nagbibigay-daan sa pinakamahuhusay na gumaganap, negosyo at produkto na mangibabaw sa mas malalaking bahagi ng pandaigdigang merkado para sa halos lahat ng bagay.

Ngunit ang algorithmic loop ay kung ano ang nagbibigay-daan sa winner-take-all dynamic na makalusot sa bawat aspeto ng ating buhay, online at, lalong, off. Ito ang patuloy na tumutukso sa atin ng mga balita o produkto o tweet na maaaring hindi na tayo maging mas maalalahanin o nakikiramay o may sapat na kaalaman – ngunit tila tinatangkilik ng lahat, gaya ng alam ng algorithm.

Tanggihan ang tradisyon, yakapin ang iyong sarili

Ang algorithmic loop ay ang cybernetically enhanced na bersyon ng isang problemang kinakaharap ng mga tao mula pa noong bago ang machine learning, umiral pa ang internet o mga computer.

Noong unang panahon, ang problema ay napunta sa ilalim ng mga pangalan tulad ng tradisyon, hierarchy, pamahiin, kumbensyonal na karunungan o "ang paraan ng mga bagay." Tatlong dekada na ang nakalipas, hinulaan ng legal na iskolar na si Spiros Simitis kung gaano kalakas ang mga sistemang ito para sa paghubog ng gawi ng mga tao sa mga katanggap-tanggap na anyo, katulad ng mga tradisyonal na hierarchy. Sa isang sipi na binanggit ni Zuboff, nangatuwiran si Simitis na ang mga predictive algorithm ay "nabubuo ... sa isang mahalagang elemento ng mga pangmatagalang estratehiya ng pagmamanipula na nilayon upang hulmahin at ayusin ang indibidwal na pag-uugali."

Ang gayong mga puwersa ay tiningnan nang may hinala sa loob ng libu-libong taon. Malamang na narinig mo na ang pariralang, "Ang hindi napag-aralan na buhay ay hindi karapat-dapat na mabuhay," ONE sa mga pinakatanyag na aphorism ni Socrates, ang pundasyong pilosopo ng Kanluraning mundo (tulad ng ipinasa ng kanyang mag-aaral na si Plato at ang estudyante ni Plato na si Aristotle – Socrates ay ' T kahit na magsulat, mas kaunting code). Ang pangkalahatang damdamin ay malinaw at malinaw na sapat: Gumugol ng ilang oras sa pagmumuni-muni sa iyong sarili. Ito ay mabuti Para sa ‘Yo.

Ngunit mas tiyak din ang ibig sabihin ni Socrates: Upang tunay na suriin ang iyong sarili, kailangan mong tanungin ang lahat ng mga pamantayan sa lipunan, hindi nasabi na mga pagpapalagay at mga makasaysayang kondisyon na humubog sa iyo. Hanggang sa panahong iyon, ikaw ay mahalagang papet ng mga taong nauna sa iyo at itinatag ang mga pamantayan, kung ang pinag-uusapan natin ay tungkol sa doktrina ng simbahan o aesthetic na paghatol.

Makalipas ang ilang libong taon, ang pioneering psychoanalyst na si Sigmund Freud ay muling nagpahayag nito BIT mas malinaw, sa isang slogan na mayroon ding bentahe ng tunog na ganap na badass sa katutubong Aleman ni Freud: "Wo ist war, soll ich verden." O sa English: “ Kung saan ito naroroon, naroroon ako." Ang "ito" na tinutukoy ni Freud ay ang walang malay na pag-iisip, na nakita niyang hinubog ng mga tradisyon at pamantayang panlipunan na itinago sa ating lahat mula sa kapanganakan Sa panahon ni Freud, ang modernidad at Technology ay nakatulong na maging mas laganap, magkatulad at maging ang mga pamantayan matibay, lalo na sa panahon ng Victorian na panahon ng pagsupil sa sex noong kabataan ni Freud.

Naniniwala si Freud na ang salungatan sa pagitan ng mga pamantayan sa lipunan at mga indibidwal na pagnanasa ay isang mapagkukunan ng mga problema sa kalusugan ng isip. Inaasahan niya na ang kanyang "pakikipag-usap na lunas" ay makakatulong sa mga pasyente na nakakaramdam ng kakaiba sa kanilang mapanupil na lipunan, sa pamamagitan ng pagpapakita ng parehong mga pamantayan na madalas na hindi sinasabi, at ang mga pagnanasa na kung minsan ay itinatago ng mga tao kahit sa kanilang sarili. Maaari naming maunawaan ang nakakagambalang mga natuklasan tungkol sa mga epekto sa kalusugan ng isip ng social media sa magkatulad na mga termino: Ang patuloy na pag-stream ng pinakasikat na nilalaman ay maaaring minsan ay katumbas ng isang nakakapinsalang pagguho ng pagkatao ng nangingibabaw na kaayusan sa lipunan.

Ang algorithmic loop ay maaaring hindi masyadong malupit na master gaya ng mga social norms ng Victorian Europe - ngunit ito ay madalas na mas tuso. Ang mga mapanupil na pamantayan sa lipunan na nakikitang ipinapatupad ng isang pulis o pari ay maaaring mas madaling salungatin kaysa sa algorithmic loop, dahil kami na ngayon ang gumagawa ng pag-click, streaming, at pag-scroll. Tiyak na parang gumagawa tayo ng mga indibidwal na pagpipilian, nagpapatunay sa ating pagiging natatangi, at nagpapahayag ng ating sarili.

Ngunit iyon ay dahil lamang ang kurba patungo sa groupthink ay napaka banayad. Tinitingnan bilang isang kabuuang sistema, ang algorithmic loop ay hindi maiiwasang nagpapababa sa pagkakaiba-iba at pagiging natatangi ng nakikita, Learn, at tinatamasa ng karamihan sa mga tao. Kahit na ang dami ng "content" na kinokonsumo namin ay skyrockets (isang nakakagambalang trend sa sarili nitong karapatan), parang paunti-unti ang aktwal na kahihinatnan na inaalok - mas mababa ang maaaring hamunin ka, makakatulong sa iyong lumago, gawin kang mas mabuting tao.

Gaano man tayo mag-scroll, mag-tube o mag-tweet, maaari tayong magsimulang maghinala na ang ating mga pagpipilian ay ilusyon.

Pagtakas sa loop

Kung gayon, paano ka makakawala sa isang sumasakal na baging na nagbabasa ng hinaharap nito sa iyong mismong pakikibaka? Paano mo muling igigiit ang kontrol sa sarili mong mga pagpipilian at sa sarili mong utak?

Siyempre, may mga indibidwal na kasanayan na nangangailangan ng iba't ibang antas ng pangako. Ang ONE tapat , kung hindi lubos na madali, ay ang pagtanggal ng Facebook at Google sa anumang antas na posible. Lalo na ang Facebook - ang kumpanya na ngayon ay tinatawag ang sarili nitong Meta ay simple at pare-parehong hindi dapat pagkatiwalaan. (At oo, masusubaybayan ka ng Facebook kahit na hindi ka gumagamit Facebook.com. narito paano baguhin iyon.)

Gamitin ang DuckDuckGo para sa paghahanap. Ang ProtonMail ay isang sikat na alternatibo sa Gmail – na, oo, ay tumitingin din sa iyo. Sa katunayan, ito ay natututo kung paano isulat ang iyong mga email Para sa ‘Yo, isa pang halimbawa ng mapang-akit, narkotikong death loop na dapat nating takasan.

Ang mga benepisyo ay malamang na marginal - sa bahagi dahil mayroon na silang napakaraming data - ngunit ang mga paglipat na ito ay hindi bababa sa gagawing medyo mahirap para sa mga nag-iimbak ng data na i-profile at ma-engganyo ka online.

Ang pagbabalik sa pisikal na media ay isa pang paraan para makaalis sa isipan ng mga pugad – mga CD at vinyl sa halip na Spotify, mga DVD at VHS tape sa halip na YouTube o mga serbisyo ng streaming, mga pisikal na aklat sa halip na (maging totoo tayo) mga tweet. Learn pahalagahan ang iyong lokal na aklatan. Ang paggamit ng mas maraming pisikal na media ay nagpipilit sa iyo na gumawa ng mga isinasaalang-alang na mga pagpipilian at bigyang pansin ito nang ilang sandali, sa halip na sumakay lamang sa algorithmic loop (bagaman ang mga MP3 at isang PLEX server ay T rin isang masamang pagpipilian). Ano ba, kung gusto mo talagang mag-buckwild, kumuha ng flip phone at mag-subscribe sa isang naka-print na pahayagan - maaari kang mawala sa social media at streaming tulad ng Isang-Armadong Lalaki.

Ngunit ang mga indibidwal na tweak na ito ay T talaga Ang Solusyon kaysa sa maaari mong ayusin ang epidemya ng labis na katabaan sa pamamagitan ng pagkain ng mas maraming quinoa sa iyong sarili. Ang mga digital system ay higit na maginhawa kaysa sa nauna, at ang mga downside nito ay abstract at collective. Kahit na alam ng isang tao ang mga kompromiso na ginagawa nila araw-araw, ang lahat ng ito ay napakahirap alalahanin.

Para sa mga taong iyon - iyon ay, karamihan sa mga tao - isang mas sistematikong diskarte sa regulasyon ang kailangan, at ang mahusay na regulasyon at mga kasanayan sa Privacy ay ang linchpin. Ang maingat na mga limitasyon sa kung gaano karaming data ang ibinibigay namin sa mga platform ng pag-advertise tulad ng Google at Facebook, at kung gaano talaga nila kami nagagawang i-target, ay lumikha ng mas maraming espasyo para sa indibidwalidad. Mayroon nang ilang precedent dito – kamakailan lamang ay pinilit ang Facebook na bawasan ang kakayahan ng mga advertiser target ayon sa lahi, halimbawa (bagaman dahil ito ay Facebook, siyempre mayroong isang madaling workaround).

Pagkatapos ay mayroong opsyong nuklear: Gawing ilegal ang programmatic advertising.

T iyon mangyayari sa US, ang tahanan ng pinakamalaking corporate data hoarder. Masyadong malalim ang pagkiling ng mga mambabatas sa US sa tubo para gumawa ng anumang bagay na makakasakit sa Facebook o Google o sa libu-libong mga ancillary adtech at marketing firm na kumakain sa kanilang dami ng data chum.

Ngunit hypothetically, kung natapos ang programmatic na pag-target sa ad o seryosong nabawasan, mawawalan ng halaga ang data tungkol sa iyong mga gawi at kagustuhan. Hihinto ang Facebook sa pag-espiya sa iyo hindi dahil pinilit ito, ngunit dahil wala itong insentibo. Sa biglaang pagkawala ng iyong data at atensyon, magiging malaya kang Learn at mag-explore sa sarili mong mga termino.

Well, maaari pa rin tayong mangarap ... T ba?