Алгоритмічне життя не варте того, щоб жити

Це Тиждень Політика конфіденційності тут, у CoinDesk, ми занурювалися в різні технологічні та юридичні точки зору наслідків цифрового стеження. Занепокоєння з приводу зростання всюдисущого шпигунства часто може здаватися академічним принциповим питанням або серією попереджень щодо важливих, але незвичайних крайніх випадків: чоловіка, який постраждав, переслідують за допомогою зловмисного програмного забезпечення, дисидента вистежили і вбили урядом, споживачем с легальний, але соціально маргіналізований смаки. Звичайно, ці сценарії порушення Політика конфіденційності мають серйозні наслідки для тих, хто став жертвою, і для кожного з ONE .

Але найпоширеніше використання цифрового стеження може здатися набагато більш приземленим, ніж ці приклади в заголовках, але потенційно набагато підступнішим.

Ця стаття є частиною CoinDesk Тиждень Політика конфіденційності серії.

Алгоритмічне націлювання на вміст є основою всюдисущих інформаційних компаній, таких як Google і Facebook, і воно впливає на вас щоразу, коли ви в мережі. Це може зробити вас менш поінформованим, менш унікальним, менш вдумливим і менш цікавим, так що ви навіть T помітите.

Гарвардський дослідник Шошана Зубофф описує вплив алгоритмічного націлювання як «приватизацію розподілу навчання». Ми все частіше передаємо наші рішення про все програмному забезпеченню для розпізнавання образів, стверджує вона. Він керує нашою взаємодією з соціальними медіа, сайтами знайомств, пошуковими системами, програмною рекламою та стрічками вмісту – і майже повністю побудований на моделях минулої Human поведінки. У своєму структурному корені він ворожий до новизни, інновацій і незалежності. І його піонери отримали від цього величезну вигоду – за словами Зубоффа, Google тепер має «всесвітньо-історичну концентрацію знань і влади».

У мене для цього є трохи оперативніша назва, ніж Zuboff: Алгоритмічний цикл. Як і більшість петель, його легко потрапити в пастку, оскільки він збирає наші вподобання, а потім використовує ці дані, щоб KEEP нас на гачку – і брати під контроль. Звісно, ​​він показує нам передбачувані дати, назви фільмів чи анонси новин, які ми, ймовірно, натиснемо. Але ті пропозиції по черзі формувати наше бажання для наступної речі, яку ми споживаємо.

Коротше кажучи, алгоритмічний цикл T просто передбачає наші смаки, ставлення та переконання, він створює їх. І оскільки він формує їх на основі лише того, що він уже знає та може зрозуміти, це робить нас менш креативними та менш індивідуальними способами, які ми ледве почали розуміти.

З часом індивідуальні та колективні наслідки можуть виявитися руйнівними.

Найменший спільний знаменник

Як алгоритмічний цикл звужує діапазон Human думки та творчості?

Динаміка змінюється, але розглянемо основи. Такі компанії, як Facebook, Amazon і Google, зрештою заробляють гроші, показуючи вам речі, які ви можете купити. ONE , пошукові та потокові платформи KEEP вашу увагу, показуючи вміст, який вам найбільше подобається швидше за все, знайде «захоплюючий». Вони досягають цих цілей, спостерігаючи за вашою поведінкою, порівнюючи її з поведінкою подібних людей, а потім показуючи вам інші речі, які сподобалися цим людям.

Ці системи іноді хвалять за їх здатність допомагати користувачам із нішевими смаками знайти саме те, що вони шукають, і в цьому є частка правди. Але більшу динаміку легко помітити: алгоритмічний цикл працює на фундаментальному припущенні, що ваші смаки взаємозамінні зі смаками інших людей. Алгоритм не може ані передбачити, ані створити особистість, інновації чи випадкові зустрічі – це означає, що він, зрештою, ворожий особистому розширенню можливостей та індивідуальності.

Як уявний експеримент уявіть справді середнього користувача YouTube або Amazon PRIME Video. Що ви порадите тому, хто взяв на прокат п’ять головних голлівудських фільмів, бо це все, про що вони чули? Що ж, ви пропонуєте їм більше такого ж основного, середнього, легкого контенту. Навіть якщо контент дійсно адаптований до демографічної ніші, творчий процес перетворюється на вправу перевірки коробок: Netflix, як відомо, використовує свій алгоритмічний цикл щоб «оптимізувати» частину вмісту для досягнення успіху до його створення. Якщо мистецтво у своїй найкращій формі — це процес самопізнання та навчання, алгоритмічний цикл відвертає нас від цього до простого нескінченного повторення.

Ця алгоритмічна упередженість у бік банальності разом з іншими силами вже оглушила нашу культуру вимірними способами. За 20 з гаком років, відколи алгоритмічні механізми рекомендацій були в дикій природі – спочатку в онлайн-книжкових магазинах, як-от Amazon, потім у сервісі DVD Netflix, потім на платформах потокового відео та музики – глобальна популярна культура зазнала радикального скорочення, зосередженого на найпопулярніших і необразливі блокбастери.

Наприклад, Spotify, орієнтована на алгоритм музична платформа, зосереджує потоки та прибутки серед жменька найкращих художників набагато більше, ніж фізична система ЗМІ та мовлення, яка йому передувала. Це особливо вражає, оскільки наземний радіоконгломерат ClearChannel так часто був дурницею для шанувальників музики в 1990-х роках до появи Інтернету, звинувачуваних у тому, що він змушував мовчати авантюристичних або суперечливих виконавців. Зараз ми живемо в епоху «нескінченного музичного автомата», коли практично всю музику, яку коли-небудь записували, можна зробити одним клацанням миші, але поєднання цього з алгоритмічним циклом, здається, зробило споживання музики більш монолітним, а не меншим.

Голлівуд кіностудії, великі книжкові видавці та музичні лейбли відгукнулися на цю модель «переможець отримує все». Вони масово перейшли до того, щоб майже повністю зосередитися на блокбастерах і зірках, виділяючи ресурси лише митцям, які виробляють найулюбленіший продукт – і навіть тоді лише їхні найяскравіші удари. Ця масштабна зміна значно ускладнила фінансову роботу навіть трохи нетрадиційним музикантам і режисерам, тим, хто здатний впроваджувати нові та захоплюючі ідеї. підтримувати їх роботу (не кажучи вже про письменників, які завжди боролися). Натомість ми отримуємо нескінченну низку фільмів Marvel.

Чесно кажучи, за цими змінами стоять інші важливі фактори. Голлівуд, наприклад, бореться зі світовим падінням відвідуваності театрів, що створює тиск для створення менш складного контенту, оскільки для цього потрібні задники в місцях. Політична культура США ставала все більш партійною задовго до того, як алгоритмічний цикл зробив сортування людей на протилежні, однаково цілеспрямовані вулики таким же несвідомим процесом, як дихання. На найвищому рівні тенденція до a Економіка «переможець отримує все» почалося з винаходу телеграфу: удосконалення комунікаційних Технології дозволяє найкращим виконавцям, підприємствам і продуктам домінувати у дедалі більших частках світового ринку майже всього.

Але алгоритмічний цикл — це те, що дозволяє динаміці «переможець отримує все» проникати в усі аспекти нашого життя, як онлайн, так і дедалі частіше поза ним. Це те, що постійно спокушає нас новинами, продуктами чи твітами, які можуть не зробити нас більш вдумливими, чуйними чи добре поінформованими – але це, як відомо алгоритму, здається, подобається всім іншим.

Відкиньте традиції, прийміть себе

Алгоритмічний цикл — це кібернетично вдосконалена версія проблеми, з якою люди боролися ще до появи машинного навчання, Інтернету чи комп’ютерів.

У давні часи проблему називали традицією, ієрархією, забобонами, загальноприйнятою думкою або просто «так йдуть справи». Три десятиліття тому юрист Спірос Сімітіс передбачив, наскільки потужними можуть бути ці системи для формування поведінки людей у ​​прийнятні форми, подібні до традиційних ієрархій. У уривку, цитованому Зубоффом, Сімітіс стверджував, що прогнозні алгоритми «розвиваються... в важливий елемент довгострокових стратегій маніпулювання, спрямованих на формування та коригування індивідуальної поведінки».

Тисячі років до таких сил ставилися з підозрою. Ви, напевно, чули фразу: «Недосліджене життя не варте того, щоб її прожити», — ONE із найвідоміших афоризмів Сократа, основоположника західного світу (як передали його учень Платон і учень Платона Арістотель — Сократ не навіть T писати, а тим більше код). Загальний настрій досить чіткий і очевидний: подумайте про себе. Це добре Для вас.

Але Сократ також мав на увазі дещо більш конкретне: щоб по-справжньому перевірити себе, ви повинні дослідити всі соціальні норми, невисловлені припущення та історичні умови, які сформували вас. До того часу ви, по суті, маріонетка людей, які були перед вами і встановили норми, незалежно від того, чи ми говоримо про церковну доктрину чи естетичне судження.

Кілька тисяч років потому піонер-психоаналітик Зигмунд Фрейд повторив це BIT чіткіше, слоганом, який також має ту перевагу, що звучить абсолютно погано рідною німецькою мовою Фрейда: «Wo ist war, soll ich verden». Або англійською: « Де воно, там буду і я». «Це», про яке говорив Фрейд, — це несвідомий розум, який він вважав сформованим традиціями та соціальними нормами, закладеними в усіх нас від народження, сучасність і Технології допомогли зробити ці норми ще більш поширеними, уніфікованими жорсткі, особливо під час вікторіанської епохи юності Фрейда, яка пригнічувала секс.

Фрейд вважав, що конфлікт між соціальними нормами та індивідуальними бажаннями є джерелом проблем із психічним здоров’ям. Він сподівався, що його «ліки розмовою» можуть допомогти пацієнтам, які дивно почуваються не на своєму місці у своєму репресивному суспільстві, зробивши видимими як норми, які так часто залишаються невисловленими, так і бажання, які люди іноді приховують навіть від самих себе. Ми могли б зрозуміти тривожні висновки про вплив соціальних мереж на психічне здоров'я у подібних термінах: постійний потік найпопулярнішого контенту іноді може призводити до психічно руйнівної ерозії індивідуальності домінуючим соціальним ладом.

Алгоритмічний цикл може здатися не таким суворим майстром, як соціальні норми вікторіанської Європи, але часто він є більш підступним. Репресивні соціальні норми, які явно нав’язує поліцейський чи священик, можливо, легше кинути виклик, ніж алгоритмічний цикл, тому що тепер ми є тими, хто клацає, транслює, прокручує. Таке відчуття, що ми робимо індивідуальний вибір, підтверджуючи свою унікальність і виражаючи себе.

Але це лише тому, що крива групового мислення така тонка. Якщо розглядати як загальну систему, алгоритмічний цикл неминуче погіршує різноманітність та унікальність того, що більшість людей бачить, Навчання та насолоджується. Незважаючи на те, що кількість «вмісту», який ми споживаємо, стрімко зростає (тривожна тенденція сама по собі), здається, що пропонується все менше й менше реальних наслідків — менше того, що може кинути вам виклик, допомогти вам рости, зробити вас кращою людиною.

Незалежно від того, скільки ми прокручуємо, публікуємо чи чирікаємо, ми можемо почати підозрювати, що наш вибір ілюзорний.

Вихід із циклу

Як же тоді звільнитися від задушливої ​​лози, яка читає своє майбутнє у самій вашій боротьбі? Як відновити контроль над власним вибором і власним мозком?

Звичайно, існують окремі практики, які вимагають різного ступеня відданості. ONE, хоча і не зовсім легкий, полягає в тому, щоб повністю відмовитися від Facebook і Google. Особливо Facebook – компанії, яка тепер називає себе Meta, просто не можна довіряти. (І так, Facebook може відстежувати вас, навіть якщо ви не користуєтеся Facebook.com. Ось як це змінити.)

Для пошуку використовуйте DuckDuckGo. ProtonMail — популярна альтернатива Gmail, яка, так, також шпигує за вами. Фактично, це навчитися писати Для вас свої електронні листи, ще один приклад спокусливої, наркотичної петлі смерті, від якої ми маємо якось уникнути.

Переваги, ймовірно, незначні – частково через те, що вони вже мають так багато даних, – але ці кроки принаймні дещо ускладнять для накопичувачів даних профіль і спокусити вас онлайн.

Повернення до фізичних медіа — це ще один спосіб від’єднатися від розуму вулика — компакт-диски та вініл замість Spotify, DVD-диски та касети VHS замість YouTube чи потокових сервісів, фізичні книги замість (будемо реальними) твітів. Навчання цінувати свою місцеву бібліотеку. Використання більшої кількості фізичних носіїв змушує вас робити обдуманий вибір і деякий час звертати на це увагу, замість того, щоб просто виконувати алгоритмічний цикл (хоча MP3 та сервер PLEX теж T поганий варіант). Чорт, якщо ти справді хочеш збожеволіти, купи розкладний телефон і підпишіться на друковану газету – ти можеш зникнути з соціальних мереж і потоків, як Однорукий чоловік.

Але ці індивідуальні налаштування T є рішенням, так само, як ви не можете вилікувати епідемію ожиріння, споживаючи більше кіноа. Цифрові системи набагато зручніші, ніж ті, що були раніше, а їхні недоліки абстрактні та колективні. Навіть якщо хтось глибоко усвідомлює компроміси, на які йде щодня, про все це надто важко хвилюватися.

Для цих людей – тобто для більшості людей – потрібен більш систематичний регуляторний підхід, а хороше регулювання та практика Політика конфіденційності є стрижнею. Ретельне обмеження кількості даних, які ми надаємо рекламним платформам, таким як Google і Facebook, і того, як саме вони можуть націлюватися на нас, створює більше простору для індивідуальності. Тут вже є певний прецедент – нещодавно на Facebook чинили тиск, щоб зменшити можливості рекламодавців мета за расою, наприклад (хоча, оскільки це Facebook, звичайно, є легкий обхідний шлях).

Тоді є ядерний варіант: зробити програмну рекламу незаконною.

Цього T станеться в США, де є найбільші накопичувачі корпоративних даних. Американські законодавці занадто сильно упереджені до прибутку, щоб робити щось, що зашкодило б Facebook чи Google або тисячам допоміжних рекламних і маркетингових фірм, які харчуються їхнім шлейфом даних.

Але гіпотетично, якби програмне націлювання реклами припинилося або було серйозно обмежено, дані про ваші звички та вподобання втратять свою цінність. Facebook перестав би шпигувати за вами не тому, що був змушений, а тому, що не мав би стимулу. Коли ваші дані та увага раптово втратили цінність, ви могли б вільно Навчання та досліджувати на власних умовах.

Що ж, ми все ще можемо мріяти… чи T так?