«Радикальна байдужість»: як капіталізм спостереження завоював наше життя

Коли Шошана Зубофф відповідає на мій дзвінок із 15-хвилинним запізненням, це тому, що її попередній дзвінок із організацією в Ізраїлі перервався на півдорозі, і їм знадобився деякий час, щоб відновити зв’язок. Така небезпека функціонування в умовах карантину, навіть якщо технологічні компанії мають більше влади, ніж будь-коли.

Замість того, щоб мати час протягом літа, щоб обміркувати та спланувати свою наступну книгу, як вона планувала, Зубофф була дуже зайнята людьми, які хотіли поговорити з нею та провести віртуальні Заходи. Це частково причина того, що протягом останніх чотирьох місяців ми намагалися запланувати дзвінок, але дату неодноразово переносили.

Поки ми розмовляємо по телефону, на задньому фоні щебетають пташки, що є частиною атмосфери дому Зубоффа за містом. Вона каже, що їй пощастило бути там, враховуючи труднощі, з якими стикаються її друзі, намагаючись збалансувати COVID-19 і жити в містах. Птахи мандрують Нью-Йорком у пошуках клієнтів під час пандемії під звуки антиутопічного дзвінку вантажівок з морозивом.

«Життя під час пандемії займає стільки часу, — каже вона. «З’ясовувати, як дістати продукти та все інше, це дуже копітко».

Дивіться також: У «Трампі проти Twitter» децентралізовані технології можуть WIN

Зубофф є автором оf "Епоха капіталізму спостереження: Боротьба за майбутнє Human на новому кордоні влади" та почесного професора Гарвардської бізнес-школи Чарльза Едварда Вілсона. Зубофф каже, що книга (яка має 660 сторінок) "узагальнює роки досліджень і роздумів, щоб відкрити світ, у якому користувачі Технології не є ні клієнтами, ні працівниками, ні продуктами. Натомість вони є сировиною для нових процедур виробництва та продажу, які визначають абсолютно новий економічний порядок: економіку спостереження».

Зубофф і я говоримо про рамки капіталізму спостереження. Але мені хотілося б почути її точку зору щодо бурхливих протестів у США та думки президента Дональда Трампа виконавчий наказ за статтею 230, закон, який надає компаніям соціальних медіа імунітет від відповідальності за вміст, з яким президент виступив проти. Здається, настав час подумати про контекст, який Інтернет надає цим Заходи, і про те, хто ним керує.

Цю бесіду було відредаговано для тривалості та ясності.

Опишіть капіталізм спостереження та що це означає для людей, які, можливо, не знайомі з ним.

Капіталізм спостереження був винайдений у Google між 2000 і 2001 роками як відповідь на надзвичайну фінансову ситуацію під час краху доткому. Вони були найрозумнішими хлопцями з найкращою пошуковою системою та найрозкішнішими інвесторами венчурного капіталу. Але навіть вони потрапили під обстріл, коли їхні інвестори погрожували вийти. У той час вони вирішили, що їм потрібно знайти швидкий шлях до монетизації, і це мала бути зроблена через рекламу, яку вони раніше відкидали.

Вони виявили, що залишкові поведінкові дані на їхніх серверах, які називаються вичерпними даними, насправді були повні багатих прогнозних сигналів. І ці прогностичні сигнали просто валялися без використання, більше ніж те, що було потрібно для покращення продукту чи послуги. Я називаю ці дані поведінковими «надлишками». Саме завдяки тренуванню своїх і без того високорозвинених аналітичних здібностей на цих надлишкових потоках і витягуванню цих прогнозних сигналів, використовуючи їх для аналізу, вони виявили, що можуть передбачити, яку рекламу хтось, швидше за все, натисне, і чи перейде на веб-сайт. Це стало тим, що ми тепер знаємо як «рейтинг кліків».

Показник кліків – це обчислювальний продукт, який передбачає фрагмент Human поведінки. Виявилося, що існує дуже значний ринок бізнес-клієнтів, які хотіли знати, що клієнти будуть робити, які хотіли прогнозувати поведінку клієнтів і користувачів.

Таким чином, рекламодавці та їхні клієнти відмовилися від традиційного зв’язку між продуктом і його рекламою, коли компанія вирішує, де розмістити свою рекламу на основі відповідності цінностям свого бренду. Навіть перші роки онлайн-реклами зберігають цю спадкоємність. Але Google зробив їм пропозицію, від якої вони T змогли відмовитися, і вони погодилися на неї після BIT дебатів і конфліктів. Вони погодилися купити продукт, не запитуючи, що знаходиться всередині чорної скриньки Google, і дозволили машинам вирішити, куди спрямовувати рекламу.

Як ця модель розширюється, щоб охопити майже весь Інтернет?

Це не просто нещасний випадок, який стався в Google. Це економічна логіка, яка була настільки успішною в Google, що всього за кілька років вона стала стандартною моделлю в технологічному секторі, а потім поширилася на звичайну економіку і стала домінуючою економічною логікою в наш час.

Між 2001 роком, коли ця логіка вперше почала систематично застосовуватися, і 2004 роком, коли Google вийшов на біржу (вперше ми побачили будь-яку з їхніх цифр), їхній дохід зріс на 3590%. Це експоненціальне зростання представляє те, що я називаю дивідендом спостереження. На той момент вони зламали код, і багато компаній знайшли шлях до монетизації. Тепер усі, починаючи від виробника телевізорів і закінчуючи компанією Ford Motor, почали говорити: «Нам потрібні дані». Кожен у кожному секторі гнаться за дивідендом стеження.

Є історія про найкращих молодих людей Google, які сиділи в офісі в 2001 році, намагаючись відповісти на запитання: «Що таке Google?» І ніхто не знайшов переконливого способу відповісти на це запитання. Зрештою Ларрі Пейдж почав ділитися речами, і він сказав, що якби у Google був бізнес, це була б особиста інформація. Люди збираються створювати стільки даних. Всюди будуть дешеві камери та датчики. Буде стільки даних про життя людей, що весь Human досвід можна буде шукати та індексувати. Він вважав, що особиста інформація — це гра. Капіталізм спостереження — це економічна логіка, заснована на односторонньому Secret крадіжці приватного досвіду як необмеженого джерела безкоштовної сировини, і ця безкоштовна сировина стає активом з нульовою вартістю [це означає, що після встановлення витрат її можна вільно виробляти]. Це можна перевести в поведінкові дані. Ці дані про поведінку тепер визнані власністю та збираються в нові складні екосистеми ланцюга поставок.

Це арка, якою рухається капіталізм спостереження: не лише для того, щоб знати все й використовувати це для прогнозів, але й для того, щоб активізувати Human поведінку.

Все живить ланцюг поставок. Не лише те, що ви робите в Інтернеті, але й усе на вашому телефоні, усі програми на вашому телефоні, і, як передбачив Пейдж, усі камери та датчики збирають дані. Усі дані про поведінку тепер визнані власністю та потрапляють у складні екосистеми, перш ніж передаватися на обчислювальні фабрики капіталізму спостереження, які називаються штучним інтелектом. [Вихід] — це обчислювальні продукти, які передбачають Human поведінку, які продаються на Ринки, так само як у нас є Ринки ф’ючерсів на свинячу шлунку чи ф’ючерси на нафту.

Що це означає для повсякденного життя людей?

Human ф'ючерсні Ринки мають конкурентну динаміку. Те, за що конкурують учасники та продавці на цих Ринки, – це впевненість. Вони продають впевненість своїм клієнтам, і найкращі прогнози WIN. Пару років тому ми мали певне уявлення про ці заводські центри з a витік документа Facebook у 2018 році. Документ показав, що в центрі штучного інтелекту Facebook щодня надходять трильйони точок даних і щосекунди створюється 6 мільйонів прогнозів поведінки. Отже, це такий масштаб, про який ми говоримо. Коли ми думаємо про конкуренцію на цих прогнозованих Ринки, і ви як би деконструюєте цю конкуренцію, ви починаєте дуже чітко бачити економічні імперативи, які діють тут.

ONE – це масштаб. Щоб штучний інтелект був ефективним у створенні прогнозів, йому потрібно багато даних. ONE – це розмах. Крім обсягу, потрібна різноманітність. Для цього потрібно звільнити людей від комп’ютерів, ноутбуків і вирушити у світ, змусити їх пересуватися по дому, в автомобілях, містами. Дайте їм маленький комп’ютер, вони можуть взяти його в кишеню, і він розкаже нам усе, що вони роблять. Ми назвемо це телефоном. Це економія масштабу.

Останнє Цікаве полягало в тому, що найкращі прогнозні дані надходять завдяки цифровому втручанню в поведінку людей і навчанню, як налаштовувати та спрямовувати їхню поведінку в напрямку, який максимізує силу їхніх прогнозів і, отже, максимізує результати для клієнтів. Це стало новою зоною експериментів. Масштаби видобутку величезні, але концептуально зрозумілі. Сфера застосування величезна, але вимагає багато винаходів. Facebook, наприклад, зараз працює над тим, як перекладати мозкові хвилі в мову.

Як ми насправді змінюємо поведінку в напрямку, що оптимізує потоки доходів? Це не так просто. Це нова зона експериментів, і тому компанії почали експериментувати з нею. Такі речі, як масштабні експерименти із зараженням у Facebook, і такі речі, як Pokemon Go від Google, гра доповненої реальності, яка експериментувала з тим, як переганяти людей через їхні міста, селища та села до закладів, які платили Niantic Labs, яка створила Pokemon Go і яка була відокремлена від Google, за гарантоване відвідування. Це точно така ж структура, як і Ринки онлайн-реклами, які платять за рейтинг кліків, і тепер у вас є справжнє підприємство, яке платить за гарантовану відвідуваність.

Дивіться також: Чому «культурна війна» біткойна має значення

Це те, що дослідники даних називають переходом від моніторингу до активації. Саме тоді ви маєте достатньо знань про машинну систему, щоб мати можливість дистанційно керувати нею та автоматизувати її. Ви можете змінювати параметри або робити все, що вам потрібно, віддалено, тому що зараз у вас є так багато інформації про систему, яка контролює активацію. Це арка, якою рухається капіталізм спостереження: не лише для того, щоб знати все й використовувати це для прогнозів, але й для того, щоб активізувати Human поведінку, соціальну поведінку та індивідуальну поведінку, щоб спрямовувати поведінку в оптимальному напрямку для прибутку.

Ми бачимо це в психологічно обґрунтований мікротаргетинг. Ми бачимо це у використанні винагород і покарань у реальному часі, які надсилаються через ваш телефон. Ми бачимо це через імпорт гейміфікації, щоб спрямовувати людей у ​​напрямку, який задовольняє комерційні результати. Прикладом цього був Pokemon Go. Справа в тому, що коли люди думають про ці проблеми, вони думають лише про цільову рекламу. Вони думають, що це лише реклама. Це вже не так. Йдеться про те, що ваша страхова компанія винагороджує та карає вас у режимі реального часу за тиск, який ваша нога чинить на педаль GAS . У режимі реального часу він може підвищувати або знижувати ваші премії залежно від вашої негайної поведінки.

Отже, яка кінцева гра в цьому сценарії? Ви згадуєте попередні експерименти Sidewalk Lab з Торонто як «розумним містом», яке обмінюється даними для отримання різноманітних привілеїв. Як це виглядає?

Такий експеримент замінює рішення, які громадяни приймають щодо того, як вони хочуть жити разом, які є будівельними блоками кожної демократії. Громадянин не має іншої ролі, окрім того, щоб бути частиною цієї більшої системи. І ці компанії кажуть, що якщо ви погодитесь надати нам усі свої дані та зробите своє життя повністю доступним для нас у всіх відношеннях, тоді ви матимете право на всі ці нові класні послуги.

Якщо ви виберете Політика конфіденційності і анонімність, ви будете виключені з пропозицій послуг. Ви T зможете скористатися перевагами нових транспортних систем, нових систем безпеки чи систем доставки їжі. Це діючі нагороди та покарання в реальному часі. Google говорив про використання даних для побудови балів репутації. Люди та компанії, які поводяться в межах алгоритмічних параметрів, отримують вищі бали репутації, і це дає їм перевагу, коли мова йде про банківські позики чи інші види послуг. Людей, які порушують алгоритмічні параметри, карають, оскільки вони виключені з таких стосунків і послуг, і вони T можуть покращити своє життя, тому що вони виключені.

Дивіться також: Децентралізація та що стаття 230 насправді означає для свободи слова

Це бачення майбутнього: приватна корпорація з непідзвітною владою. Це майбутнє, де ми T маємо великої демократизації інформації, яку ми очікували в цифрове століття, а якраз навпаки. Ми повертаємося до феодальної моделі з цими величезними концентраціями знань і цим новим видом влади.

Ця влада — це не солдати, які приходять до вас додому серед ночі і вивозять вас у ГУЛАГ. Це не насильство, а терор і вбивства. Це потужність, яка працює дистанційно через середовище цифрових приладів. Для всіх, хто вважає, що такі системи є лише предметом епізодів «Чорного дзеркала», перейдіть і прочитайте історію 20-го століття, коли весь Західний альянс знадобився, щоб дати відсіч ще одному типу тоталізаційної влади, яка хотіла тотального контролю над людьми та суспільством, і це був тоталітаризм. Це відрізняється від того, що він, як правило, приходить із капучіно, а не зі зброєю.

Радикальна байдужість полягає в максимізації потоків даних не тому, що це злі люди, а тому, що це примус цієї економічної логіки.

Як виконавчий указ Трампа, що атакує Розділ 230, який звільняє компанії від цивільної відповідальності за онлайн-контент, може вплинути на це, якщо взагалі?

Дезінформація є звичайним наслідком економічної логіки, яку ми щойно обговорювали. Це наслідок імперативів економії масштабу та економії масштабу. Усі системи були розроблені з самого початку, щоб максимізувати потоки в ланцюзі поставок. Якщо говорити евфемістичною мовою капіталістів-наглядів, то це залучення. У цій економічній логіці немає місця для оцінки якості постачання. Це T . Масштаб має значення. Сфера має значення. Активація, яка дозволяє підвищити точність передбачення, має значення. Ось і все.

Це те, що я називаю радикальною байдужістю. Нам T , щасливі ви чи сумні. Ми просто дбаємо про те, щоб ми могли отримати дані. Нас T хвилює, чи є у вас рак, якщо ви одружуєтеся чи плануєте терористичний напад, нам важливо лише те, що ми отримуємо дані. Радикальна байдужість полягає в максимізації потоків даних не тому, що це злі люди, а тому, що це примус цієї економічної логіки. Поки ми не перервемо та не оголосимо цю економічну логіку поза законом, у нас буде дезінформація.

Природа Human така, що якщо ти їдеш дорогою, і трапилася автомобільна аварія, ти зупинишся і подивишся. Якщо ви їдете по дорозі, а там стоїть гарна верба, ви KEEP їхати. Виявилося, що насильницький, суперечливий, ненависті, розпалюючий набій і брехливий контент змушує людей зупинятися і дивитися. Ось і розбилася машина.

Оскільки системи створені для максимізації пропозиції, а також тому, що люди зупиняються й дивляться на уламки автомобілів, це створює армії ботів і тролів. Це містер Трамп.

У розділі 230 не було можливості передбачити капіталізм спостереження. Немає стимулів усувати погані речі та масових стимулів KEEP заповненість ланцюжків поставок. Виявляється, Інтернет – це не дошка оголошень, як задумували творці 230-го розділу. Інтернет більше схожий на кровотік глобальної політики. Завдяки економічним імперативам капіталізму спостереження люди, які володіють і керують Інтернетом, стимулюються дозволяти будь-кому вводити будь-яку отруту в кров без протиотрути. Ось де ми сьогодні.

Отже, чи потребує розгляду Розділ 230? Так, але це потребує ретельного вивчення в рамках більшої дискусії про законодавчі рамки, регулятивні парадигми, хартії прав або інститути, які нам потрібні, щоб зробити Інтернет сумісним з демократією.

Це третє десятиліття цифрового століття. Ми повинні це розібратися. Містер Трамп йде разом і привертає увагу до розділу 230, який ONE було б подумати як хорошу річ, але зараз ми маємо другий удар хлистом. Цей удар полягає в тому, що містер Трамп бореться за право вводити отруту до глобального кровотоку. Він бореться за право брехати. Він бореться за право вводити неправдиву інформацію в політичне тіло.

Нам потрібно побудувати верховенство права, сумісне з демократією, яке вирішує ці CORE питання капіталізму спостереження та того, хто володіє та керує Інтернетом. Ми повинні зробити це, щоб зробити Інтернет безпечним для правди. Небезпечно для брехні. Є сфери, де є Погляди , але є сфери, де є факти. Зараз ми маємо глобальний кровотік, у якому немає жодної інституційної діяльності, яка перебуває під демократичним захистом і демократичним наглядом. Це зробило наші демократії неспроможними.