«Радикальное безразличие»: как капитализм наблюдения завладел нашей жизнью

Когда Шошана Зубофф перезванивает мне с опозданием в 15 минут, это происходит потому, что ее предыдущий звонок с организацией в Израиле оборвался на полпути, и им потребовалось некоторое время, чтобы восстановить связь. Такова опасность функционирования в карантине, даже когда технологические компании оказывают большее влияние, чем когда-либо.

Вместо того, чтобы летом поразмышлять и спланировать свою следующую книгу, как она намеревалась, Зубофф была очень занята людьми, желающими поговорить с ней и провести виртуальные Мероприятия. Это одна из причин того, что в течение последних четырех месяцев мы пытались запланировать звонок, но дата постоянно откладывалась.

Пока мы говорим по телефону, на заднем плане щебечут птицы, часть атмосферы дома Зубофф в деревне. Она говорит, что ей повезло быть там, учитывая трудности, с которыми сталкиваются ее друзья, балансируя между COVID-19 и жизнью в городах. Птицы перебивают антиутопический звон фургонов с мороженым, колесящих по Нью-Йорку в поисках клиентов во время пандемии.

«Жизнь во время пандемии отнимает так много времени, — говорит она. — Между тем, чтобы придумать, как купить продукты, и всем остальным, это так кропотливо».

Смотрите также:В битве Трампа против Twitter децентрализованные технологии могут WIN

Зубофф является автором oж "Эпоха капитализма наблюдения: борьба за будущее Human на новом рубеже власти» и почетный профессор Чарльз Эдвард Уилсон в Гарвардской школе бизнеса. Зубофф говорит, что книга (объемом 660 страниц) «обобщает годы исследований и размышлений, чтобы раскрыть мир, в котором пользователи Технологии не являются ни клиентами, ни сотрудниками, ни продуктами. Вместо этого они являются сырьем для новых процедур производства и продаж, которые определяют совершенно новый экономический порядок: экономику наблюдения».

Зубофф и я говорим о структуре капитализма наблюдения. Но я хочу услышать ее мнение о бурлящих протестах в США и президенте Дональде Трампеуказ о разделе 230, закон, который предоставляет компаниям социальных сетей иммунитет от ответственности за контент, с которым президент не согласен. Кажется, сейчас самое время подумать о контексте, который Интернет придает этим Мероприятия, и кто его контролирует.

Эта беседа была отредактирована для большей ясности и краткости.

Опишите капитализм наблюдения и что он означает для людей, которые, возможно, с ним не знакомы.

Капитализм наблюдения был изобретен в Google между 2000 и 2001 годами в ответ на финансовую катастрофу во время краха доткомов. Они были самыми умными ребятами с лучшей поисковой системой и самыми шикарными венчурными инвесторами. Но даже они попали под прицел, когда их инвесторы угрожали уйти. В то время они решили, что им нужно найти быстрый путь к монетизации, и это должно было произойти через рекламу, которую они отвергли ранее.

Они обнаружили, что оставшиеся поведенческие данные на их серверах, называемые истощением данных, на самом деле были полны богатых предиктивных сигналов. И эти предиктивные сигналы просто лежали неиспользованными, больше, чем было необходимо для улучшения продукта или услуги. Я называю эти поведенческие «излишки» данных. Именно путем обучения своих и без того весьма сложных аналитических возможностей на этих избыточных потоках и извлечения этих предиктивных сигналов, при использовании их для анализа, они обнаружили, что могут предсказать, на какую рекламу, скорее всего, нажмет кто-то, и перейдет ли он на веб-сайт. Это стало тем, что мы теперь называем «показателем кликабельности».

Показатель кликабельности — это вычислительный продукт, который предсказывает фрагмент Human поведения. Оказалось, что существует весьма существенный рынок бизнес-клиентов, которые хотели знать, что будут делать клиенты, которые хотели поведенческих прогнозов поведения клиентов и поведения пользователей.

Итак, рекламодатели и их клиенты отказались от традиционных отношений между продуктом и его рекламой, когда компания решает, где размещать свою рекламу, основываясь на соответствии ценностям своего бренда. Даже первые годы интернет-рекламы сохраняют эту преемственность. Но Google сделал им предложение, от которого они T смогли отказаться, и они согласились на него после довольно BIT дебатов и конфликтов. Они согласились купить продукт, не спрашивая, что находится внутри черного ящика Google, и позволили машинам решать, куда показывать рекламу.

Каким образом эта модель расширяется и охватывает почти весь Интернет?

Это не просто случайность, произошедшая в Google. Это экономическая логика, которая была настолько успешной в Google, что всего за несколько лет она стала моделью по умолчанию во всем технологическом секторе, а затем распространилась на обычную экономику и стала доминирующей экономической логикой в наше время.

Между 2001 годом, когда эта логика впервые начала систематически применяться, и 2004 годом, когда Google вышла на биржу (впервые мы увидели какие-либо их цифры), их доход увеличился на 3590%. Этот экспоненциальный рост представляет собой то, что я называю дивидендами от наблюдения. В тот момент они взломали код, и многие компании нашли путь к монетизации. Теперь все, от производителя телевизоров до Ford Motor Company, начали говорить: «К черту продукт, нам нужны данные». Все в каждом секторе гонятся за дивидендами от наблюдения.

Есть история о том, как в 2001 году лучшие молодые люди из Google сидели в офисе и пытались ответить на вопрос: «Что такое Google?». И никто не мог дать убедительный ответ на этот вопрос. Ларри Пейдж в конечном итоге начал делиться вещами, и он сказал, что если бы у Google был бизнес, то это была бы личная информация. Люди будут производить так много данных. Повсюду будут дешевые камеры и датчики. Будет так много данных о жизни людей, что весь Human опыт будет доступен для поиска и индексации. У него было видение, что личная информация — это игра. Капитализм наблюдения — это экономическая логика, основанная на одностороннем, Secret воровстве личного опыта как безграничного источника бесплатного сырья, и это бесплатное сырье становится активом с нулевой стоимостью [что означает, что после затрат на установку его можно бесплатно производить]. Его можно перевести в поведенческие данные. Эти поведенческие данные теперь объявляются собственностью и собираются в новые сложные экосистемы цепочек поставок.

Это дуга, по которой движется капитализм наблюдения: не только знать все и использовать это для прогнозирования, но и влиять на поведение Human .

Все питает цепочку поставок. Не только то, что вы делаете онлайн, но и все на вашем телефоне, все приложения на вашем телефоне, и, как предсказывал Пейдж, все камеры и датчики собирают данные. Все поведенческие данные теперь заявлены как собственность и поступают в сложные экосистемы, прежде чем будут переданы на вычислительные фабрики капитализма наблюдения, называемые искусственным интеллектом. [Выход] — это вычислительные продукты, которые предсказывают поведение Human , которые продаются на Рынки, так же, как у нас есть Рынки фьючерсов на свиную грудинку или нефтяные фьючерсы.

Что это означает для повседневной жизни людей?

Рынки Human фьючерсов имеют конкурентную динамику. То, за что борются участники и продавцы на этих Рынки, — это определенность. Они продают определенность своим клиентам, и WIN лучшие прогнозы. У нас было некоторое представление об этих заводских центрах пару лет назад с утечка документа Facebook в 2018 году. В документе говорится, что в центре искусственного интеллекта Facebook ежедневно усваиваются триллионы точек данных, а каждую секунду производится 6 миллионов прогнозов поведения. Так что это тот масштаб, о котором мы говорим. Когда мы думаем о конкуренции на этих Рынки прогнозирования и как бы деконструируем эту конкуренцию, вы начинаете очень ясно видеть экономические императивы, действующие здесь.

ONE — масштаб. Чтобы ИИ был эффективным в создании прогнозов, ему нужно много данных. Второе — ONE . В дополнение к объему, вам нужно разнообразие. Это включает в себя отвлечение людей от их настольных компьютеров, от их ноутбуков и выход в мир, перемещение по дому, в их автомобилях, по их городам. Дайте им маленький компьютер, они могут положить его в карман, и он расскажет нам обо всем, что они делают. Мы назовем его телефоном. Это экономия за счет охвата.

Последнее Истории состояло в том, что самые лучшие предиктивные данные получаются при цифровом вмешательстве в поведение людей и изучении того, как настраивать и направлять их поведение в направлении, которое максимизирует силу их прогнозов и, следовательно, максимизирует результаты для клиентов. Это стало новой зоной экспериментов. Масштаб извлечения огромен, но концептуально прост. Область действия огромна, но потребовала много изобретений. Например, Facebook сейчас работает над тем, как перевести мозговые волны в язык.

Как мы на самом деле изменяем поведение в направлении, которое оптимизирует потоки доходов? Это не так просто. Это новая зона экспериментов, и поэтому компании начали работать, экспериментируя с ней. Такие вещи, как масштабные эксперименты Facebook по заражению, и такие вещи, как Pokemon Go от Google, игра дополненной реальности, которая экспериментировала с тем, как гнать людей через их города, поселки и деревни в заведения, которые платили Niantic Labs, создавшей Pokemon Go и которая отделилась от Google, за гарантированную посещаемость. Это точно такая же структура, как и Рынки рынка онлайн-рекламы, которые платят за рейтинг кликов, и теперь у вас есть реальное заведение, платящее за гарантированную посещаемость.

Смотрите также:Почему «культурная война» биткоина имеет значение

Это то, что специалисты по данным называют переходом от мониторинга к приведению в действие. Это когда у вас действительно достаточно знаний о системе машины, чтобы иметь возможность управлять ею удаленно и автоматизировать ее. Вы можете изменять параметры или делать все, что вам нужно, удаленно, потому что теперь у вас так много информации о системе, контролирующей приведение в действие. Это дуга, по которой движется капитализм наблюдения: не только знать все и использовать это для прогнозирования, но и приводить в действие Human поведение, социальное поведение и индивидуальное поведение, чтобы направлять поведение в направлении, оптимальном для получения дохода.

Мы видим это впсихологически обоснованный микротаргетинг. Мы видим это в реальном времени использования вознаграждений и наказаний, доставляемых через ваш телефон. Мы видим это через импорт геймификации, чтобы направить людей в направлении, которое удовлетворяет коммерческим результатам. Pokemon Go был примером этого. Дело в том, что когда люди думают об этих проблемах, они просто думают о целевой рекламе. Они думают, что это просто реклама. Это больше не так. Это ваша страховая компания вознаграждает и наказывает вас в реальном времени за величину давления, которое ваша нога оказывает на педаль GAS . В реальном времени она может повышать или понижать ваши премии в зависимости от вашего непосредственного поведения.

Так какова же конечная цель этого сценария? Вы ссылаетесь на предыдущий эксперимент Sidewalk Lab с Торонто как «умным городом», который обменивается данными за всевозможные привилегии. Как это выглядит?

Такой эксперимент заменяет решения, которые граждане принимают о том, как они хотят жить вместе, что является строительными блоками любой демократии. У гражданина нет никакой другой роли, кроме как быть частью этой более крупной системы. И эти компании говорят, что если вы согласитесь предоставить нам все свои данные и сделать свою жизнь полностью доступной для нас во всех отношениях, то вы будете иметь право на все эти крутые новые услуги.

Если вы выберете Политика конфиденциальности и анонимность, вы будете исключены из предлагаемых услуг. Вы T сможете воспользоваться преимуществами новых транзитных систем, новых систем безопасности или систем доставки еды. Это поощрения и наказания в реальном времени в действии. Googleговорили оиспользование данных для построения оценок репутации. Люди и компании, которые ведут себя в рамках алгоритмических параметров, получают более высокие оценки репутации, и это дает им привилегии, когда дело касается банковских кредитов или других видов услуг. Люди, которые нарушают алгоритмические параметры, наказываются, потому что они исключаются из этих видов отношений и услуг, и они T могут продвигать свою жизнь, потому что они исключены.

Смотрите также:Децентрализация и что на самом деле означает раздел 230 для свободы слова

Это видение будущего: частная корпорация с необъяснимой властью. Это будущее, в котором у нас T той великой демократизации информации, которую мы ожидали в цифровом веке, а как раз наоборот. Мы возвращаемся к феодальной модели с этими огромными концентрациями знаний и этим новым видом власти.

Эта сила — не солдаты, которые приходят к вам домой посреди ночи и увозят вас в ГУЛАГ. Это не насилие, террор и убийство. Это сила, которая действует удаленно через среду цифровых приборов. Для тех, кто думает, что такие системы — это только тема эпизодов «Черного зеркала», идите и почитайте историю 20-го века, когда потребовался весь западный альянс, чтобы дать отпор другому виду тотальной власти, которая хотела полного контроля над людьми и обществом, и это был тоталитаризм. Это отличается тем, что обычно приходит с капучино, а не с пистолетом.

Радикальное безразличие заключается в максимизации потоков данных не потому, что это злые люди, а потому, что таковы требования экономической логики.

Как указ Трампа, критикующий раздел 230, который освобождает компании от гражданской ответственности за онлайн-контент, может повлиять на это, если вообще может?

Дезинформация — это обычное следствие экономической логики, которую мы только что обсудили. Это следствие императивов экономии масштаба и экономии охвата. Все системы изначально были спроектированы для максимизации потоков в цепочке поставок. На эвфемистическом языке капиталистов-наблюдателей это взаимодействие. В этой экономической логике нет места для оценки качества поставок. Это T имеет значения. Масштаб имеет значение. Область действия имеет значение. Приведение в действие, позволяющее нам повысить точность прогнозирования, имеет значение. Вот и все.

Вот что я называю радикальным безразличием. Нам T , счастливы вы или грустны. Нас просто волнует, что мы можем получить данные. Нас T равно, есть ли у вас рак, собираетесь ли вы жениться или планируете ли вы теракт, нас просто волнует, что мы можем получить данные. Радикальное безразличие заключается в максимизации потоков данных, не потому что это злые люди, а потому что это принуждение этой экономической логики. Пока мы не прервем и не запретим эту экономическую логику, у нас будет дезинформация.

Природа Human такова, что если вы едете по дороге и видите автомобильную аварию, вы остановитесь и посмотрите. Если вы едете по дороге и видите прекрасную иву, вы KEEP ехать. Оказывается, что жестокий, спорный, ненавистнический, подстрекательский и лживый контент заставляет людей останавливаться и смотреть. Это и есть автомобильная авария.

Поскольку системы спроектированы так, чтобы максимизировать предложение, и поскольку люди останавливаются и смотрят на автомобильные аварии, это позволяет армиям ботов и троллей. Это мистер Трамп.

Раздел 230 не мог предвидеть капитализм наблюдения. Нет стимула уничтожать плохие вещи и есть огромные стимулы KEEP цепочки поставок полными. Оказывается, интернет — это не доска объявлений, как представляли себе создатели Раздела 230. Интернет больше похож на кровеносную систему мирового политического тела. Благодаря экономическим императивам капитализма наблюдения люди, которые владеют и управляют интернетом, мотивированы позволять кому угодно вводить в кровоток любой яд без противоядия. Вот где мы находимся сегодня.

Так нуждается ли Раздел 230 в проверке? Да, но он нуждается в проверке в рамках более широкой дискуссии о законодательных рамках, парадигмах регулирования, хартиях прав или институтах, которые нам нужны, чтобы сделать Интернет совместимым с демократией.

Это третье десятилетие цифрового века. Мы должны это понять. Г-н Трамп приходит и освещает Раздел 230, который, как ONE было бы подумать, был хорошим делом, но теперь у нас есть второй удар. Этот удар заключается в том, что г-н Трамп борется за право по своему желанию вводить яд в глобальную систему кровообращения. Он борется за право лгать. Он борется за право вводить контрфактическую информацию в политическое тело.

Нам нужно построить верховенство права, совместимое с демократией, которое решает эти CORE вопросы капитализма наблюдения и того, кто владеет и управляет интернетом. Нам нужно сделать это так, чтобы сделать интернет безопасным для правды. Не безопасным для лжи. Есть области, где есть Мнение , но есть области, где есть факты. Теперь у нас есть глобальный кровоток, в котором нет институциональной деятельности, которая находилась бы под демократической защитой и демократическим надзором. Это сделало наши демократии несостоятельными.