Фрэнсис Хауген: информер Facebook

Вам T нравится Facebook. Демократам T нравится Facebook. Республиканцам T нравится Facebook. Это, возможно, ONE , в чем большинство в Соединенных Штатах согласны.

Но «проблема Facebook» наверняка хуже, чем вы думаете.

Это CORE сообщение Фрэнсис Хауген, бывшего менеджера проектов Facebook, которая в сентябре 2021 года раскрыла более 20 000 страниц документов, проливающих свет на самые темные места в сети. Доказательства легли в основу репортажа The Wall Street Journal «Файлы Facebook», в котором говорится, что компания, чье корпоративное название теперь Meta (FB), «знает во всех подробностях, что ее платформы изобилуют недостатками, которые наносят вред, часто способами, которые полностью понятны только компании».

Эта статья является частьюДорога к консенсусу, серия, посвященная спикерам и важным идеям, которые они будут обсуждатьКонсенсус 2022, фестиваль года по версии CoinDesk, 9–12 июня в Остине, штат Техас.Словарь больше.

Вот лишь некоторые из убийственных выводов: алгоритмы Facebook намеренно сделали сайт «более злым», чтобы повысить вовлеченность, Facebook намеренно пытался привлечь подростков (хотя минимальный возраст — 13 лет), и Facebook знал, что Instagram токсичен для девочек-подростков.

Затем Хауген дала показания в Конгрессе США, где оназаряженныйчто «продукты Facebook вредят детям, разжигают разногласия и ослабляют нашу демократию». Живя в Пуэрто-Рико, она теперь называет себя «сторонницей ответственности и прозрачности в социальных сетях», недавно написавэссе для The New York Timesвосхваляет европейский Закон о цифровых услугах, который, по ее мнению, «впервые приоткроет завесу тайны над алгоритмами, которые выбирают, что и когда мы видим в наших лентах». Она рада Закону о цифровых услугах, но знает, что это только начало.

ONE из возможных решений?

Блокчейн.

В недавнем звонке в Zoom Хауген предложил захватывающий мысленный эксперимент: что, если бы Facebook был основан как децентрализованная автономная организация? «Если бы существовала DAO, которая регулировала Facebook, — если бы она принадлежала пользователям, — я T думаю, что мы бы сказали: «Эй, KEEP добавлять в наши аккаунты случайные [вещи], о которых мы T просили», — говорит Хауген.

Она подозревает, что «распределенный» тип социальной сети — ONE , который действительно связан с нашими друзьями и семьей — может предложить лучший путь вперед. Хауген также объясняет, почему проблема более глобальна, чем вы думаете, что она хочет видеть в качестве решения (подсказка: это не очень хорошие новости для генерального директора Марка Цукерберга) и почему покупка ELON Маском Twitter (TWTR) может стать WIN для социальных сетей.

Итак, прошло уже более семи месяцев с момента «Файлов Facebook». Что сегодня кажется вам самой большой проблемой?

Я бы сказал, что это связано с алгоритмом ранжирования. Так вот, в марте 2021 года Ник Клегг [бывший заместитель PRIME министра Великобритании и вице-президент по глобальным вопросам в Meta] — о, благослови его Господь — выпустил статью под названием «Танго для двоих». Я настоятельно рекомендую вам иди и прочитай эту редакционную статью. Это произведение искусства.

Он говорит [и я перефразирую]: «Эй, вы KEEP обвинять нас в том, что видите на Facebook, но давайте будем честны. Вы выбрали своих друзей, вы выбрали свои интересы. Для танго нужны двое. Смотрите, куда вы указываете пальцем, потому что четыре пальца указывают на вас».

Полагаю, вы T находите это особенно убедительным!

Поговорим о виктимизации. Он сказал это, зная, что исследователи Facebook проводили один и тот же эксперимент снова и снова, где они брали пустые аккаунты и следовали умеренным интересам. В случае с Instagram они следовали за аккаунтами о здоровом питании. И давайте будем честны, мы все могли бы питаться немного здоровее.

Или гораздо полезнее, как в моем случае.

И все, что [люди] делали, это нажимали на первые пять или десять вещей каждый день и Социальные сети на любые предложенные хэштеги. В течение двух-трех недель им активно отправляли контент в поддержку анорексии и активный контент о самоповреждении. Не было никакого «танго двух людей». Это был просто эскалатор рейтинга на основе вовлеченности.

Можете ли вы объяснить, почему это так важно?

Я приведу вам небольшой пример. Так вот, я давал интервью журналисту, может быть, две недели назад, и у него только что родился ребенок, и он создал новый аккаунт для своего ребенка. Это очень милый ребенок. Единственное, что они публикуют в этом аккаунте, это милые детские фотографии. По ONE фотографии в день. У ребенка нет друзей, кроме других милых детей, верно?

Честно говоря, это звучит как довольно хороший рассказ.

Они публикуют только милые детские фотографии. И все же 10% его ленты — это страдающие дети. Это дети в больнице, трубки, выходящие из них. Это серьезно деформированные дети. Умирающие дети. Что, черт возьми, превращает вас из милого ребенка в искалеченного ребенка?

Читать дальше: Дэвид З. Моррис - Facebook крадет еще одну Криптo идею для своего бессмысленного ребрендинга

Потому что все, что знает алгоритм, это то, что есть такая штука, как младенцы, и что некоторый контент о детях в итоге получает большее вовлечение, чем другой контент. Оказывается, что даже если он не оставил комментарий ни к ONE из этих фотографий, и он не поставил лайк ни к ONE из этих фотографий, он, вероятно, зацикливается на них.

Это чертовски тревожно.

Подумайте, что это делает в других контекстах, верно? В случае с подростками это приводит к тому, что дети морят себя голодом или убивают себя. В случае со взрослыми это толкает людей к этим крайностям. Когда они проводили эксперимент с левоцентристской [точкой зрения], их подталкивали к тому, чтобы убить республиканцев. Когда они делали это с правоцентристской, их подталкивали к геноциду белых. И это не на месячном горизонте. Это на недельном горизонте.

Это ужасно.

Подумайте, что это делает в обществе. И вот тут становится действительно страшно. Вот почему я просыпаюсь каждое утро. Версия Facebook, с которой мы взаимодействуем в Соединенных Штатах, — это самая чистая, самая стерилизованная версия Facebook в мире.

В 2020 году они потратили 87% своего бюджета на дезинформацию на английском языке, даже если только 9% пользователей говорили по-английски. Большинство людей не знают, что в мире есть по крайней мере миллиард человек — если не 2 миллиарда — для которых интернет равен Facebook.

2 миллиарда?

Facebook пришел в их страны и из-за чего-то под названием Free Basics они сказали: «Эй, если вы пользуетесь Facebook, ваши данные бесплатны. Если вы пользуетесь чем-либо в открытом Интернете, вы будете платить за данные сами».

Так что подумайте, что делает эта рыночная динамика с точки зрения подталкивания всех на Facebook. Теперь у вас есть ситуация, когда это очень хрупкая страна. Самые хрупкие места в мире часто лингвистически разнообразны, они говорят на меньших языках, и теперь бизнес-модель Facebook T может поддерживать предоставление вам систем безопасности.

Когда мы фокусируемся на цензуре, вместо того, чтобы сосредоточиться на безопасности продукта, мы по сути оставляем позади людей, которые находятся в самых уязвимых местах на Земле. И эти люди T могут покинуть Facebook. Они T могут дать согласие.

Какую роль блокчейн во всем этом вы видите как возможное решение?

Больше всего меня волнует, [что если бы] в 2008 году Facebook управляла DAO? Чтобы было ясно, проблема Facebook не в вашей семье или друзьях.

Facebook проводил эксперименты, в ходе которых [он] просто давал вам больше контента, на который вы дали согласие. Это контент от людей, которых вы действительно подружились, страниц, на которые вы действительно подписались, групп, в которые вы действительно вступили. Когда [он] делает это бесплатно, вы получаете меньше разжигающих ненависть высказываний, меньше наготы, меньше насилия. Они просто говорят: «Эй, давайте доверимся вашему суждению и дадим вам больше того, о чем вы просите». Это не ракетостроение.

[Но] Facebook приходилось заставлять вас потреблять больше контента каждый квартал с 2008 года, а семья и друзья подвели Facebook. Facebook нужно было, чтобы они KEEP производить все больше и больше контента. А когда этого T произошло, они начали делать все эти странные маленькие хаки.

Так как же сюда может вписаться DAO?

Если бы существовала DAO, регулирующая Facebook, — если бы она принадлежала пользователям, — я T думаю, что мы бы сказали: «Эй, KEEP загружать в наши аккаунты всякий [хлам], о котором мы T просили». У нас все еще было бы что-то вроде Facebook образца 2008 года. Поэтому я с осторожным оптимизмом смотрю на то, что изучение различных бизнес-моделей может иметь потенциал.

Второстепенная вещь, я думаю, было бы проще запустить версию Facebook, которая была бы о нашей семье и друзьях. Семья и друзья не являются проблемой. Система усиления, которая использует алгоритмы, чтобы направлять наше внимание, — вот в чем проблема.

Подкаст:Что патенты Facebook говорят нам о борьбе за душу Метавселенной

Знаете, если бы вы могли сделать это распределенным способом и [построить] систему, очень похожую на Facebook, но в которой будут участвовать только ваша семья и друзья, я думаю, это было бы гораздо безопаснее.

Как вы думаете, что в конечном итоге необходимо для решения проблемы Facebook?

Я думаю, что это, как минимум, проблема корпоративного управления. ONE из основных проблем Facebook заключается в том, что [он] T признает власть. [Он] T может признавать ответственность. Например, давайте рассмотрим ситуацию, когда старшеклассники получают переломы костей, потому что дети затевают драки, чтобы выложить их в Instagram. Задумайтесь об этом на мгновение. Что нужно сделать, чтобы Instagram удалил этот аккаунт? Почему они его T удаляют?

Они T могут признать ответственность. Так что если только не произойдет серьезная смена руководства… Вчера я выступал на конференции по рискам, и генеральный директор торговой организации сказал: «Дело не в контрольных списках. Дело не в том, чтобы убедиться, что кто-то заполняет форму. Дело в культуре ответственности». И по сути, у Facebook отсутствует культура ответственности.

Что вы надеетесь увидеть?

Я надеюсь, что [Комиссия по ценным бумагам и биржам США] примет меры. И ONE из вещей, которую мы собираемся попросить, — это чтобы они потребовали от Марка [Цукерберга] продать часть своих акций. Это позволило бы акционерам вмешаться. Так что это моя большая надежда. Кто знает, произойдет это или нет?

И я думаю, что принятие DSA [Закона о цифровых услугах] означает, что мы сможем начать разрабатывать решения.

Приведите пример?

Я дам вам ONE , который работает на всех языках. Нужно ли вам нажимать на LINK , чтобы поделиться ею снова?

Это имеет большой смысл.

Twitter требует от вас этого, Facebook T требует. И это сокращает дезинформацию на 10-15%.

Говоря о Twitter, вы как-то предположили, что частный Twitter, принадлежащий [генеральному директору Tesla (TSLA) ELON] Маску, на самом деле может быть безопаснее. Почему?

Помните, как я говорил о том, что если бы у Facebook был DAO, мы бы, вероятно, T получили кучу [дерьма], влитого в наши аккаунты? Он бы больше касался нашей семьи и друзей. Есть много решений, не основанных на контенте.

Что вы имеете в виду?

Это означает, что нужно сосредоточиться на безопасности продукта, а не на магических ИИ [искусственном интеллекте], которые вытаскивают вещи [как форму цензуры]. Но единственный способ сделать это — это если вы готовы пожертвовать небольшими кусочками прибыли и небольшим количеством пользователей. Поэтому отчасти я готов болеть за ELON , потому что первое, что он сказал публично, это то, что мы убираем ботов.

То, о чем большинство людей T знают – и это может быть интересно для этой конкретной [Криптo] аудитории – это то, что когда мы говорим о долларах, у нас есть очень подробные законы бухгалтерского учета, верно? Так что, если вы хотите сказать, что у меня есть доллар или у меня есть обязательство, [есть] очень конкретные правила, когда вы должны признавать эти вещи.

У нас T похожего набора правил для того, что есть человек, но ценности компаний невероятно зависят от количества пользователей, которых они, по их словам, имеют. И я разговаривал с людьми, которые управляют крупнейшими капчив мире, и они говорят, что есть сайты, где 90% зарегистрированных пользователей являются ботами.

Проклятие.

Правильно. И эти сайты намеренно выбирают очень слабые настройки капчи, потому что хотят иметь большие цифры, но главная угроза для нас — это боты. И ELON сказал: «Мы воспользуемся тем фактом, что нам больше T нужно сообщать количество пользователей, чтобы стереть все с чистого листа».

Давайте закончим на личной ноте. То, что вы сделали, было невероятно смелым. Если вы T против, поделитесь, каковы были Для вас последствия?

Знаешь, это интересно. Люди представляют себе скрежет зубовный, драму, все эти вещи. Но у меня был на удивление спокойный переход.

Я удивлен и рад это слышать.

Думаю, меня интервьюируют гораздо чаще. Но в Пуэрто-Рико меня ONE не узнает, и это здорово. Даже в сети это безумие. Думаю, мне в личных сообщениях прислали, наверное, штук 15-20 подлых вещей. Так что если хочешь быть первым… [Оба смеются.]

И что я нахожу примечательным, так это то, что [часто] женщины, которые являются публичными фигурами, подвергаются действительно жестоким сексуальным домогательствам. Я даже T подвергаюсь сексуальным домогательствам, что шокирует меня, как человека, который работал в четырех социальных сетях. Так что я T могу жаловаться. Это было довольно спокойно.

Держим кулачки, чтобы так и оставалось. Спасибо за то, что делаете это, и увидимся на нашей новой версии DAO на Facebook!