Frances Haugen : Informatrice Facebook

Vous n'aimez T Facebook. Les Démocrates n'aiment T Facebook. Les Républicains T Facebook. C'est peut-être le ONE point sur lequel la plupart des Américains s'accordent.

Mais le « problème Facebook » est presque certainement pire que vous ne le pensez.

C'est le message CORE de Frances Haugen, ancienne responsable de projets chez Facebook, qui, en septembre 2021, a dévoilé plus de 20 000 pages de documents mettant en lumière les espaces numériques les plus sombres. Ces preuves ont alimenté les reportages du Wall Street Journal sur « […]Les fichiers Facebook, qui a révélé que l'entreprise, dont le nom commercial est désormais Meta (FB), « sait, dans les moindres détails, que ses plateformes sont criblées de défauts qui causent des dommages, souvent d'une manière que seule l'entreprise comprend pleinement. »

Cet article fait partie deLa route vers le consensus, une série mettant en lumière les intervenants et les grandes idées qu'ils discuteront lorsConsensus 2022Le festival de l'année de CoinDesk du 9 au 12 juin à Austin, Texas.Guides encore plus.

Voici quelques-uns des enseignements accablants : les algorithmes de Facebook ont sciemment rendu le site « plus en colère » pour stimuler l’engagement, Facebook essayait intentionnellement de recruter des préadolescents (même si l’âge minimum est de 13 ans) et Facebook savait qu’Instagram était toxique pour les adolescentes.

Haugen a ensuite témoigné devant le Congrès américain, où ellechargéque « les produits Facebook nuisent aux enfants, attisent les divisions et affaiblissent notre démocratie. » Basée à Porto Rico, elle se décrit désormais comme une « défenseure de la responsabilité et de la transparence sur les réseaux sociaux », écrivant récemment unessai pour le New York TimesElle salue la loi européenne sur les services numériques, qui, selon elle, « lèvera pour la première fois le voile sur les algorithmes qui déterminent ce que nous voyons et quand nous le voyons dans nos flux ». Elle se réjouit de la loi sur les services numériques, mais sait que ce n'est qu'un début.

Une solution possible ?

La blockchain.

Lors d'un récent appel Zoom, Haugen a suggéré une expérience de pensée saisissante : et si Facebook avait été fondé comme une organisation autonome décentralisée ? « S'il y avait eu une DAO réglementant Facebook – si elle avait appartenu aux utilisateurs – je ne pense T que nous aurions dit : "Hé, KEEP à mettre des choses aléatoires sur nos comptes sans que nous les T demandées », explique Haugen.

Elle soupçonne qu'un réseau social « distribué », véritablement tissé entre nos proches, pourrait offrir une meilleure solution. Haugen explique également pourquoi le problème est plus mondial qu'on ne le pense, ce qu'elle souhaite voir comme solution (indice : ce n'est pas une bonne nouvelle pour le PDG Mark Zuckerberg) et pourquoi le rachat de Twitter (TWTR) par ELON Musk pourrait être une WIN pour les réseaux sociaux.

Cela fait donc plus de sept mois que les « Facebook Files » ont été publiés. Quel est, selon vous, le plus gros problème aujourd'hui ?

Je dirais que c'est une question de classement par algorithmes. En mars 2021, Nick Clegg [ancien vice- PRIME ministre du Royaume-Uni et vice-président des affaires internationales chez Meta] – oh, Dieu le bénisse – a publié un article intitulé « Il faut être deux pour danser le tango ». Je vous encourage vivement à le faire. va lire cet éditorialC'est une œuvre d'art.

Il dit [et je paraphrase] : « Hé, vous KEEP de nous reprocher ce que vous voyez sur Facebook, mais soyons honnêtes. Vous avez choisi vos amis, vous avez choisi vos centres d'intérêt. Il faut être deux pour danser le tango. Faites attention où vous pointez ce doigt, car quatre doigts vous pointent. »

Je suppose que vous ne trouvez T cela particulièrement convaincant !

Parlons de culpabilisation des victimes. Il disait cela tout en sachant que les chercheurs de Facebook avaient répété la même expérience à maintes reprises : ils prenaient des comptes vierges et suivaient des centres d'intérêt modérés. Dans le cas d'Instagram, ils suivaient des comptes de personnes pratiquant une alimentation saine. Et soyons honnêtes, nous pourrions tous manger un peu plus sainement.

Ou beaucoup plus sain, dans mon cas.

Et tout ce que les gens faisaient, c'était cliquer sur les cinq ou dix premières choses chaque jour et Réseaux sociaux les hashtags suggérés. En deux à trois semaines, ils recevaient du contenu pro-anorexie et des propos sur l'automutilation. Il n'y avait pas de « chagrin d'amour ». C'était juste un système de classement basé sur l'engagement.

Pouvez-vous expliquer pourquoi cela est si important ?

Je vais vous donner un petit exemple. J'ai été interviewée par un journaliste il y a environ deux semaines. Il venait d'avoir un bébé et il a créé un nouveau compte pour lui. C'est un bébé très mignon. Les seules choses qu'ils publient sur ce compte sont des photos de bébé. Il y a une photo par jour. Le bébé n'a pas d'autres amis que d'autres bébés mignons, n'est-ce pas ?

Cela semble être un très bon compte, pour être honnête.

Ils ne publient que des photos de bébés mignons. Et pourtant, 10 % de son fil d'actualité est consacré à des enfants souffrants. Des enfants à l'hôpital, avec des tubes qui leur sortent. Des enfants gravement déformés. Des enfants mourants. Qu'est-ce qui peut bien vous faire passer d'un bébé mignon à un enfant mutilé ?

Sur le même sujet : David Z. Morris - Facebook vole une autre idée Crypto pour son changement de marque absurde

Car tout ce que l'algorithme sait, c'est qu'il existe des bébés, et que certains contenus sur les bébés suscitent plus d'engagement que d'autres. Il s'avère que, même s'il n'a laissé ONE commentaire ni ONE « J'aime » sur ces photos, il s'y attarde probablement.

C’est vraiment très dérangeant.

Pensez à ce que cela produit dans d'autres contextes, n'est-ce pas ? Chez les adolescents, cela conduit les enfants à s'affamer ou à se suicider. Chez les adultes, cela pousse les gens vers ces extrêmes. Lorsqu'ils ont mené l'expérience avec un point de vue de centre-gauche, ils ont été poussés vers le « tuons les Républicains ». Lorsqu'ils l'ont fait avec le centre-droit, ils ont été poussés vers le génocide des Blancs. Et ce n'est pas à l'horizon d'un mois, mais d'une semaine.

C'est terrifiant.

Pensez à l'impact que cela a sur la société. Et c'est là que ça devient vraiment effrayant. C'est pour ça que je me lève chaque matin. La version de Facebook avec laquelle nous interagissons aux États-Unis est la plus propre et la plus aseptisée au monde.

En 2020, ils ont consacré 87 % de leur budget de désinformation à l'anglais, même si seulement 9 % des utilisateurs parlaient anglais. La plupart des gens ignorent qu'il y a au moins un milliard de personnes dans le monde – voire deux milliards – pour qui Internet est synonyme de Facebook.

2 milliards ?

Facebook est entré dans leurs pays et, grâce à un système appelé Free Basics, ils ont annoncé : « Si vous utilisez Facebook, vos données sont gratuites. Si vous utilisez quoi que ce soit sur le web ouvert, vous devrez payer vous-même pour les données. »

Imaginez donc l'impact de cette dynamique de marché sur Facebook. On se retrouve dans un pays très fragile. Les régions les plus fragiles du monde sont souvent linguistiquement diversifiées, parlent des langues plus rares, et le modèle économique de Facebook T de fournir des systèmes de sécurité.

En nous concentrant sur la censure, au lieu de nous concentrer sur la sécurité des produits, nous laissons de côté des personnes qui vivent dans les endroits les plus fragiles de la planète. Et ces personnes ne peuvent T quitter Facebook. Elles n'ont T le droit de donner leur consentement.

Quel est selon vous le rôle de la blockchain dans tout cela, comme solution possible ?

Ce qui m'enthousiasme le plus, c'est : et si une DAO avait gouverné Facebook en 2008 ? Soyons clairs : le problème avec Facebook, ce ne sont ni votre famille ni vos amis.

Facebook a mené des expériences où il vous donne simplement plus de contenu que vous n'y avez consenti. Il s'agit de contenu provenant de personnes que vous avez ajoutées à vos amis, de pages que vous avez suivies, de groupes que vous avez rejoints. En faisant cela gratuitement, vous avez moins de discours haineux, moins de nudité, moins de violence. Ils vous disent simplement : « Faisons confiance à votre jugement et donnons-vous plus de ce que vous demandez. » Pas compliqué.

[Mais] Facebook a dû vous inciter à consommer plus de contenu chaque trimestre depuis 2008, et vos proches ont laissé tomber Facebook. Facebook avait besoin qu'ils KEEP à produire toujours plus de contenu. Et comme ils n'y parvenaient T, ils ont commencé à utiliser toutes sortes de petits trucs bizarres.

Alors, comment une DAO s’intégrerait-elle dans tout cela ?

S'il y avait eu une DAO qui réglementait Facebook – si elle avait appartenu aux utilisateurs – je ne pense T que nous aurions dit : « Hé, KEEP à mettre des conneries aléatoires sur nos comptes sans que nous les T demandées. » Nous aurions toujours quelque chose qui ressemblerait au Facebook de 2008. Je suis donc prudemment optimiste quant au potentiel d'explorer différents modèles commerciaux.

Deuxièmement, je pense qu'il serait plus simple de gérer une version de Facebook dédiée à notre famille et à nos amis. Le problème, ce n'est pas la famille et les amis. C'est un système d'amplification qui utilise des algorithmes pour orienter notre attention.

Podcast: Ce que les brevets de Facebook nous disent sur la lutte pour l'âme du métavers

Vous savez, si vous pouvez le faire de manière distribuée et [construire] un système qui ressemble beaucoup à Facebook, mais qui ne concerne que votre famille et vos amis, je pense que ce serait beaucoup plus sûr.

Selon vous, que faudra-t-il pour résoudre définitivement le problème de Facebook ?

Je pense qu'il s'agit au minimum d'un problème de gouvernance d'entreprise. ONEun des problèmes fondamentaux de Facebook est qu'il T de reconnaître son pouvoir. Il est T d'assumer ses responsabilités. Prenons par exemple le cas de lycéens qui se fracturent les os parce que des jeunes se battent pour les afficher sur Instagram. Réfléchissez-y un instant. Que faudrait-il pour qu'Instagram supprime ce compte ? Pourquoi ne le supprime-t-il T ?

Ils ne peuvent T reconnaître leurs responsabilités. Donc, à moins d'un changement majeur de direction… J'ai pris la parole hier lors d'une conférence sur les risques, et le PDG de l'organisation professionnelle a déclaré : « Il ne s'agit pas d'avoir des listes de contrôle. Il ne s'agit pas de s'assurer que quelqu'un remplisse un formulaire. Il s'agit d'instaurer une culture de responsabilité. » Et fondamentalement, Facebook manque d'une culture de responsabilité.

Qu'espérez-vous voir ?

J'espère que la Securities and Exchange Commission (SEC) américaine agira. Nous allons ONE lui demander d'obliger Mark [Zuckerberg] à vendre une partie de ses actions. Cela permettrait aux actionnaires d'intervenir. C'est donc mon plus grand espoir. Qui sait si cela se produira ou non ?

Et je pense que le fait que le DSA [Digital Services Act] ait été adopté signifie que nous allons pouvoir commencer à développer des solutions.

Donnez-nous un exemple ?

Je vais vous en donner un qui fonctionne dans toutes les langues. Devriez-vous cliquer sur un LINK pour le partager à nouveau ?

Cela a tellement de sens.

Twitter vous y oblige, mais T Facebook. Et cela réduit la désinformation de 10 à 15 %.

En parlant de Twitter, vous avez suggéré qu'un compte Twitter privé – appartenant à ELON Musk, PDG de Tesla (TSLA) – pourrait être plus sûr. Pourquoi ?

Vous vous souvenez de ce que je disais : si Facebook avait eu une DAO, on n'aurait probablement T reçu autant de contenu indésirable sur nos comptes ? Ça serait resté bien plus réservé à notre famille et à nos amis. Il existe de nombreuses solutions non basées sur le contenu.

Qu'est-ce que tu veux dire par là ?

Cela signifie se concentrer sur la sécurité des produits, et non sur des IA magiques [intelligence artificielle] qui extraient des informations [comme une forme de censure]. Mais la seule façon d'y parvenir est d'être prêt à sacrifier de petites sommes de profit et un nombre limité d'utilisateurs. Si je suis prêt à soutenir ELON , c'est notamment parce que sa première déclaration publique est que nous allons supprimer les bots.

Ce que la plupart des gens T – ​​et cela pourrait intéresser ce public spécifique [Crypto] –, c'est que lorsqu'on parle de dollars, nous avons des lois comptables très détaillées, n'est-ce pas ? Donc, si vous avez un dollar ou un passif, il existe des règles très précises sur le moment où vous devez les comptabiliser.

Nous n'avons T de règles similaires pour définir ce qu'est une personne, mais la valeur des entreprises dépend fortement du nombre d'utilisateurs qu'elles déclarent avoir. J'ai discuté avec des dirigeants des plus grandes entreprises. captchasdans le monde, et ils disent qu'il y a des sites Web où 90 % des utilisateurs signalés sont des robots.

Condamner.

C'est vrai. Et ces sites choisissent volontairement des paramètres de captcha très laxistes pour obtenir des chiffres plus élevés, mais la principale menace pour nous, ce sont les bots. ELON a alors dit : « On va profiter du fait qu'on T plus besoin de déclarer le nombre d'utilisateurs pour faire table rase. »

Terminons sur une note personnelle. Ce que vous avez fait était incroyablement courageux. Si vous T bien partager, quelles ont été les conséquences Pour vous?

Vous savez, c'est intéressant. Les gens imaginent les grincements de dents, le drame, tout ça. Mais ma transition s'est déroulée de manière remarquablement calme.

Je suis surpris et ravi d’entendre cela.

Je suppose que je suis beaucoup plus souvent interviewé. Mais à Porto Rico, ONE ne me reconnaît, ce qui est génial. Même en ligne, c'est dingue. Je crois que j'ai reçu entre 15 et 20 messages méchants par message privé. Alors si vous voulez être le premier… [Rires des deux côtés.]

Et ce que je trouve remarquable, c'est que [souvent] les femmes qui sont des personnalités publiques sont victimes de harcèlement sexuel très grave. Je T victime de harcèlement sexuel, ce qui est choquant pour moi qui ai travaillé sur quatre réseaux sociaux. Je ne peux donc T vraiment me plaindre. C'était plutôt calme.

On croise les doigts pour que ça continue comme ça. Merci pour votre soutien et à bientôt sur notre nouvelle version DAO de Facebook !