La vie algorithmique ne vaut pas la peine d'être vécue

C'est Semaine de la Politique de confidentialité ici à CoinDesk, nous avons plongé dans une variété d'angles technologiques et juridiques sur les conséquences de la surveillance numérique. L'inquiétude face à la montée de l'espionnage omniprésent peut souvent ressembler à une question de principe académique, ou à une série d'avertissements sur des cas limites importants mais rares : le conjoint battu traqué par des logiciels malveillants, le dissident traqué et assassinépar un gouvernement, le consommateur aveclégal mais socialement marginalisé Ces scénarios de compromission de la Politique de confidentialité ont bien sûr de graves conséquences pour ceux qui en sont victimes et pour chacun ONE nous.

Mais l’utilisation la plus répandue de la surveillance numérique peut sembler bien plus banale que ces exemples, tout en étant potentiellement beaucoup plus insidieuse.

Cet article fait partie de CoinDeskSemaine de la Politique de confidentialité série.

Le ciblage algorithmique du contenu est la base des entreprises d'information omniprésentes comme Google et Facebook, et il vous affecte à chaque instant où vous êtes en ligne. Il peut vous rendre moins informé, moins unique, moins réfléchi et moins intéressant, si subtilement que vous T le remarquez même pas.

Chercheur à HarvardShoshana Zuboff Elle décrit l’impact du ciblage algorithmique comme une « privatisation de la division de l’apprentissage ». Selon elle, nous confions de plus en plus nos décisions à des logiciels de reconnaissance de modèles. Ces derniers guident nos interactions avec les réseaux sociaux, les sites de rencontre, les moteurs de recherche, la publicité programmatique et les flux de contenu, et ils sont presque entièrement construits sur des modèles de comportement Human passé. À la base, ils sont structurellement hostiles à la nouveauté, à l’innovation et à l’indépendance. Et ses pionniers en ont largement profité : selon Zuboff, Google dispose désormais d’une « concentration historique mondiale de connaissances et de pouvoir ».

J'ai un nom un peu plus accrocheur que celui de Zuboff : la boucle algorithmique. Comme la plupart des boucles, il est facile de se laisser piéger car elle récolte nos préférences, puis utilise ces données pour nous KEEP accrochés – et prendre le contrôle. Bien sûr, elle nous montre des dates potentielles, des titres de films ou des résumés d'actualités sur lesquels elle sait que nous sommes susceptibles de cliquer. Mais ces suggestions à leur tour façonner notre désirpour la prochaine chose que nous consommons.

En bref, la boucle algorithmique ne se contente T de prédire nos goûts, nos attitudes et nos croyances, elle les crée. Et parce qu'elle les façonne uniquement en fonction de ce qu'elle sait déjà et peut comprendre, elle nous rend moins créatifs et moins individuels d'une manière que nous commençons à peine à comprendre.

Au fil du temps, les effets individuels et collectifs peuvent s’avérer dévastateurs.

Plus petit dénominateur commun

Comment la boucle algorithmique réduit-elle la portée de la pensée et de la créativité Human ?

La dynamique varie, mais tenez compte des principes de base. Des entreprises comme Facebook, Amazon et Google gagnent de l'argent en vous montrant des choses que vous pourriez vouloir acheter. Un niveau plus élevé, les plateformes sociales, de recherche et de streaming KEEP votre attention en vous montrant le contenu qui vous intéresse le plus. susceptibles de trouver cela « engageant ».Ils atteignent ces objectifs en observant votre comportement, en le comparant à celui de personnes similaires, puis en vous montrant les autres choses que ces personnes ont appréciées.

Ces systèmes sont parfois vantés pour leur capacité à aider les utilisateurs aux goûts spécifiques à trouver précisément ce qu’ils recherchent, et il y a une part de vérité dans cette affirmation. Mais la dynamique générale est facile à repérer : la boucle algorithmique fonctionne sur l’hypothèse fondamentale que vos goûts sont interchangeables avec ceux des autres. L’algorithme ne peut ni prédire ni créer la personnalité, l’innovation ou les rencontres fortuites – ce qui signifie qu’il est finalement hostile à l’émancipation personnelle et à l’individualité.

En guise d'expérience de pensée, imaginez un utilisateur vraiment moyen de YouTube ou d'Amazon PRIME Video. Que proposeriez-vous à quelqu'un qui a loué cinq films hollywoodiens grand public parce que c'est tout ce dont il a entendu parler ? Eh bien, vous lui proposez davantage de contenu grand public, de milieu de gamme et facile à vivre. Même lorsque le contenu est vraiment adapté à une niche démographique, le processus créatif est devenu un exercice de vérification de cases : Netflix, célèbre pour son utilise sa boucle algorithmique« optimiser » un contenu pour le rendre efficace avant sa création. Si l’art, dans sa forme la plus aboutie, est un processus de découverte de soi et d’apprentissage, la boucle algorithmique nous éloigne de cela et nous pousse à nous répéter sans cesse.

Ce biais algorithmique en faveur de la banalité, ainsi que d’autres forces, ont déjà contribué à dégrader notre culture de manière mesurable. Depuis que les moteurs de recommandation algorithmiques sont apparus il y a une vingtaine d’années – d’abord dans les librairies en ligne comme Amazon, puis sur le service de DVD de Netflix, puis sur les plateformes de streaming vidéo et musical – la culture populaire mondiale a subi une contraction radicale centrée sur les blockbusters les plus populaires et les plus inoffensifs.

Par exemple, Spotify, une plateforme musicale centrée sur un algorithme, concentre les flux et les revenus parmi unune poignée d'artistes de premier planBien plus que le système de médias physiques et de diffusion qui l’a précédé. C’est particulièrement frappant, car le conglomérat radiophonique terrestre ClearChannel était si souvent la bête noire des fans de musique dans les années 1990, avant l’avènement d’Internet, accusé de faire taire les artistes aventureux ou controversés. Nous vivons désormais à l’ère du « jukebox infini », où pratiquement toute la musique jamais enregistrée est à portée de clic – mais l’intégration de ce système à la boucle algorithmique semble avoir rendu la consommation de musique plus monolithique, et non moins monolithique.

Hollywoodstudios de cinéma, les grands éditeurs de livres et les labels de musique ont tous réagi à ce modèle où le gagnant rafle tout. Ils se sont tournés en masse vers une concentration presque exclusive sur les blockbusters et les stars, consacrant des ressources uniquement aux artistes qui produisent le produit le plus apprécié – et même dans ce cas, uniquement auxleurs hits les plus clairsCe changement radical a rendu beaucoup plus difficile, même pour les musiciens et les cinéastes légèrement non conventionnels, ceux capables d'introduire des idées nouvelles et passionnantes, de se financer.soutenir leur travail(sans parler des scénaristes, qui ont toujours eu du mal à y parvenir). Au lieu de cela, nous avons droit à une série infinie de films Marvel.

En toute honnêteté, d’autres facteurs majeurs sont à l’origine de ces changements. Hollywood, par exemple, est aux prises avec un déclin séculaire de la fréquentation des salles de cinéma, ce qui crée une pression pour produire des contenus moins exigeants, car il faut des spectateurs dans les salles. La culture politique américaine était de plus en plus partisane bien avant que la boucle algorithmique ne fasse du tri des gens dans des ruches opposées et également déterminées un processus aussi inconscient que la respiration.« économie où le gagnant rafle tout » Tout a commencé avec l’invention du télégraphe : l’amélioration des Technologies de communication permet aux meilleurs acteurs, aux meilleures entreprises et aux meilleurs produits de dominer des parts toujours plus grandes du marché mondial pour à peu près tout.

Mais c’est la boucle algorithmique qui permet à la dynamique du « gagnant rafle tout » de s’infiltrer dans tous les aspects de notre vie, en ligne et, de plus en plus, hors ligne. C’est elle qui nous tente constamment avec des nouvelles, des produits ou des tweets qui ne nous rendent peut-être pas plus réfléchis, empathiques ou bien informés – mais qui, comme le sait l’algorithme, semblent plaire à tout le monde.

Rejetez la tradition, acceptez-vous

La boucle algorithmique est la version cybernétiquement améliorée d’un problème auquel les humains sont confrontés depuis avant même l’existence de l’apprentissage automatique, d’Internet ou des ordinateurs.

Autrefois, le problème était qualifié de tradition, de hiérarchie, de superstition, de sagesse conventionnelle ou simplement de « la façon dont les choses sont ». Il y a trente ans, le juriste Spiros Simitis avait prédit à quel point ces systèmes pouvaient être puissants pour façonner le comportement des gens en des formes acceptables, à l’image des hiérarchies traditionnelles. Dans un passage cité par Zuboff, Simitis affirmait que les algorithmes prédictifs étaient « en train de devenir un élément essentiel des stratégies de manipulation à long terme destinées à façonner et à ajuster les comportements individuels ».

Ces forces sont considérées avec suspicion depuis des milliers d’années. Vous avez probablement entendu l’expression « Une vie sans examen ne vaut pas la peine d’être vécue », ONEun des aphorismes les plus célèbres de Socrate, le philosophe fondateur du monde occidental (transmis par son élève Platon et l’élève de Platon Aristote – Socrate n’écrivait même T , et encore moins ne codait). Le sentiment général est clair et assez évident : prenez le temps de réfléchir sur vous-même. C’est bon Pour vous.

Mais Socrate voulait aussi dire quelque chose de beaucoup plus précis : pour vraiment s’examiner soi-même, il faut interroger toutes les normes sociales, les hypothèses tacites et les conditions historiques qui nous ont façonnés. Jusque-là, nous sommes essentiellement la marionnette des gens qui nous ont précédés et qui ont établi les normes, qu’il s’agisse de doctrine de l’Église ou de jugement esthétique.

Quelques milliers d’années plus tard, le pionnier de la psychanalyse Sigmund Freud a reformulé ce principe de manière un BIT plus explicite, dans un slogan qui a également l’avantage de sonner totalement badass dans la langue maternelle de Freud : « Wo ist war, soll ich verden ». Ou en français : « Là où il est, là je serai ». Le « ça » auquel Freud fait référence est l’inconscient, qu’il considérait comme façonné par les traditions et les normes sociales qui nous ont été inculquées à tous dès la naissance. À l’époque de Freud, la modernité et la Technologies avaient contribué à rendre ces normes de plus en plus répandues, uniformes et rigides, en particulier pendant l’ère victorienne de répression sexuelle de la jeunesse de Freud.

Freud pensait que le conflit entre les normes sociales et les désirs individuels était une source de problèmes de santé mentale. Il espérait que sa « cure par la parole » pourrait aider les patients qui se sentaient étrangement à l’écart de leur société répressive, en rendant visibles à la fois les normes qui sont si souvent tacites et les désirs que les gens cachent parfois même à eux-mêmes. Nous pourrions comprendre les découvertes inquiétantes sur laImpacts des médias sociaux sur la santé mentaleEn termes similaires : un flux constant du contenu le plus populaire peut parfois équivaloir à une érosion psychiquement dommageable de l’individualité par l’ordre social dominant.

La boucle algorithmique ne semble pas aussi dure que les normes sociales de l’Europe victorienne, mais elle est souvent plus insidieuse. Les normes sociales répressives appliquées de manière visible par un policier ou un prêtre peuvent être plus faciles à défier que la boucle algorithmique, car c’est désormais nous qui cliquons, qui diffusons, qui faisons défiler. Nous avons vraiment l’impression de faire des choix individuels, d’affirmer notre singularité et de nous exprimer.

Mais c’est seulement parce que la courbe vers la pensée de groupe est si subtile. Considérée comme un système global, la boucle algorithmique dégrade inévitablement la diversité et l’unicité de ce que la plupart des gens voient, Guides et apprécient. Même si la quantité de « contenu » que nous consommons monte en flèche (une tendance inquiétante en soi), nous avons l’impression que de moins en moins de choses concrètes nous sont proposées – de moins en moins susceptibles de nous mettre au défi, de nous aider à nous développer, de faire de nous une meilleure personne.

Peu importe combien nous faisons défiler l'écran, suivons des vidéos ou tweetons, nous pouvons commencer à soupçonner que nos choix sont illusoires.

Sortir de la boucle

Comment alors vous libérer d'une vigne qui vous étrangle et qui lit son avenir dans vos propres luttes ? Comment reprendre le contrôle de vos propres choix et de votre propre cerveau ?

Bien sûr, il existe des pratiques individuelles qui nécessitent divers degrés d’engagement. Une ONE simple, même si elle n’est pas entièrement facile, consiste à abandonner Facebook et Google autant que possible. Facebook en particulier – l’entreprise qui s’appelle désormais Meta – n’est tout simplement pas digne de confiance. (Et oui, Facebook peut vous suivre même lorsque vous n’utilisez pas Facebook) Facebook.com. Voicicomment changer cela.)

Utilisez DuckDuckGo pour effectuer des recherches. ProtonMail est une alternative populaire à Gmail, qui, oui, vous espionne également. En fait, il apprend àécris tes emails Pour vous, un autre exemple de la boucle mortelle séduisante et narcotisante à laquelle nous devons d’une manière ou d’une autre échapper.

Les avantages sont probablement marginaux – en partie parce qu’ils disposent déjà de beaucoup de données – mais ces mesures rendront au moins un peu plus difficile pour les accapareurs de données de vous profiler et de vous attirer en ligne.

Le retour aux supports physiques est une autre façon de se détacher de l'esprit de ruche : CD et vinyles au lieu de Spotify, DVD et cassettes VHS au lieu de YouTube ou des services de streaming, livres physiques au lieu de (soyons réalistes) tweets. Guides à apprécier votre bibliothèque locale. L'utilisation de supports plus physiques vous oblige à faire des choix réfléchis et à y prêter attention pendant un certain temps, au lieu de simplement suivre la boucle algorithmique (bien que les MP3 et un Serveur PLEX ne sont T non plus une mauvaise option). Bon sang, si vous voulez vraiment vous déchaîner, procurez-vous un téléphone à clapet et abonnez-vous à un journal imprimé – vous pouvez disparaître des réseaux sociaux et du streaming comme le L'homme à un bras.

Mais ces changements individuels ne sont T vraiment la solution, pas plus que vous ne pouvez résoudre l’épidémie d’obésité en mangeant vous-même plus de quinoa. Les systèmes numériques sont infiniment plus pratiques que ceux qui existaient auparavant, et leurs inconvénients sont abstraits et collectifs. Même si quelqu’un est parfaitement conscient des compromis qu’il fait chaque jour, tout cela est tout simplement trop difficile à prendre en compte.

Pour ces personnes – c’est-à-dire la plupart des gens – une approche réglementaire plus systématique est nécessaire, et une bonne réglementation et de bonnes pratiques en Politique de confidentialité en sont la clé. Des limites prudentes sur la quantité de données que nous fournissons aux plateformes publicitaires comme Google et Facebook, et sur la manière dont elles peuvent nous cibler, créent plus d’espace pour l’individualité. Il existe déjà un précédent dans ce domaine – Facebook a récemment été contraint de réduire la capacité des annonceurs à cible par race, par exemple (bien que comme c'est Facebook, il y a bien sûr unsolution de contournement facile).

Ensuite, il y a l’option nucléaire : rendre la publicité programmatique illégale.

Cela n'arrivera T aux États-Unis, pays où se trouvent les plus grandes entreprises accapareuses de données. Les législateurs américains sont trop profondément orientés vers le profit pour faire quoi que ce soit qui pourrait nuire à Facebook ou à Google ou aux milliers d'entreprises de marketing et de technologie publicitaire auxiliaires qui se nourrissent de leur amas de données.

Mais hypothétiquement, si le ciblage publicitaire programmatique cessait ou était sérieusement limité, les données sur vos habitudes et préférences perdraient toute valeur. Facebook cesserait de vous espionner, non pas parce qu’il y serait contraint, mais parce qu’il n’y aurait aucune raison. Vos données et votre attention perdant soudainement toute valeur, vous seriez libre d’ Guides et d’explorer à votre guise.

Eh bien, on peut encore rêver… n’est-ce T ?