La leçon du Web2 pour l'IA : décentraliser pour protéger l'humanité

Cela va paraître présomptueux venant d'un gars qui n'écrit T de code, et encore moins qui a une expérience directe en apprentissage automatique ou en recherche en intelligence artificielle.

Mais je dois le dire : la récente demande alarmiste d'unpause de six moisou même unfermeture imposée par l'armée Les efforts déployés par les chercheurs en IA – par des personnes expérimentées, fortunées et influentes dans le secteur de l'intelligence artificielle – reposent sur une pensée fondamentalement erronée qui entraînera le même résultat destructeur pour l'humanité que celui que nous cherchons à éviter. Le fait que le gouvernement américain orchestre simultanément une répression contre l'industrie de la Crypto , un secteur d'innovation open source qui développe les technologies de cryptographie et de coordination réseau nécessaires à la gestion des menaces liées à l'IA, rend cette période particulièrement dangereuse pour nous tous.

Ces prophètes de malheur sont des informaticiens, et non des étudiants en histoire économique. Le problème n'est pas, en soi, qu'une IA incontrôlable puisseévoluer pour nous tuer tous. (Nous le savons tous. Pendant des décennies,Hollywood nous a appris que c'était ainsi.) Non, il s'agit de veiller à ce que les mécanismes économiques de l'IA ne favorisent T intrinsèquement ce résultat atroce. Nous devons empêcher que le contrôle concentré des entrées et sorties des machines d'IA n'entrave notre capacité à agir ensemble dans l'intérêt commun. Nous avons besoin d'un développement logiciel collectif et collaboratif qui crée un antidote informatique à ces cauchemars dystopiques.

Vous lisezL'argent réinventéUn regard hebdomadaire sur les Événements et tendances technologiques, économiques et sociaux qui redéfinissent notre rapport à l'argent et transforment le système financier mondial. Abonnez-vous pour recevoir la newsletter complète. ici.

La solution ne consiste pas à freiner l'innovation en IA et à confiner OpenAI, créateur de ChatGPT et leader du secteur qui a porté le domaine à son niveau de développement actuel, à la première place. Au contraire, c'est le meilleur moyen de garantir que le cauchemar devienne réalité.

Les leçons du Web2

Nous le savons depuis la débâcle du Web2, cette économie sociale basée sur la publicité et les plateformes, où l'Internet décentralisé du Web1 a été recentré autour d'une oligarchie de géants omniscients et agrégeant des données, parmi lesquels Google, Facebook et Amazon. Ces derniers sont devenus les bénéficiaires de ce que Shoshana Zuboff a qualifié de« capitalisme de surveillance »,et nous, les humains, sommes devenus ses victimes, une source passive de données personnelles qui sont extraites de nous et recyclées dans des algorithmes modifiant le comportement.

Tout cela s’est produit, non pas parce que les plateformes étaient moralement enclines à abandonner GoogleMaxime « Ne soyez T méchant », mais parce que la logique du marché les a poussés vers ce modèle. Les publicités fournissaient les revenus, et un bassin d'utilisateurs toujours croissant sur leurs plateformes fournissait les données grâce auxquelles les géants d'Internet pouvaient façonner le comportement Human afin de maximiser le rendement de ces publicités. Les actionnaires, exigeant la poursuite de ces gains exponentiels, les ont poussés à redoubler d'efforts sur ce modèle pour « atteindre les objectifs » chaque trimestre. À mesure que les effets de réseau se sont manifestés et que les plateformes ont attiré davantage d'utilisateurs grâce à une fonction de croissance auto-renforcée, les modèles d'extraction de données sont devenus plus lucratifs et plus difficiles à abandonner, les attentes de Wall Street étant de plus en plus élevées.

Sur le même sujet : Les marques sauveront- Crypto? Attention à vos souhaits !

Ce système d'exploitation prendra de l'ampleur si le développement de l'IA se déroule sous la même structure de monopole par défaut. La solution n'est pas de stopper la recherche, mais d'inciter les développeurs d'IA à trouver des moyens de subvertir ce modèle.

Mettre à jour le capitalisme

Pendant des siècles, le capitalisme de marché a encouragé la concurrence entre entrepreneurs pour conquérir des parts de marché, générant richesse et productivité pour tous. Il a favorisé les inégalités de richesse, mais, à long terme, grâce aux lois antitrust, syndicales et de protection sociale, il a généré des gains de bien-être sans précédent dans le monde entier.

Mais le système a été conçu pour une économie analogique, ONE sur la production et la vente de biens matériels, un monde où les contraintes géographiques pèsent lourdement sur les opportunités de croissance. L'ère d'Internet est bien différente. C'est une époque d'effets de réseau auto-renforçants, où l'efficacité de la production de logiciels permet aux leaders du marché d'accroître rapidement leurs parts de marché à un coût marginal très faible, et où le bien le plus précieux n'est pas physique, comme le minerai de fer, mais immatériel : ce sont les données Human .

Nous avons besoin d’un nouveau modèle de propriété décentralisée et de gouvernance consensuelle, un ONE qui s’appuie sur des incitations à l’innovation compétitive mais qui dispose, en son sein, d’un cadre autocorrecteur qui oriente cette innovation vers le bien public.

Inspiré par Jacob Steeves, fondateur du protocole de développement d'IA décentralisé Bittensor, je crois que la Technologies Crypto peut aider à définir à quoi LOOKS cet avenir, même si nous avons besoin de garde-fous pour cela.

« Nous préconisons une propriété ouverte de l'IA », a déclaré Steeves à propos du modèle de construction décentralisé et tokenisé de Bittensor pour l'IA, dans le podcast « Money Reimagined » de cette semaine. « Si vous pouvez contribuer, vous pouvez en être propriétaire. Ensuite, laissons les gens décider. »

L'idée philosophique est qu'une propriété et un contrôle suffisamment décentralisés empêcheraient toute partie de dicter le développement de l'IA et que, au contraire, le groupe dans son ensemble choisirait des modèles favorables à la collectivité. « Si nous avions tous une part de ce projet, cela ne nous ferait pas de tort, car au final, la valeur fondamentale de l'IA, la propriété fondamentale, réside dans votre portefeuille », a déclaré Steeves.

Trop utopique ? Peut-être. La longue liste d'arnaques dans l'histoire des Crypto incite beaucoup à imaginer instinctivement un modèle d'IA cryptographique détourné par des acteurs malveillants.

Mais si nous voulons forger un projet commun basé sur l’innovation open source et la gouvernance collective, les phénomènes économiques qui ressemblent le plus à ce dont nous avons besoin sont les écosystèmes qui ont surgi autour des protocoles blockchain.

«Ethereum et Bitcoin sont les plus grands supercalculateurs du monde, mesurés en nombre de hachages », a déclaré Steeves. « Ces réseaux – pour le meilleur ou pour le pire, que l'on se positionne ou non d'un côté ou de l'autre du débat sur le pouvoir – sont des mégastructures. Ce sont les plus grandes mégastructures informatiques que l'humanité ait jamais créées… elles sont des centaines de fois plus grandes que les entrepôts de données d'entreprises comme Google. »

Capture réglementaire

OpenAI, l'entreprise à l'origine des grands modèles de langage (LLM) ChatGPT et GPT1 à 4, est structurée de manière très différente de ces écosystèmes blockchain. Il s'agit d'une entreprise privée ONE vient d'obtenir un investissement de 10 milliards de dollars (avec une note B) du géant technologique Microsoft.

Et bien que son PDG Sam Altman n'ait pas encore rejoint le PDG de Tesla et investisseur d'OpenAI ELON Musk ONE plus de 25 000 signataires une lettre ouverte appelant à une pause de six mois dans le développement de l'IA, beaucoup pensent que si les exigences de cette lettre étaient mises en œuvre, l’entreprise en serait un bénéficiaire direct, ce qui rendrait plus difficile pour tout concurrent de contester la domination d’OpenAI tout en permettant à l’entreprise d’Altman de contrôler le développement de l’IA à l’avenir.

Sur le même sujet : ChatGPT va supprimer la recherche et ouvrir la voie au Web3

« La lettre sert à Rally le soutien du public à OpenAI et à ses alliés alors qu'ils consolident leur domination, construisent une avance étendue en matière d'innovation et sécurisent leur avantage sur une Technologies d'une importance fondamentale pour l'avenir », a écrit le pionnier de la Cryptomonnaie Peter Vessenes dans un CoinDesk. éditorialCette semaine. « Si cela se produit, cela portera un préjudice irréparable aux Américains, à notre économie et à notre peuple. »

Imaginez si, écrivait Vessenes, « en 1997, Microsoft et Dell avaient publié une lettre de suspension similaire, appelant à l'arrêt des innovations en matière de navigateurs et à l'interdiction des nouveaux sites de commerce électronique pendant six mois, citant leurs propres recherches selon lesquelles Internet détruirait les magasins physiques et favoriserait le Finance du terrorisme. Aujourd'hui, nous considérerions cela comme un alarmisme intéressé et une tentative de mainmise réglementaire. »

OpenAI repose désormais sur un système fermé, mais l'approche LLM de l'apprentissage automatique est désormais répandue et reproduite de multiples façons ingénieuses. Comment un accord entre scientifiques américains, ou même une loi du Congrès, pourrait-il stopper l'avancée de cette technologie – en particulier celle d'acteurs criminels soutenus par des États voyous qui ont toutes les raisons d'ignorer les demandes des États-Unis ?

Mauvaise direction

Associez-le avec leL'hostilité récente du gouvernement américain envers la Crypto, manifestée par la série d'actions de la Securities and Exchange Commission contre les leaders du secteur et par les sanctions contre le protocole open source Tornado Cash, une convergence inquiétante se dessine. Le fait que les entreprises de Crypto quittent désormais les États-Unis est plus qu'une menace pour le secteur des actifs numériques. C'est un coup porté à la forme même d'innovation open source, nécessaire pour éviter la capture dangereuse de l'IA par des intérêts centralisés égoïstes.

Malgré toutes les pertes subies récemment par les spéculateurs de jetons, les WAVES d'argent qui ont afflué vers ces richesses ont financé certaines des plus grandes avancées de tous les temps en cryptographie. Les preuves à divulgation nulle de connaissance, par exemple, susceptibles de jouer un rôle dans la protection des informations sensibles contre l'espionnage omniprésent de l'IA, ont progressé bien plus rapidement qu'à l'ère pré-crypto.

L'éthique d'innovation sans autorisation des cryptomonnaies présente également l'avantage de la sagesse collective. Les idées marginales et non conformes ont tendance à surgir plus facilement que celles dictées par les dirigeants d'entreprise. La structure d'innovation d'OpenAI est très différente. Certes, l'entreprise a su exploiter l'immense quantité de données d'Internet et y former un LLM incroyablement performant. Mais ayant abandonné son statut d'entreprise open source à but non lucratif, elle est désormais un opérateur fermé et aveugle, soumis aux exigences de maximisation des profits de son nouvel investisseur.

Nous avons le choix : voulons-nous que l’IA soit captée par les mêmes modèles économiques concentrés que ceux du Web 2 ? Ou la vision de propriété décentralisée du Web 3 est-elle plus sûre ? Je sais ONE je choisirais.