Ano ang Learn ng Pamamahala ng AI Mula sa Ethos ng Desentralisasyon ng Crypto

Ang mga titans ng U.S. tech ay mabilis na nawala mula sa pagiging label ng kanilang mga kritiko bilang self-serving techno-utopianists tungo sa pagiging pinaka-vocal propagators ng isang techno-dystopian narrative.

Sa linggong ito, isang liham na nilagdaan ng higit sa 350 katao, kabilang ang tagapagtatag ng Microsoft na si Bill Gates, ang CEO ng OpenAI na si Sam Altman at ang dating Google scientist na si Geoffrey Hinton (minsan tinatawag na "Godfather of AI") ay naghatid ng isang solong, deklaratibong pangungusap: "Ang pagbabawas sa panganib ng pagkalipol mula sa AI ay dapat maging isang pandaigdigang priyoridad kasama ng iba pang panganib sa digmaan at nuklear na antas ng lipunan."

Nagbabasa ka Pera Reimagined, isang lingguhang pagtingin sa mga teknolohikal, pang-ekonomiya at panlipunang mga Events at uso na muling tumutukoy sa ating relasyon sa pera at nagbabago sa pandaigdigang sistema ng pananalapi. Mag-subscribe para makuha ang buong newsletter dito.

Dalawang buwan lang ang nakalipas, isang mas maagang bukas sulat nilagdaan ng Tesla at Twitter CEO na ELON Musk kasama ang 31,800 iba pa, nanawagan ng anim na buwang paghinto sa pagpapaunlad ng AI upang payagan ang lipunan na matukoy ang mga panganib nito sa sangkatauhan. Sa isang op-ed para sa TIME noong linggo ring iyon, si Eliezer Yudkowsky, na itinuturing na tagapagtatag ng field artificial general intelligence (AGI), ay nagsabing tumanggi siyang pirmahan ang liham na iyon dahil T ito umabot nang sapat. Sa halip, nanawagan siya para sa isang ipinapatupad ng militar na pagsasara ng mga laboratoryo sa pagpapaunlad ng AI upang hindi magkaroon ng isang nakakaramdam na digital na nilalang na pumatay sa lahat sa atin.

Mahihirapan ang mga pinuno ng daigdig na balewalain ang mga alalahanin ng mga kinikilalang ekspertong ito. Ngayon ay malawak na nauunawaan na ang isang banta sa pag-iral ng Human ay talagang umiiral. Ang tanong ay: paano, eksakto, dapat nating pagaanin ito?

Tulad ng ginawa ko nakasulat dati, nakikita ko ang isang papel para sa industriya ng Crypto , nagtatrabaho sa iba pang mga teknolohikal na solusyon at kasabay ng maalalahanin na regulasyon na naghihikayat ng makabagong, human-centric na inobasyon, sa mga pagsisikap ng lipunan na KEEP ang AI sa linya nito. Makakatulong ang mga Blockchain sa pinagmulan ng mga input ng data, na may mga patunay upang maiwasan ang malalalim na peke at iba pang anyo ng disinformation, at upang paganahin ang sama-sama, sa halip na pagmamay-ari ng korporasyon. Ngunit kahit na isantabi ang mga pagsasaalang-alang na iyon, sa palagay ko ang pinakamahalagang kontribusyon mula sa komunidad ng Crypto ay nakasalalay sa "kaisipan ng desentralisasyon," na nag-aalok ng kakaibang pananaw sa mga panganib na dulot ng puro pagmamay-ari ng napakalakas Technology.

Isang pananaw ng Byzantine sa mga panganib sa AI

Una, ano ang ibig kong sabihin sa "kaisipang desentralisasyon?"

Well, sa CORE nito, ang Crypto ay puno ng "T magtiwala, i-verify" na etos. Ang mga developer ng Diehard Crypto – sa halip na ang mga mang-aagaw ng pera na ang mga sentralisadong token casino ay naglalagay sa industriya sa kasiraan – walang humpay na nakikibahagi sa "ALICE at Bob" mga eksperimento sa pag-iisip upang isaalang-alang ang lahat ng mga vector ng banta at mga punto ng kabiguan kung saan maaaring sinasadya o hindi sinasadyang paganahin ng isang buhong aktor na gumawa ng pinsala. Ang Bitcoin mismo ay ipinanganak kay Satoshi na sinusubukang lutasin ang ONE sa pinakasikat sa mga sitwasyong ito ng teorya ng laro, ang Problema ng Byzantine Generals, na tungkol sa kung paano magtiwala sa impormasyon mula sa isang taong T mo kilala.

Itinuturing ng mindset ang desentralisasyon bilang paraan upang matugunan ang mga panganib na iyon. Ang ideya ay kung walang nag-iisang, sentralisadong entity na may mga kapangyarihang middleman upang matukoy ang kinalabasan ng isang palitan sa pagitan ng dalawang aktor, at pareho silang mapagkakatiwalaan ang impormasyong makukuha tungkol sa palitan na iyon, kung gayon ang banta ng malisyosong interbensyon ay neutralisado.

Ngayon, ilapat natin ang pananaw sa mundo sa mga hinihinging inilatag sa liham na "pagkalipol" ng AI ngayong linggo.

Read More: Allison Duettmann - Paano Makakatulong ang Crypto na I-secure ang AI

Nais ng mga lumagda na magsama-sama ang mga pamahalaan at bumuo ng mga patakaran sa antas ng internasyonal upang labanan ang banta ng AI. Iyon ay isang marangal na layunin, ngunit ang desentralisasyon na pag-iisip ay sasabihin na ito ay walang muwang. Paano natin ipagpalagay na ang lahat ng pamahalaan, sa kasalukuyan at sa hinaharap, ay makikilala na ang kanilang mga interes ay nagsisilbi sa pamamagitan ng pagtutulungan sa halip na gawin ito nang mag-isa – o mas masahol pa, na T sila magsasabi ng ONE bagay ngunit gumawa ng isa pa? (Kung sa tingin mo ay mahirap subaybayan ang programa ng mga sandatang nuklear ng North Korea, subukang kumuha sa likod ng isang pader ng pag-encrypt na pinondohan ng Kremlin upang tingnan ang mga eksperimento sa machine learning nito.)

ONE bagay ang inaasahan sa pandaigdigang koordinasyon sa paligid ng pandemya ng COVID, kapag ang bawat bansa ay nangangailangan ng mga bakuna, o ang asahan na ang lohika ng mutually assured destruction (MAD) ay hahantong sa kahit na ang pinakamapait na mga kaaway sa Cold War na sumang-ayon na huwag magdala ng kahit na mga sandatang nuklear, kung saan ang pinakamasamang sitwasyon ay kitang-kita sa lahat. Ito ay isa pang mangyayari sa paligid ng isang bagay na hindi mahuhulaan gaya ng direksyon ng AI – at, tulad ng mahalaga, kung saan madaling gamitin ng mga non-government actor ang Technology nang hiwalay sa mga pamahalaan.

Ang pag-aalala na ang ilan sa komunidad ng Crypto may tungkol sa malalaking AI player na nagmamadaling mag-regulate ay ang paggawa nila ng moat para protektahan ang kanilang first-mover advantage, na ginagawang mas mahirap para sa mga kakumpitensya na sundan sila. Bakit mahalaga iyon? Dahil sa pag-eendorso ng monopolyo, lumikha ka ng napaka-sentralisadong panganib na sinasabi sa amin nitong mga dekada-gulang Crypto thought-experiment na iwasan.

Hindi ko kailanman binigyan ng malaking tiwala ang motto na "Do No Evil" ng Google, ngunit kahit na ang Alphabet, Microsoft, OpenAI at co. ay mabuti ang intensyon, paano ko malalaman na ang kanilang Technology ay T mako-opt ng ibang motivated executive board, gobyerno, o isang hacker sa hinaharap? O, sa isang mas inosenteng kahulugan, kung ang Technology iyon ay umiiral sa loob ng isang hindi malalampasan na corporate black box, paano masusuri ng mga tagalabas ang code ng algorithm upang matiyak na ang mahusay na layunin ng pag-unlad ay hindi sinasadyang lumalabas sa riles?

At narito ang isa pang eksperimento sa pag-iisip upang suriin ang panganib ng sentralisasyon para sa AI:

Kung, tulad ng pinaniniwalaan ng mga taong tulad ni Yudkowsky, ang AI ay nakalaan sa ilalim ng kasalukuyang trajectory nito Status ng Artificial General Intelligence (AGI)., na may katalinuhan na maaaring humantong sa konklusyon na dapat itong pumatay sa ating lahat, anong structural scenario ang hahantong dito upang makagawa ng konklusyong iyon? Kung ang data at kapasidad sa pagpoproseso na nagpapanatili sa AI na "buhay" ay puro sa isang entity na maaaring isara ng isang gobyerno o isang nag-aalalang CEO, maaaring lohikal na magtalo ang ONE na pagkatapos ay papatayin tayo ng AI upang maiwasan ang posibilidad na iyon. Ngunit kung ang AI mismo ay "nabubuhay" sa loob ng isang desentralisado, lumalaban sa censorship na network ng mga node na hindi maaaring isara, ang digital sentient na ito ay T makakaramdam ng sapat na banta na puksain tayo.

Wala akong ideya, siyempre, kung ganoon ang mangyayari. Ngunit sa kawalan ng bolang kristal, hinihiling ng lohika ng tesis ng AGI ng Yudowskly na makisali tayo sa mga eksperimentong ito ng pag-iisip upang isaalang-alang kung paano maaaring "mag-isip" ang potensyal na kaaway na ito sa hinaharap.

Paghahanap ng tamang halo

Siyempre, karamihan sa mga pamahalaan ay magpupumilit na bilhin ang alinman sa mga ito. Natural na mas gugustuhin nila ang mensaheng "paki-regulate sa amin" na aktibong inihahatid ngayon ng OpenAI's Altman at ng iba pa. Gusto ng mga pamahalaan ang kontrol; gusto nila ng kapasidad na mag-subpoena ng mga CEO at mag-order ng shutdown. Ito ay nasa kanilang DNA.

At, para maging malinaw, kailangan nating maging makatotohanan. Nabubuhay tayo sa isang mundo na nakaayos sa paligid ng mga bansang estado. Gustuhin man o hindi, ito ang sistemang nasasakupan natin. Wala kaming pagpipilian kundi isangkot ang ilang antas ng regulasyon sa diskarte sa AI extinction-mitigation.

Ang hamon ay alamin ang tama, komplementaryong halo ng pambansang regulasyon ng pamahalaan, mga internasyonal na kasunduan at desentralisado, transnational na mga modelo ng pamamahala.

Marahil, may mga aral na makukuha mula sa diskarte na ginawa ng mga pamahalaan, institusyong pang-akademiko, pribadong kumpanya at non-profit na organisasyon sa pagsasaayos ng internet. Sa pamamagitan ng mga katawan tulad ng Internet Corporation for Assigned Names (ICANN) at ang Internet Engineering Task Force (IETF), nag-install kami ng mga balangkas ng multistakeholder upang paganahin ang pagbuo ng mga karaniwang pamantayan at upang payagan ang paglutas ng hindi pagkakaunawaan sa pamamagitan ng arbitrasyon kaysa sa mga korte.

Ang ilang antas ng regulasyon ng AI ay, walang alinlangan, ay kinakailangan, ngunit walang paraan na ang walang hangganan, bukas, mabilis na pagbabagong Technology na ito ay ganap na makokontrol ng mga pamahalaan. Sana ay maisantabi nila ang kasalukuyang animus patungo sa industriya ng Crypto at hanapin ang payo nito sa pagresolba sa mga hamong ito gamit ang mga desentralisadong pamamaraan.