Paano Ang Decentralized AI at Zero-Knowledge Proofs ay Magde-demokrasya sa Compute

Noong huling bahagi ng Hulyo, nagsulat si Mark Zuckerberg isang sulat na nagpapaliwanag kung bakit "kinakailangan ang open source para sa isang positibong hinaharap ng AI," kung saan siya ay naging patula tungkol sa pangangailangan para sa open-source na pagbuo ng AI. Ang dating-nerdy teen founder, ngayon ay naging wakeboarding, gold chain-wearing, at jiu-jitsu fighting na "Zuck," ay binansagan bilang mesiyas ng open-source model development.

Ngunit sa ngayon, siya at ang pangkat ng Meta ay T gaanong nasasabi tungkol sa paano ang mga modelong ito ay inilalagay. Habang ang pagiging kumplikado ng modelo ay nagtutulak ng mas mataas na mga kinakailangan sa pagkalkula, kung ang pag-deploy ng modelo ay kinokontrol ng isang maliit na bilang ng mga aktor, kung gayon hindi ba tayo sumuko sa isang katulad na anyo ng sentralisasyon? Nangangako ang Desentralisadong AI na lutasin ang hamon na ito, ngunit ang Technology ay nangangailangan ng mga pagsulong sa nangunguna sa industriya na mga cryptographic na diskarte at natatanging hybrid na solusyon.

Ang op-ed na ito ay bahagi ng bago ng CoinDesk DePIN Vertical, na sumasaklaw sa umuusbong na industriya ng desentralisadong pisikal na imprastraktura.

Hindi tulad ng mga sentralisadong tagapagbigay ng ulap, desentralisadong AI (DAI) namamahagi ang mga computational na proseso para sa AI inference at pagsasanay sa maraming system, network, at lokasyon. Kung ipinatupad nang tama, ang mga network na ito, isang uri ng decentralized physical infrastructure network (DePIN), ay nagdudulot ng mga benepisyo sa censorship resistance, compute access, at gastos.

Ang DAI ay nahaharap sa mga hamon sa dalawang pangunahing lugar: ang kapaligiran ng AI at ang desentralisadong imprastraktura mismo. Kung ikukumpara sa mga sentralisadong sistema, ang DAI ay nangangailangan ng mga karagdagang pananggalang upang maiwasan ang hindi awtorisadong pag-access sa mga detalye ng modelo o ang pagnanakaw at pagkopya ng pagmamay-ari na impormasyon. Para sa kadahilanang ito, mayroong isang hindi pa na-explore na pagkakataon para sa mga team na tumutuon sa mga open-source na modelo, ngunit kinikilala ang potensyal na kawalan ng performance ng mga open-sourced na modelo kumpara sa kanilang mga closed-source na katapat.

Ang mga desentralisadong sistema ay partikular na nahaharap sa mga hadlang sa integridad ng network at overhead ng mapagkukunan. Ang pamamahagi ng data ng kliyente sa magkakahiwalay na mga node, halimbawa, ay naglalantad ng higit pang mga vector ng pag-atake. Maaaring paikutin ng mga umaatake ang isang node at pag-aralan ang mga pagkalkula nito, subukang hadlangan ang mga pagpapadala ng data sa pagitan ng mga node, o kahit na magpakilala ng mga bias na nagpapababa sa pagganap ng system. Kahit na sa isang secure na desentralisadong inference na modelo, dapat mayroong mga mekanismo upang i-audit ang mga proseso ng pagkalkula. Ang mga node ay insentibo upang makatipid ng gastos sa mga mapagkukunan sa pamamagitan ng pagpapakita ng mga hindi kumpletong pagkalkula, at ang pag-verify ay kumplikado sa pamamagitan ng kakulangan ng isang pinagkakatiwalaan, sentralisadong aktor.

Zero-Knowledge Proofs

Ang mga zero-knowledge proofs (ZKPs), bagama't kasalukuyang masyadong mahal sa computation, ay ONE potensyal na solusyon sa ilang hamon sa DAI . Ang ZKP ay isang cryptographic na mekanismo na nagbibigay-daan sa ONE partido (ang prover) na kumbinsihin ang isa pang partido (ang verifier) ​​ng katotohanan ng isang pahayag nang hindi nagbubunyag ng anumang mga detalye tungkol sa mismong pahayag, maliban sa bisa nito. Ang pag-verify ng patunay na ito ay QUICK para sa iba pang mga node na tumakbo at nag-aalok ng isang paraan para sa bawat node upang patunayan na ito ay kumilos alinsunod sa protocol. Ang mga teknikal na pagkakaiba sa pagitan ng mga proof system at ang kanilang mga pagpapatupad (deep-dive sa darating na ito mamaya) ay mahalaga para sa mga mamumuhunan sa espasyo.

Ginagawang eksklusibo ng sentralisadong pag-compute ang pagsasanay ng modelo sa iilang mga manlalaro na may mahusay na posisyon at mapagkukunan. Ang mga ZKP ay maaaring maging ONE bahagi ng pag-unlock ng idle compute sa consumer hardware; ang isang MacBook, halimbawa, ay maaaring gumamit ng dagdag na compute bandwidth nito upang tumulong sa pagsasanay ng isang modelong may malaking wika habang kumikita ng mga token para sa user.

Ang pag-deploy ng desentralisadong pagsasanay o inference sa consumer hardware ay ang focus ng mga team tulad Gensyn at Inference Labs; hindi tulad ng isang desentralisadong compute network tulad ng Akash o I-render, ang sharding ng mga pagkalkula ay nagdaragdag ng pagiging kumplikado, lalo na ang problema sa floating point. Ang paggamit ng idle distributed compute resources ay nagbubukas ng pinto para sa mas maliliit na developer na subukan at sanayin ang kanilang sariling mga network — hangga't mayroon silang access sa mga tool na lumulutas sa mga nauugnay na hamon.

Sa kasalukuyan, ang mga ZKP system ay tila apat hanggang anim na order ng magnitude na mas mahal kaysa sa pagpapatakbo ng pag-compute nang native, at para sa mga gawaing nangangailangan ng mataas na compute (tulad ng pagsasanay sa modelo) o mababang latency (tulad ng modelong inference) gamit ang isang ZKP ay napakabagal. Para sa paghahambing, ang pagbaba ng anim na order ng magnitude ay nangangahulugan na ang isang cutting edge system (tulad ng Ang Jolt ni a16z) na tumatakbo sa isang M3 Max chip ay maaaring patunayan ang isang programa 150 beses na mas mabagal kaysa patakbuhin ito sa isang TI-84 graphing Calculator.

Ang kakayahan ng AI na magproseso ng malaking halaga ng data ay ginagawa itong compatible sa zero-knowledge proofs (ZKPs), ngunit higit pang pag-unlad sa cryptography ang kailangan bago ang mga ZKP ay malawakang magamit. Ang gawaing ginagawa ng mga pangkat tulad ng Hindi mababawasan (sino ang nagdisenyo ng Binius sistema ng patunay at scheme ng pangako), Gensyn, TensorOpera, Hellas, at Inference Labs, bukod sa iba pa, ay magiging isang mahalagang hakbang sa pagkamit ng pananaw na ito. Ang mga timeline, gayunpaman, ay nananatiling sobrang optimistiko dahil ang tunay na pagbabago ay nangangailangan ng oras at pag-unlad sa matematika.

Samantala, nararapat na tandaan ang iba pang mga posibilidad at hybrid na solusyon. Ang HellasAI at ang iba pa ay gumagawa ng mga bagong paraan ng kumakatawan sa mga modelo at computations na maaaring paganahin ang isang optimistic challenge game, na nagbibigay-daan lamang sa isang subset ng computation na kailangang pangasiwaan sa zero-knowledge. Gumagana lamang ang mga optimistikong patunay kapag mayroong staking, kakayahang patunayan ang maling gawain, at isang kapani-paniwalang banta na ang pagkalkula ay sinusuri ng iba pang mga node sa system. Isa pang paraan, na binuo ni Inference Labs, nagpapatunay ng isang subset ng mga query kung saan ang isang node ay nangakong bumuo ng isang ZKP na may isang BOND, ngunit ipinapakita lamang ang patunay kung unang hinamon ng kliyente.

Sa Sum

Ang desentralisadong AI na pagsasanay at inference ay magsisilbing pananggalang laban sa pagsasama-sama ng kapangyarihan ng ilang pangunahing aktor habang ina-unlock ang dating hindi naa-access na compute. Ang mga ZKP ay magiging mahalagang bahagi ng pagpapagana ng pananaw na ito. Magagawa ng iyong computer na kumita ng totoong pera nang hindi mahahalata sa pamamagitan ng paggamit ng dagdag na kapangyarihan sa pagpoproseso sa background. Ang mga maiikling patunay na ang isang pagkalkula ay naisagawa nang tama ay gagawin ang tiwala na ang pinakamalaking cloud provider ay gumagamit ng hindi kailangan, na nagbibigay-daan sa mga compute network na may mas maliliit na provider upang maakit ang mga kliyente ng enterprise.

Habang ang mga zero-knowledge proofs ay magbibigay-daan sa hinaharap na ito at maging isang mahalagang bahagi ng higit pa sa mga compute network (tulad ng pananaw ng Ethereum para sa finality ng solong slot), ang kanilang computational overhead ay nananatiling isang balakid. Ang mga hybrid na solusyon na pinagsasama ang mekanika ng teorya ng laro ng mga optimistikong laro na may piling paggamit ng mga zero-knowledge proofs ay isang mas mahusay na solusyon, at malamang na magiging ubiquitous bilang isang bridging point hanggang sa maging mas mabilis ang mga ZKP.

Para sa mga native at non-native Crypto investor, ang pag-unawa sa halaga at mga hamon ng mga desentralisadong AI system ay magiging mahalaga sa epektibong pag-deploy ng kapital. Ang mga koponan ay dapat magkaroon ng mga sagot sa mga tanong tungkol sa mga patunay ng pag-compute ng node at mga redundancies ng network. Higit pa rito, tulad ng naobserbahan namin sa maraming proyekto ng DePIN, nangyayari ang desentralisasyon sa paglipas ng panahon, at ang malinaw na plano ng mga koponan patungo sa pananaw na iyon ay mahalaga. Ang paglutas sa mga hamon na nauugnay sa DePIN compute ay mahalaga para ibalik ang kontrol sa mga indibidwal at maliliit na developer — isang mahalagang bahagi ng pagpapanatiling bukas, libre at lumalaban sa censorship ng aming mga system.

Tandaan: Ang mga pananaw na ipinahayag sa column na ito ay sa may-akda at hindi kinakailangang sumasalamin sa mga pananaw ng CoinDesk, Inc. o sa mga may-ari at kaakibat nito.