Dapat Desentralisado ang AI, ngunit Paano?

Ang intersection ng Web3 at artificial intelligence (AI), partikular sa anyo ng generative AI, ay naging ONE sa pinakamainit na paksa ng debate sa loob ng komunidad ng Crypto . Pagkatapos ng lahat, binabago ng generative AI ang lahat ng mga lugar ng tradisyonal na mga Stacks ng software, at ang Web3 ay walang pagbubukod. Dahil ang desentralisasyon ay ang CORE proposisyon ng halaga ng Web3, marami sa mga umuusbong na proyekto at senaryo ng Web3-generative-AI ay nagpapalabas ng ilang anyo ng desentralisadong proposisyon ng halaga ng generative AI.

Si Jesus Rodriguez ay ang CEO ng IntoTheBlock.

Sa Web3, mayroon kaming mahabang kasaysayan ng pagtingin sa bawat domain sa pamamagitan ng isang lens ng desentralisasyon, ngunit ang katotohanan ay hindi lahat ng domain ay maaaring makinabang mula sa desentralisasyon, at para sa bawat domain, mayroong isang spectrum ng mga senaryo ng desentralisasyon. Ang paghahati-hati sa ideyang iyon mula sa isang paninindigan sa unang mga prinsipyo ay humahantong sa atin sa dalawang mahahalagang tanong:

• Karapat-dapat bang maging desentralisado ang generative AI?
• Bakit T pa gumagana ang desentralisadong AI sa scale dati, at ano ang naiiba sa generative AI?
• Ano ang iba't ibang dimensyon ng desentralisasyon sa generative AI?

Ang mga tanong na ito ay malayo sa walang kabuluhan, at ang bawat ONE ay maaaring makapagsimula ng madamdaming debate. Gayunpaman, naniniwala ako na ang pag-iisip sa mga tanong na ito ay mahalaga upang bumuo ng isang komprehensibong thesis tungkol sa mga pagkakataon at hamon sa intersection ng Web3 at generative AI.

Ang AI ba ay karapat-dapat na maging desentralisado?

Ang pilosopikal na kaso para sa desentralisasyon ng AI ay simple. Ang AI ay digital na kaalaman, at ang kaalaman ay maaaring ang numero ONE konstruksyon ng digital na mundo na nararapat na maging desentralisado. Sa buong kasaysayan ng Web3, gumawa kami ng maraming pagtatangka na i-desentralisa ang mga bagay na gumagana nang mahusay sa isang sentralisadong arkitektura, at kung saan ang desentralisasyon ay T nagbigay ng mga malinaw na benepisyo. Ang kaalaman ay hindi ONE sa mga likas na kandidato para sa desentralisasyon mula sa parehong teknikal at pang-ekonomiyang pananaw.

Ang antas ng kontrol na naipon ng malalaking tagapagbigay ng AI ay lumilikha ng napakalaking agwat sa natitirang bahagi ng kumpetisyon hanggang sa punto na ito ay nagiging nakakatakot. Ang AI ay hindi umuunlad nang linear o kahit na exponentially; ito ay sumusunod sa isang multi-exponential curve.

Read More: Jesus Rodriguez - Paano Bumubuo ang Mga Protokol ng DeFi ng Higit pang Butil-butil at Mga Napapalawak na Kakayahan

Ang GPT-4 ay kumakatawan sa isang napakalaking pagpapabuti sa GPT 3.5 sa maraming dimensyon, at malamang na magpatuloy ang tilapon na iyon. Sa ilang mga punto, nagiging hindi magagawa na subukang makipagkumpitensya sa mga sentralisadong tagapagbigay ng AI. Ang isang mahusay na idinisenyong desentralisadong modelo ng network ay maaaring magbigay-daan sa isang ecosystem kung saan ang iba't ibang partido ay nagtutulungan upang mapabuti ang kalidad ng mga modelo, na nagbibigay-daan sa demokratikong pag-access sa kaalaman at pagbabahagi ng mga benepisyo.

Ang transparency ay ang pangalawang salik na maaaring isaalang-alang kapag sinusuri ang mga merito ng desentralisasyon sa AI. Ang mga arkitektura ng modelo ng pundasyon ay nagsasangkot ng milyun-milyong magkakaugnay na neuron sa ilang mga layer, na ginagawang hindi praktikal na maunawaan gamit ang mga tradisyonal na kasanayan sa pagsubaybay. Walang sinuman ang talagang nakakaintindi kung ano ang nangyayari sa loob ng GPT-4, at ang OpenAI ay walang mga insentibo upang maging mas transparent sa lugar na iyon. Maaaring paganahin ng mga desentralisadong AI network ang mga bukas na pagsubok na benchmark at mga guardrail na nagbibigay ng visibility sa paggana ng mga modelo ng pundasyon nang hindi nangangailangan ng tiwala sa isang partikular na provider.

Bakit T Gumagana ang Desentralisadong AI Hanggang Ngayon?

Kung ang kaso para sa desentralisadong AI ay napakalinaw, kung gayon bakit T tayo nakakita ng anumang matagumpay na pagtatangka sa lugar na ito? Pagkatapos ng lahat, ang desentralisadong AI ay hindi isang bagong ideya, at marami sa mga prinsipyo nito ay nagsimula noong unang bahagi ng 1990s. Nang hindi nakapasok sa mga teknikalidad, ang pangunahing dahilan para sa kakulangan ng tagumpay ng mga desentralisadong diskarte sa AI ay ang halaga ng proposisyon ay pinagdududahan sa pinakamahusay.

Bago dumating ang malalaking modelo ng pundasyon, ang nangingibabaw na paradigma ng arkitektura ay iba't ibang anyo ng pinangangasiwaang pag-aaral na nangangailangan ng mataas na na-curate at may label na mga dataset, na karamihan ay naninirahan sa loob ng mga hangganan ng kumpanya. Bilang karagdagan, ang mga modelo ay sapat na maliit upang madaling maipaliwanag gamit ang mga pangunahing tool. Sa wakas, ang kaso para sa kontrol ay napakahina din, dahil walang mga modelo na sapat na malakas upang magdulot ng anumang antas ng pag-aalala.

Sa isang medyo kabalintunaan na twist, ang katanyagan ng malakihang generative AI at mga modelo ng pundasyon sa isang sentralisadong paraan ay nakatulong na gawing mabubuhay ang kaso para sa desentralisadong AI sa unang pagkakataon sa kasaysayan.

Ngayong nauunawaan na natin na ang AI ay karapat-dapat na maging desentralisado at ang oras na ito ay medyo naiiba sa mga nakaraang pagtatangka, maaari na nating simulan ang pag-iisip kung aling mga partikular na elemento ang nangangailangan ng desentralisasyon.

Ang Mga Dimensyon ng Desentralisasyon sa AI

Pagdating sa generative AI, walang iisang diskarte sa desentralisasyon. Sa halip, ang desentralisasyon ay dapat isaalang-alang sa konteksto ng iba't ibang yugto ng lifecycle ng mga modelo ng pundasyon. Narito ang tatlong pangunahing yugto sa tagal ng pagpapatakbo ng mga modelo ng pundasyon na nauugnay sa desentralisasyon:

• Ang pre-training ay ang yugto kung saan sinasanay ang isang modelo sa malalaking volume ng mga dataset na walang label at may label.
• Ang fine-tuning, na karaniwang opsyonal, ay ang yugto kung saan ang isang modelo ay "muling sinanay" sa mga dataset na partikular sa domain upang i-optimize ang pagganap nito sa iba't ibang gawain.
• Ang hinuha ay ang yugto kung saan ang isang modelo ay naglalabas ng mga hula batay sa mga partikular na input.

Sa buong tatlong yugtong ito, may iba't ibang dimensyon na mahusay na kandidato para sa desentralisasyon.

Ang Dimensyon ng Compute Decentralization

Ang desentralisadong computing ay maaaring maging lubhang nauugnay sa panahon ng pre-training at finetuning at maaaring hindi gaanong nauugnay sa panahon ng hinuha. Ang mga modelo ng pundasyon ay kilalang-kilala na nangangailangan ng malalaking cycle ng GPU compute, na karaniwang ginagawa sa mga sentralisadong data center. Ang ideya ng isang desentralisadong network ng compute ng GPU kung saan maaaring magbigay ng compute ang iba't ibang partido para sa pre-training at finetuning ng mga modelo ay maaaring makatulong na alisin ang kontrol na mayroon ang malalaking cloud provider sa paggawa ng mga foundation model.

Ang Dimensyon ng Desentralisasyon ng Data

Ang desentralisasyon ng data ay maaaring gumanap ng isang hindi kapani-paniwalang mahalagang papel sa mga yugto ng pre-training at fine-tuning. Sa kasalukuyan, napakakaunting transparency sa paligid ng konkretong komposisyon ng mga dataset na ginamit upang paunang sanayin at ayusin ang mga modelo ng pundasyon. Ang isang desentralisadong network ng data ay maaaring magbigay ng insentibo sa iba't ibang partido na magbigay ng mga dataset ng naaangkop na pagsisiwalat at subaybayan ang kanilang paggamit sa mga modelo ng pundasyon bago ang pagsasanay at pag-fine-tuning.

Ang Dimensyon ng Desentralisasyon ng Optimization

Maraming mga yugto sa panahon ng lifecycle ng mga modelo ng pundasyon ay nangangailangan ng mga pagpapatunay, kadalasan sa anyo ng interbensyon ng Human . Kapansin-pansin, ang mga diskarte tulad ng reinforcement learning na may feedback ng Human (RLHF) ay nagbibigay-daan sa paglipat mula sa GPT-3 patungo sa ChatGPT sa pamamagitan ng pagpapatunay ng mga tao sa mga output ng modelo upang magbigay ng mas mahusay na pagkakahanay sa mga interes ng Human . Ang antas ng pagpapatunay na ito ay partikular na nauugnay sa panahon ng mga yugto ng fine-tuning, at sa kasalukuyan, napakakaunting transparency sa paligid nito. Ang isang desentralisadong network ng mga validator ng Human at AI na nagsasagawa ng mga partikular na gawain, na ang mga resulta ay agad na masusubaybayan, ay maaaring maging isang makabuluhang pagpapabuti sa lugar na ito.

Read More: Jesus Rodriguez - Isang Bagong Blockchain para sa Generative AI?

Ang Dimensyon ng Desentralisasyon ng Pagsusuri

Kung hihilingin ko sa iyo na piliin ang pinakamahusay na modelo ng wika para sa isang partikular na gawain, kailangan mong hulaan ang sagot. Pangunahing sira ang mga benchmark ng AI, napakakaunting transparency sa paligid nila, at nangangailangan sila ng BIT tiwala sa mga partidong lumikha sa kanila. Ang desentralisasyon sa pagsusuri ng mga modelo ng pundasyon para sa iba't ibang gawain ay isang hindi kapani-paniwalang mahalagang gawain upang mapataas ang transparency sa espasyo. Ang dimensyong ito ay partikular na may kaugnayan sa yugto ng inference.

Ang Dimensyon ng Desentralisasyon ng Pagpapatupad ng Modelo

Panghuli, ang pinaka-halatang lugar ng desentralisasyon. Ang paggamit ng mga modelo ng pundasyon ngayon ay nangangailangan ng tiwala sa mga imprastraktura na kinokontrol ng isang sentralisadong partido. Ang pagbibigay ng network kung saan ang mga inference workload ay maaaring ipamahagi sa iba't ibang partido ay isang kawili-wiling hamon na maaaring magdulot ng napakalaking halaga sa pag-aampon ng mga modelo ng pundasyon.

Ang tamang paraan ng paggawa ng AI

Ang mga modelo ng pundasyon ay nagtulak sa AI na mainstream na pag-aampon at pinabilis din ang lahat ng mga hamon na dulot ng mabilis na pagtaas ng mga kakayahan ng mga modelong ito. Sa mga hamong ito, hindi kailanman naging mas malakas ang kaso para sa desentralisasyon.

Ang digital na kaalaman ay nararapat na maging desentralisado sa lahat ng dimensyon nito: data, compute, validation, optimization, execution. Walang sentralisadong entity ang karapat-dapat na magkaroon ng ganoong kapangyarihan sa kinabukasan ng katalinuhan. Ang kaso para sa desentralisadong AI ay malinaw, ngunit ang mga teknikal na hamon ay napakalaking. Ang desentralisasyon ng AI ay mangangailangan ng higit sa ONE teknikal na tagumpay, ngunit ang layunin ay tiyak na makakamit. Sa panahon ng mga modelo ng pundasyon, ang desentralisadong AI ang tamang paraan para lapitan ang AI.