Ang desentralisadong AI ay muling sumikat sa mga nakalipas na buwan habang mas maraming tao ang nagsimulang mag-explore sa intersection ng Web3 at generative AI. Bagama't ang karamihan sa mga tao ay sumasang-ayon na ang desentralisasyon ay maaaring magkaroon ng mga positibong benepisyo para sa AI, ang mga partikular na teknikal na landas ay humahantong sa mga pangunahing hadlang.

Halimbawa, habang iniisip nating lahat na ang mga desentralisadong compute network (DePIN) ay makatutulong sa pag-counterbalance ng mga laro ng akumulasyon ng GPU na pinangungunahan ng malalaking tech na platform, ang katotohanan ay ang mga kinakailangan sa pre-training at fine-tuning ng mga malalaking modelo ng pundasyon ay nangangailangan ng mga concentrate na GPU topologies na may napakalaking mga bus ng komunikasyon.

Katulad nito, ang mga desentralisadong network ng data ay tila isang malinaw na ideya upang pagaanin ang pagtaas ng konsentrasyon ng data sa malalaking kumpanya. Ngunit, sa pagsasagawa, ang mga pagtatangka na lutasin ang problemang iyon ay nakakita ng napakakatamtamang traksyon.

Kapag nag-iisip tungkol sa pag-desentralisa ng AI, mahalagang matanto na ang AI ay may posibilidad na higit na mag-evolve patungo sa mga sentralisadong arkitektura, na ginagawang hindi kapani-paniwalang hamon ang anumang pagsisikap sa desentralisasyon. Para malampasan ng desentralisadong generative AI ang mga natural na hamon na iyon, kailangan nitong umasa o maimpluwensyahan ang apat na pangunahing trend:

• Para maging posible ang desentralisadong AI, kailangang maging mas mainstream ang open-source generative AI
• Ang desentralisadong AI ay isang inference game at wala nang iba pa
• Kailangang sukatin ang Web3 compute at mga imprastraktura ng data upang matugunan ang mga hinihingi ng mga modelo ng pundasyon
• Ang mga modelo ng pundasyon ay kailangang iakma upang tumakbo sa mga desentralisadong imprastraktura. Karamihan sa bawat landas patungo sa desentralisadong AI ay nakasalalay sa mga lasa ng apat na ideyang ito.
  

AI bilang isang puwersang sentralisasyon

Sa kasaysayan ng Technology, may mga uso na sa panimula ay nagbabago patungo sa mga sentralisadong Markets, habang ang iba ay mas bukas at balanseng mga Markets. Ang mobile ay ang canonical na halimbawa ng isang Technology na umunlad patungo sa isang sentralisadong merkado na may dalawang pangunahing manlalaro.

Ito ay kadalasang ibinibigay sa mga kumplikadong kinakailangan sa mga tuntunin ng hardware, software, pananaliksik, supply chain, at pamamahagi, na iilang kumpanya lamang ang maaaring makabisado. Ang iba pang mga uso, tulad ng mga database, ay nagsimula bilang mga puwersa ng sentralisasyon sa mga kumpanya tulad ng Oracle, IBM, at Microsoft, at naging mas mapagkumpitensyang mga Markets na may maraming open-source na mga manlalaro.

Ang AI ay may ONE sa mga pinaka-sentralisadong DNA ng anumang teknolohiya sa kasaysayan. Malinaw na ito ay dahil sa mga dependency sa mga lugar tulad ng compute o data, na sa panimula ay sentralisado din. Mula sa pananaw na iyon, natural na asahan na ang merkado ng AI ay mapangibabawan ng ilang kumpanya.

Anumang sentralisadong pamilihan ay maaaring gumamit ng isang puwersang pang-counterbalancing. Sa ganoong kahulugan, ito ay nakatutukso na isipin na ang mga blockchain ay maaaring ang elementong iyon. Bagama't tama ang konklusyong iyon, upang magkatotoo, kakailanganin nito ang pagtulak ng mga panlabas na puwersa ng merkado pati na rin ang pangunahing pag-aampon ng open source generative AI at ang ebolusyon ng imprastraktura ng Web3 at mga modelo ng pundasyon.

Ang Open-Source Generative AI ay Kailangang Maging Mainstream

Walang desentralisadong generative AI na walang open source generative AI. Ang wave ng innovation sa open-source generative AI ay tiyak na kapansin-pansin, ngunit iilan lang sa mga kumpanya, gaya ng HuggingFace, Meta, Mistral, o Stability, ang mga mabubuhay na alternatibo sa OpenAI, Anthropic o Google.

Ang desentralisadong AI ay tututuon sa mga inference workflow na may mga open-source na modelo ng pundasyon

Ang mga application ng enterprise na may malakas na mga hadlang sa seguridad at Privacy , pati na rin ang mga startup ng AI sa mga regulated na industriya, ay tila mga malakas na vector ng paglago para sa open-source generative AI. Sa mga sitwasyong iyon, ang imprastraktura ng Web3 AI ay maaaring maging isang praktikal na alternatibo. Kung ipagpalagay namin na ang open-source generative AI ay makakakuha ng ilang antas ng mainstream na pag-aampon, ang susunod na hamon ay unawain kung aling mga kaso ng paggamit sa loob ng lifecycle ng mga generative AI solution ang angkop para sa mga desentralisadong imprastraktura.

Ang desentralisadong AI ay isang laro ng hinuha

Sa mga simpleng termino, ang lifecycle ng generative AI models ay maaaring hatiin sa tatlong pangunahing yugto: pre-training, fine-tuning at inference.

Ang unang dalawa ay may kinalaman sa pagkuha ng mga modelo upang gawing pangkalahatan ang kaalaman batay sa data, habang ang hinuha ay nauugnay sa mga hula na inilabas ng mga modelo. Ang napakalaking sukat ng mga modelo ng pundasyon at ang kanilang kumplikadong mga kinakailangan sa pag-compute ay ginagawang ganap na hindi praktikal ang mga desentralisadong imprastraktura para sa mga senaryo bago ang pagsasanay at pag-fine-tuning.

Nangangailangan ang mga workflow na iyon ng daan-daan o libu-libong GPU na konektado ng mga bus ng komunikasyon na may mataas na performance na maaaring mag-ingest ng data at muling magkalkula ng mga timbang sa isang modelo sa loob ng mga linggo o buwan. Hindi pa banggitin na ang data na kinakailangan para sa pre-training at fine-tuning ay madalas na nakaimbak sa mga cloud data center, at nagreresulta ito sa pagiging ganap na mahal upang ilipat ito sa isang desentralisadong imprastraktura.

Ang hinuha ay isang mas praktikal na senaryo para sa desentralisadong generative AI at, masasabing, ang tanging ONE na maaaring gumana sa kasalukuyang estado ng mga teknolohiya. Mula sa isang pananaw sa merkado, ang mga inference workload ay nagdudulot din ng mas malaking porsyento ng mga generative na kita ng AI. Ngayong alam na natin na ang desentralisadong AI ay tututuon sa mga inference workflow na may mga open-source na modelo ng pundasyon, kailangan nating alamin kung aling uri ng imprastraktura ng Web3 ang makakasuporta sa mga kaso ng paggamit na iyon.

Kailangang lumago ang mga imprastraktura ng Web3

Ang kasalukuyang henerasyon ng mga runtime ng blockchain ay hindi idinisenyo upang magpatakbo ng malalaking modelo ng pundasyon, kahit na para sa mga kaso ng paggamit ng hinuha. Upang matugunan ang hamon na iyon, ang mga bagong blockchain runtime na na-optimize para sa mas malaki at mas kumplikadong mga compute workload ay talagang kailangan. Ang off-chain inference computation ay isang magandang middle ground, ngunit ONE na T ganap na tumutugon sa mga alalahanin sa sentralisasyon sa generative AI.

Ang mga modelo ng pundasyon ay kailangang maging mas maliit

Noong nakaraang taon, nilikha ng Microsoft ang terminong "mga modelo ng maliliit na wika" batay sa trabaho nito sa isang modelo ng pundasyon na tinatawag na Phi at ang iconic na papel "Mga Textbook ang Kailangan Mo". Ang maliit na Phi ay 3B na mga parameter lamang at na-pre-trained sa isang serye ng mga computer science textbook, at nagawa nitong malampasan ang 70B na mga modelo sa mga gawain sa matematika at computer science.

Ang gawain sa Phi ay nagpahiwatig na ang mas maliit at mas espesyal na mga modelo ay ONE sa pinakamahalagang hakbang tungo sa pagpapatibay ng generative AI. Sa parehong paraan na kailangang sukatin ng mga imprastraktura ng Web3 upang magpatibay ng mga modelo ng pundasyon, ang trend ng SLM ay maaaring gawing mas praktikal ang mga modelo upang tumakbo sa imprastraktura ng Web3. Malamang na hindi tayo makakita ng imprastraktura ng Web3 na nagpapatakbo ng isang trilyong modelo ng parameter sa NEAR hinaharap, ngunit tiyak na posible ang 2B-3B.

Mahirap ngunit posibleng landas patungo sa desentralisadong AI

Ang ideya ng desentralisadong generative AI ay konseptong walang halaga ngunit halos napakahirap. Ang AI ay natural na umuunlad bilang isang lalong sentralisadong Technology, at anumang pagsisikap sa desentralisasyon ay isang mahirap na labanan. Ang pangunahing pag-aampon ng mga open source generative na modelo ng AI ay mahalaga para sa viability ng mga desentralisadong imprastraktura ng AI. Katulad nito, ang kasalukuyang estado ng generative AI ay nagmumungkahi na ang karamihan sa mga unang kaso ng paggamit ng desentralisadong AI ay tututuon sa hinuha sa halip na bago ang pagsasanay o fine-tuning. Sa wakas, upang gawing praktikal ang desentralisadong AI, kailangang sukatin ng mga imprastraktura ng Web3 sa ilang mga order ng magnitude, habang ang mga modelo ng pundasyon ay kailangang maging mas maliit at mas madaling ibagay sa mga desentralisadong kapaligiran.

Ang kumbinasyong iyon ng mga salik ay kumakatawan sa pinakamahusay na landas patungo sa desentralisadong generative AI. Ang landas na iyon ay magiging lubhang mahirap ngunit, hindi bababa sa ngayon, tiyak na posible.