Uma nova blockchain para IA generativa?

A inteligência artificial generativa (IA) rapidamente se tornou uma das tendências Tecnologia mais quentes e, sem dúvida, mais transformadoras das últimas décadas. O impacto da IA ​​generativa é evidente em todas as áreas da pilha de Tecnologia , variando de infraestrutura a aplicativos.

Desde o lançamento do ChatGPT e do subsequente GPT-4, a comunidade Web3 tem especulado sobre a potencial intersecção de IA generativa e Web3. Embora existam muitos casos de uso óbvios, como carteiras conversacionais ou exploração de linguagem, há teses mais sofisticadas que vale a pena explorar.

Jesus Rodriguez é o CEO da IntoTheBlock.

E se a IA generativa merecesse seu próprio blockchain?

Momentum de código aberto versus controle centralizado

Para analisar a viabilidade de um blockchain para IA generativa, é importante entender o estado atual das coisas em relação aos modelos de base, particularmente o surgimento de alternativas de código aberto para tecnologia baseada em API, como GPT-4, e as crescentes preocupações em torno do controle centralizado desses modelos de base.

Até alguns meses atrás, a lacuna entre modelos de fundação baseados em API e de código aberto era significativa. Modelos como o GPT-4 da OpenAI, o Claude da Anthropic no espaço de linguagem, o DALL-E e o Midjourney no espaço de visão computacional pareciam significativamente avançados em comparação com alternativas de código aberto. No entanto, uma mudança começou a ocorrer no final do ano passado com o surpreendente lançamento de código aberto do Stable Diffusion, que forneceu uma alternativa viável aos modelos de texto para imagem baseados em API. Apesar disso, os modelos de linguagem grande (LLMs) continuaram a ser o ponto focal da IA generativa e, nesse domínio, os modelos de código aberto empalideceram em comparação com alternativas baseadas em API em termos de qualidade.

No início deste ano, a Meta AI Research publicouum artigo apresentando o LLaMA, um LLM que correspondia ao desempenho do GPT-3, embora fosse significativamente menor. Inicialmente, o modelo não tinha a intenção de ser de código aberto, mas algo inesperado aconteceu. Uma semana após sua publicação, o modelo vazou no 4chan e foi rapidamente baixado por milhares de pessoas. O "acidente" do LLaMA tornou um LLM de fundação disponível para qualquer um e desencadeou um impulso inesperado na inovação de código aberto.

Logo após o vazamento, novos modelos de fundação de código aberto com nomes de animais divertidos começaram a surgir em todos os lugares. A Universidade de Stanford lançou o ALPACA, a Databricks revelou o Dolly, a Universidade de Berkeley tornou o Koala de código aberto, a UC Berkeley e a Universidade Carnegie Mellon colaboraram no lançamento do Vicuna, a Together anunciou o projeto Red Pajama, e a lista continua. A Stable Diffusion e a LLaMA ajudaram a mudar as escalas da IA ​​generativa de código aberto e geraram um impulso significativo. Além disso, os modelos de fundação de código aberto estão rapidamente fechando a lacuna com os titulares comerciais em termos de qualidade.

Outro fator que contribui para o surgimento de um blockchain de IA generativa é a preocupação em torno da falta de transparência e controle centralizado dos modelos de fundação. O tamanho e a complexidade das arquiteturas neurais que alimentam os modelos de fundação tornam a interpretabilidade exata quase impossível. Como resultado, a indústria deve contar com etapas intermediárias, como arquiteturas mais abertas e regulamentação cuidadosa. O fato de algumas entidades centralizadas controlarem os modelos mais poderosos do mercado acrescenta outra camada de preocupação em relação à viabilidade de atingir responsabilidade, transparência e interpretabilidade reais na IA generativa.

Leia Mais: Jesus Rodríguez -O próximo ChatGPT T estará no Web3 a menos que algumas coisas mudem

A combinação de inovação de código aberto em modelos de fundação e preocupações crescentes sobre controle centralizado no campo cria uma janela única de oportunidade para arquiteturas Web3. A abundância de modelos de código aberto de alta qualidade reduz as barreiras para adoção em plataformas Web3. Resolver os riscos de transparência e controle em IA generativa está longe de ser trivial, mas há pouca dúvida de que as arquiteturas de blockchain possuem propriedades-chave que podem ajudar nessa área.

Construindo uma base de IA generativa no Web3

A explosão de inovação em modelos de fundação de código aberto reduziu significativamente a barreira de entrada para plataformas Web3 incorporarem capacidades de IA generativas. A adoção de modelos de fundação em plataformas Web3 pode Siga dois caminhos fundamentais e provavelmente sequenciais:

• Criação de DApps que permitem recursos inteligentes alimentados por IA generativa.
• Construindo novas plataformas Web3 projetadas com IA generativa como componente fundamental.

No primeiro cenário, provavelmente testemunharemos ferramentas como exchanges, exploradores ou carteiras incorporando capacidades de conversação alimentadas por grandes modelos de linguagem. Além disso, uma nova geração de DApps será construída com modelos generativos como sua pedra angular. Neste cenário, a Web3 atua principalmente como um consumidor de capacidades de IA generativas, com modelos rodando em infraestruturas de nuvem tradicionais da Web2.

Alternativas mais intrigantes surgem ao considerar plataformas Web3 que podem suportar inerentemente modelos de IA generativos. Imagine modelos de fundação de código aberto como LLaMA, Dolly ou ALPACA rodando em nós dentro de um blockchain distribuído. A realização final dessa visão é um blockchain projetado especificamente para IA generativa.

O conceito de um novo blockchain otimizado para um paradigma de Tecnologia como IA generativa pode soar atraente, mas é inegavelmente controverso. Afinal, não houve novos blockchains criados exclusivamente para DeFi ou NFTs. Então, o que torna a IA generativa tão diferente?

A resposta está na incompatibilidade arquitetônica entre os requisitos para executar modelos de fundação e tempos de execução de blockchain. Um modelo de fundação pré-treinado típico consiste em milhões de neurônios espalhados por dezenas de milhares de camadas interconectadas, executando em clusters de GPUs ou topologias de hardware de aprendizado profundo especializado. Nenhum contrato inteligente na história da Web3 chega perto desse nível de complexidade. Portanto, é lógico concluir que um novo tipo de arquitetura é necessário. Até mesmo as infraestruturas da Web2 estão evoluindo para suportar modelos de IA generativa em larga escala, ilustrando a magnitude das mudanças necessárias nas arquiteturas da Web3.

Ao contemplar um novo blockchain para IA generativa, as possibilidades parecem infinitas. Mas, a iteração mais simples dessa ideia deve abranger um conjunto de capacidades CORE . A capacidade de executar nós que executam modelos de base é primordial para um blockchain dedicado à IA generativa. O mesmo se aplica à capacidade de executar fluxos de trabalho de pré-treinamento, ajuste fino e inferência, que são os três estágios principais no ciclo de vida dos modelos de base. Publicar e compartilhar conjuntos de dados usados ​​para modelos de pré-treinamento ou ajuste fino também é um recurso desejado. Uma vez que estabelecemos um tempo de execução de blockchain como a camada fundamental, inúmeras capacidades nas áreas de transparência e interpretabilidade podem ser habilitadas. Por exemplo, podemos imaginar um protocolo de prova de conhecimento que oferece transparência em relação aos pesos específicos de um modelo, validando que conjuntos de dados não tóxicos ou tendenciosos foram usados ​​para pré-treinamento.

Por que um novo blockchain?

O conceito de um blockchain especializado para IA generativa é atraente, mas será que é realmente necessário? Há uma proposta de valor válida na integração de capacidades de IA generativa em tempos de execução de blockchain existentes. No entanto, a história do software demonstra uma tendência recorrente de novos paradigmas de arquitetura influenciando tecnologias de infraestrutura. Tendências recentes como computação em nuvem ou big data servem como exemplos. Os modelos de fundação representam paradigmas de arquitetura fundamentalmente diferentes que provavelmente necessitam de infraestruturas de blockchain mais especializadas para operar efetivamente.

Além disso, não podemos ignorar o potencial da IA generativa para transformar as camadas inferiores da pilha de blockchain. Não é absurdo imaginar uma blockchain de proof-of-stake onde os validadores processam transações com base na linguagem natural. Da mesma forma, os contratos inteligentes podem utilizar a linguagem como o meio fundamental de troca de mensagens.

A IA generativa tem o potencial de impulsionar mudanças por toda a pilha de blockchain. Dessa perspectiva, parece lógico adotar uma abordagem de primeiros princípios, habilitando um novo tempo de execução com a flexibilidade para incorporar essas mudanças.

O risco de ignorar a IA generativa na Web3

A ideia de um blockchain de IA generativa pode de fato ser controversa e não sem seus desafios. No entanto, eu encorajo a explorar essa ideia usando um argumento negativo via.

O que poderia acontecer se negligenciássemos a construção de novos blockchains para IA generativa?

Atualmente, a IA generativa criou uma lacuna tecnológica significativa entre as arquiteturas Web2 e Web3. Essa lacuna continua a aumentar na ausência de capacidades nativas de IA generativa na Web3. A IA generativa está remodelando aspectos fundamentais do desenvolvimento de software, e novas estruturas e plataformas estão surgindo rapidamente para dar suporte a essa mudança de paradigma.

Desenvolver capacidades nativas de IA generativa é nada menos que um desafio existencial para a Web3, pois é crucial permitir novas WAVES de inovação no campo. Um blockchain nativo de IA generativa representa apenas uma das muitas abordagens que podem facilitar essa transição para o mundo dos modelos de fundação. Construir um novo blockchain traz inúmeros desafios, mas a rápida evolução dos tempos de execução L2, plataformas como Cosmos e o surgimento de ecossistemas L1 de alto desempenho como Aptos ou Sui tornam a possibilidade de um blockchain de IA generativa muito mais realizável do que nos anos anteriores.