Edward Snowden: Os pesquisadores devem treinar a IA para ser “melhor do que nós”

AUSTIN, Texas — Os modelos de Inteligência Artificial (IA) podem em breve superar as capacidades dos humanos, mas apenas se pararmos de ensiná-los a pensar como nós e permitirmos que eles “sejam melhores do que nós”, disse o presidente da Freedom of the Press Foundation, Edward Snowden, em entrevista à BBC.Consenso 2023.

O ex-denunciante da Agência de Segurança Nacional, que se juntou à conferência virtualmente da Rússia, compartilhou suas visões cautelosamente otimistas sobre o futuro da IA, a Tecnologia que explodiu no mainstream após o lançamento do ChatGPT da OpenAI no outono passado. Enquanto Snowden às vezes ecoava os avisos de alguns especialistas de que as tecnologias de IA podem dar poder a atores ruins, ele também considerou casos de uso positivos para a Tecnologia emergente.

Snowden argumentou que os modelos de IA poderiam obstruir a vigilância governamental em vez de alimentar programas de inteligência invasivos.

"Talvez eles pudessem parar de espionarsobre o público e começar a espionarpara o público”, disse Snowden. “Isso seria um bem líquido.”

Leia a cobertura completa do Consensus 2023 aqui.

No entanto, ele também alertou que o lançamento do ChatGPT e outros modelos de IA cada vez mais sofisticados podem impulsionar grandes empresas de tecnologia e iniciativas governamentais para invadir a Política de Privacidade dos usuários.

Para evitar que agentes mal-intencionados cooptem tecnologias de IA, as pessoas devem lutar para que os modelos abertos de IA permaneçam abertos, disse Snowden ao CoinDesk.

“As pessoas vão levantar a bandeira vermelha do 'comunismo de software', onde precisamos declarar que os modelos devem ser abertos”, disse Snowden.

Ele direcionou suas críticas especificamente aos modelos emergentes de IA que estão se tornando cada vez menos abertos, citando especificamente o OpenAI.

"É uma piada de mau gosto, certo? Eles se recusaram a fornecer acesso público aos seus dados de negociação, seus modelos, os pesos e assim por diante – mas eles são líderes no espaço. Eles estão sendo recompensados. Eles estão sendo recompensados por comportamento antissocial."

Como a Tecnologia é usada, ele argumentou, se resume a como os pesquisadores treinam os motores de IA. Muito treinamento de IA atualmente envolve alimentar a IA com grandes quantidades de conteúdo online, incluindo comentários de mídia social, o que Snowden diz não ser o ideal.

​​"Eles estão treinando [modelos de IA] em tópicos do Reddit", disse Snowden. "É como o equivalente na internet dos comentários do YouTube. Mas você quer criar algo decente, bom, que seja criativo e útil."

Os métodos de treinamento atuais, ele também observou, giram em torno de ensinar modelos de IA a “pensar como nós”, o que pode limitar o potencial da tecnologia para melhorar a humanidade.

“Assim como as crianças, T precisamos que as máquinas sejam como nós”, disse Snowden. “Precisamos que elas sejam melhores do que nós. E se elas T forem melhores do que nós, fizemos um péssimo trabalho.”

Leia Mais: Qual é a relação entre Cripto e IA? Existe alguma?