Edward Snowden : Les chercheurs devraient former l'IA à être « meilleure que nous »

AUSTIN, Texas — Les modèles d'intelligence artificielle (IA) pourraient bientôt surpasser les capacités des humains, mais seulement si nous cessons de leur apprendre à penser comme nous et leur permettons « d'être meilleurs que nous », a déclaré le président de la Freedom of the Press Foundation, Edward Snowden.Consensus 2023.

L'ancien lanceur d'alerte de l'Agence de sécurité nationale (NSA), qui a participé virtuellement à la conférence depuis la Russie, a partagé son optimisme prudent quant à l'avenir de l'IA, cette Technologies qui s'est imposée de manière fulgurante après le déploiement de ChatGPT par OpenAI l'automne dernier. Si Snowden a parfois fait écho aux avertissements de certains experts selon lesquels les technologies d'IA pourraient favoriser les acteurs malveillants, il a également envisagé des cas d'utilisation positifs pour cette Technologies émergente.

Snowden a soutenu que les modèles d’IA pourraient entraver la surveillance gouvernementale plutôt que d’alimenter des programmes de renseignement invasifs.

« Peut-être qu'ils pourraient arrêter d'espionnersur le public et commencer à espionnerpour « Le public », a déclaré Snowden. « Ce serait un bienfait net. »

Lire la couverture complète de Consensus 2023 ici.

Il a toutefois également averti que le lancement de ChatGPT et d'autres modèles d'IA de plus en plus sophistiqués pourrait alimenter les initiatives des grandes entreprises technologiques et des gouvernements visant à empiéter sur la Politique de confidentialité des utilisateurs.

Afin d'empêcher les mauvais acteurs de s'approprier les technologies de l'IA, les gens doivent se battre pour que les modèles d'IA ouverts restent ouverts, a déclaré Snowden à CoinDesk.

« Les gens vont brandir le drapeau rouge du « communisme logiciel », où nous devons déclarer que les modèles doivent être ouverts », a déclaré Snowden.

Il a spécifiquement ciblé ses critiques sur les nouveaux modèles d’IA qui deviennent de moins en moins ouverts, ciblant notamment OpenAI.

C'est une mauvaise blague, non ? Ils ont refusé de donner accès au public à leurs données de trading, à leurs modèles, aux pondérations, etc., mais ils sont leaders dans leur domaine. Ils sont récompensés. Ils sont récompensés pour leur comportement antisocial.

Selon lui, l'utilisation de la Technologies se résume à la manière dont les chercheurs entraînent les moteurs d'IA. Actuellement, une grande partie de l'entraînement de l'IA consiste à lui fournir à la petite cuillère de grandes quantités de contenu en ligne, notamment des commentaires sur les réseaux sociaux, ce qui, selon Snowden, n'est pas idéal.

« Ils entraînent [des modèles d'IA] sur les fils de discussion Reddit », a déclaré Snowden. « C'est l'équivalent en ligne des commentaires YouTube. Mais l'objectif est de créer quelque chose de bien, de bon, de créatif et d'utile. »

Les méthodes de formation actuelles, a-t-il également observé, consistent à apprendre aux modèles d’IA à « penser comme nous », ce qui pourrait limiter le potentiel de la technologie à améliorer l’humanité.

« Comme pour les enfants, nous n'avons T besoin que les machines nous ressemblent », a déclaré Snowden. « Nous avons besoin qu'elles soient meilleures que nous. Et si elles ne le sont T , nous avons fait un travail lamentable. »

Sur le même sujet : Quel est le lien entre la Crypto et l'IA ? Existe-t-il un lien ?