Эдвард Сноуден: Исследователи должны научить ИИ быть «лучше нас»

ОСТИН, Техас — Модели искусственного интеллекта (ИИ) вскоре могут превзойти возможности человека, но только если мы перестанем учить их думать как мы и позволим им «быть лучше нас», заявил президент Фонда свободы прессы Эдвард Сноуден на пресс-конференции вКонсенсус 2023.

Бывший информатор Агентства национальной безопасности, который присоединился к конференции виртуально из России, поделился своими осторожно-оптимистичными взглядами на будущее ИИ, Технологии , которая ворвалась в мейнстрим после развертывания OpenAI ChatGPT прошлой осенью. Хотя Сноуден иногда повторял предупреждения некоторых экспертов о том, что технологии ИИ могут расширить возможности злоумышленников, он также рассматривал позитивные варианты использования новой Технологии.

Сноуден утверждал, что модели искусственного интеллекта могут помешать правительственному надзору, а не способствовать реализации программ инвазивной разведки.

«Может быть, они могли бы прекратить шпионитьна общественность и начать шпионитьдля «Это было бы чистым благом», — сказал Сноуден.

Полный текст Consensus 2023 можно прочитать здесь.

Однако он также предупредил, что запуск ChatGPT и других все более сложных моделей искусственного интеллекта может подтолкнуть крупные технологические и правительственные инициативы к вторжению в Политика конфиденциальности пользователей.

Сноуден заявил CoinDesk, что для того, чтобы помешать злоумышленникам использовать технологии ИИ, люди должны бороться за то, чтобы открытые модели ИИ оставались открытыми.

«Люди поднимут красный флаг «программного коммунизма», в то время как нам нужно будет заявить, что модели должны быть открытыми», — сказал Сноуден.

Свою критику он адресовал конкретно новым моделям ИИ, которые становятся все менее и менее открытыми, особо выделив OpenAI.

«Это плохая шутка, не так ли? Они отказались предоставить публичный доступ к своим торговым данным, своим моделям, весам и т. д. – но они лидеры в этой области. Их вознаграждают. Их вознаграждают за антисоциальное поведение».

То, как используется Технологии , утверждает он, сводится к тому, как исследователи тренируют двигатели ИИ. Большая часть обучения ИИ в настоящее время подразумевает кормление ИИ с ложечки большими объемами онлайн-контента, включая комментарии в социальных сетях, что, по словам Сноудена, не является идеальным.

«Они тренируют [модели ИИ] на ветках Reddit», — сказал Сноуден. «Это как интернет-эквивалент комментариев на YouTube. Но вы хотите создать что-то приличное, хорошее, креативное и полезное».

Он также отметил, что современные методы обучения вращаются вокруг обучения моделей ИИ «думать как мы», что может ограничить потенциал технологии в плане улучшения человечности.

«Как и в случае с детьми, нам T нужно, чтобы машины были похожи на нас, — сказал Сноуден. — Нам нужно, чтобы они были лучше нас. И если они T лучше нас, значит, мы проделали ужасную работу».

Читать дальше: Какая связь между Криптo и искусственным интеллектом? Есть ли она?