Едвард Сноуден: Дослідники повинні навчити ШІ бути «кращим за нас»

ОСТІН, Техас. Моделі штучного інтелекту (ШІ) незабаром можуть перевершити можливості людини, але лише якщо ми перестанемо вчити їх думати так само, як ми, і дозволимо їм «бути кращими за нас», — заявив президент Фонду свободи преси Едвард Сноуден. Консенсус 2023.

Колишній інформатор Агентства національної безпеки, який приєднався до конференції фактично з Росії, поділився своїми обережно оптимістичними поглядами на майбутнє штучного інтелекту, Технології , яка вибухнула в мейнстрімі після розгортання OpenAI ChatGPT минулої осені. Хоча Сноуден іноді повторював застереження деяких експертів про те, що технології штучного інтелекту можуть розширити можливості поганих акторів, він також розглядав позитивні випадки використання нової Технології.

Сноуден стверджував, що моделі штучного інтелекту можуть перешкоджати урядовому нагляду, а не стимулювати інвазивні розвідувальні програми.

«Можливо, вони могли б перестати шпигувати на громадськість і почати шпигувати для громадськості", - сказав Сноуден. "Це було б непогано".

Читайте повне висвітлення Консенсусу 2023 тут.

Однак він також попередив, що запуск ChatGPT та інших все більш складних моделей штучного інтелекту може підштовхнути великі технологічні та державні ініціативи, спрямовані на посягання на Політика конфіденційності користувачів.

Щоб запобігти зловмисникам кооптувати технології ШІ, люди повинні боротися за те, щоб відкриті моделі ШІ залишалися відкритими, сказав Сноуден CoinDesk.

«Люди піднімуть червоний прапор «програмного комунізму», де ми повинні оголосити, що моделі мають бути відкритими», — сказав Сноуден.

Він спрямував свою критику саме на нові моделі штучного інтелекту, які стають усе менш і менш відкритими, особливо згадуючи OpenAI.

«Це поганий жарт, чи не так? Вони відмовилися надати публічний доступ до своїх торгових даних, своїх моделей, ваг тощо, але вони лідери в цьому просторі. Їх винагороджують. Їх винагороджують за антисоціальну поведінку».

Як він стверджував, те, як використовується Технології , зводиться до того, як дослідники навчають механізми ШІ. Значна частина навчання штучному інтелекту наразі передбачає згодовування ШІ великої кількості онлайн-контенту, включаючи коментарі в соціальних мережах, що, на думку Сноудена, не є ідеальним.

«Вони навчають [моделі ШІ] на потоках Reddit», — сказав Сноуден. "Це схоже на інтернет-еквівалент коментарів YouTube. Але ви хочете створити щось гідне, гарне, креативне та корисне".

Він також зазначив, що сучасні методи навчання зосереджені на тому, щоб навчити моделі штучного інтелекту «думати як ми», що може обмежити потенціал технології для кращого людства.

«Як і дітям, нам T потрібні машини, щоб бути схожими на нас», — сказав Сноуден. "Нам потрібно, щоб вони були кращими за нас. І якщо вони T кращі за нас, ми виконали жахливу роботу".

Читайте також: Який зв'язок між Крипто та AI? Є там?