Останніми місяцями децентралізований ШІ знову набуває популярності, оскільки все більше людей починають досліджувати перетин Web3 і генеративного ШІ. Хоча більшість людей погоджуються, що децентралізація може мати позитивні переваги для штучного інтелекту, конкретні технічні шляхи стикаються з серйозними перешкодами.

Наприклад, хоча ми всі думаємо, що децентралізовані обчислювальні мережі (DePIN) можуть допомогти врівноважити ігри з накопиченням графічного процесора, в яких домінують великі технологічні платформи, реальність полягає в тому, що вимоги до підготовки та тонкого налаштування великих базових моделей вимагають зосереджених топологій GPU з масивними автобуси зв'язку.

Подібним чином децентралізовані мережі передачі даних здаються чіткою ідеєю для пом’якшення зростаючої концентрації даних у великих компаніях. Але на практиці спроби вирішити цю проблему мають дуже посередній результат.

Розмірковуючи про децентралізацію штучного інтелекту, важливо розуміти, що штучний інтелект має тенденцію все більше розвиватися в напрямку централізованих архітектур, що робить будь-які зусилля з децентралізації неймовірно складними. Щоб децентралізований генеративний штучний інтелект міг подолати ці природні виклики, він повинен спиратися на чотири ключові тенденції або впливати на них:

• Щоб децентралізований штучний інтелект став можливим, генеративний штучний інтелект з відкритим кодом має стати більш масовим
• Децентралізований штучний інтелект – це гра в логічний висновок і нічого більше
• Інфраструктури обчислень і даних Web3 потрібно масштабувати, щоб відповідати вимогам основних моделей
• Основні моделі необхідно адаптувати для роботи в децентралізованих інфраструктурах. Переважно кожен шлях до децентралізованого ШІ залежить від особливостей цих чотирьох ідей.
  

ШІ як сила централізації

В історії Технології є тенденції, які фундаментально розвиваються до централізованих Ринки, тоді як інші є більш відкритими та збалансованими Ринки. Мобільний телефон є канонічним прикладом Технології , яка еволюціонувала до централізованого ринку з двома основними гравцями.

Здебільшого це пов’язано зі складними вимогами щодо апаратного забезпечення, програмного забезпечення, досліджень, ланцюга поставок і розподілу, які можуть впоратися лише з кількома компаніями. Інші тенденції, такі як бази даних, почалися як сили централізації в таких компаніях, як Oracle, IBM і Microsoft, і розвинулися в більш конкурентні Ринки з великою кількістю гравців з відкритим кодом.

AI має ONE з найбільш централізованих ДНК серед усіх технологій в історії. Очевидно, це пов’язано із залежностями в таких сферах, як обчислення чи дані, які також фундаментально централізовані. З цієї точки зору природно очікувати, що на ринку штучного інтелекту домінуватиме кілька компаній.

Будь-який централізований ринок може використовувати силу противагу. У цьому сенсі спокусливо думати, що блокчейни можуть бути цим елементом. Хоча цей висновок є правильним, для того, щоб його матеріалізувати, знадобиться підштовхування зовнішніх ринкових сил, а також загальне впровадження генеративного штучного інтелекту з відкритим кодом та еволюція інфраструктури Web3 і основних моделей.

Генеративний ШІ з відкритим вихідним кодом має стати мейнстрімом

Немає децентралізованого генеративного ШІ без генеративного ШІ з відкритим кодом. Хвиля інновацій у генеруючому штучному інтелекті з відкритим кодом, безумовно, захоплює дух, але лише кілька компаній, таких як HuggingFace, Meta, Mistral або Stability, є життєздатною альтернативою OpenAI, Anthropic або Google.

Децентралізований штучний інтелект зосереджуватиметься на робочих процесах висновків із базовими моделями з відкритим кодом

Корпоративні програми з жорсткими обмеженнями щодо безпеки та Політика конфіденційності , а також стартапи штучного інтелекту в регульованих галузях, здається, є сильними векторами зростання генеративного ШІ з відкритим кодом. У цих сценаріях інфраструктура Web3 AI може стати життєздатною альтернативою. Якщо ми припустимо, що генеративний штучний інтелект з відкритим вихідним кодом досягне певного рівня масового впровадження, наступним завданням буде зрозуміти, які випадки використання в рамках життєвого циклу рішень генеративного штучного інтелекту добре підходять для децентралізованих інфраструктур.

Децентралізований штучний інтелект – це гра в логічні висновки

Спрощено кажучи, життєвий цикл генеративних моделей штучного інтелекту можна розділити на три основні фази: попереднє навчання, тонке налаштування та висновок.

Перші два пов’язані з отриманням моделей для узагальнення знань на основі даних, тоді як логічний висновок пов’язаний із прогнозами, виведеними моделями. Надзвичайно великий розмір базових моделей і їх складні вимоги до обчислень роблять децентралізовані інфраструктури абсолютно непрактичними для сценаріїв попереднього навчання та тонкого налаштування.

Ці робочі процеси вимагають сотень або тисяч графічних процесорів, з’єднаних високопродуктивними комунікаційними шинами, які можуть приймати дані та перераховувати ваги в моделі протягом тижнів або місяців. Не кажучи вже про те, що дані, необхідні для попереднього навчання та тонкого налаштування, часто зберігаються в хмарних центрах обробки даних, і це призводить до того, що переміщення їх у децентралізовану інфраструктуру є абсолютно недорогим.

Висновок є набагато більш практичним сценарієм для децентралізованого генеративного штучного інтелекту і, мабуть, ONE , який може працювати в поточному стані технологій. З точки зору ринку, робочі навантаження на логічні висновки також становлять більший відсоток доходів від штучного інтелекту. Тепер, коли ми знаємо, що децентралізований штучний інтелект зосереджуватиметься на робочих процесах висновків із базовими моделями з відкритим кодом, нам потрібно з’ясувати, який тип інфраструктури Web3 може підтримувати ці варіанти використання.

Інфраструктури Web3 потрібно розвивати

Поточне покоління середовища виконання блокчейнів не було розроблене для запуску великих базових моделей, навіть для випадків використання висновків. Щоб вирішити цю проблему, безумовно, потрібні нові середовища виконання блокчейну, оптимізовані для більших і складніших обчислювальних навантажень. Обчислення поза ланцюгом логічного висновку є гарною золотою серединою, але ONE T повністю вирішує проблеми централізації з генеративним ШІ.

Моделі фундаменту потрібно зменшити

Минулого року корпорація Майкрософт ввела термін «малі мовні моделі» на основі своєї роботи над базовою моделлю під назвою Phi та культовою паперою «Підручники — це все, що вам потрібно». Маленький Phi мав лише параметри 3B і був попередньо навчений за серією підручників з інформатики, і він міг перевершити моделі 70B у завданнях з математики та інформатики.

Робота над Phi показала, що менші та більш спеціалізовані моделі є ONE із найважливіших кроків на шляху до впровадження генеративного ШІ. Подібно до того, як інфраструктури Web3 потрібно масштабувати, щоб прийняти основні моделі, тенденція SLM може зробити моделі більш практичними для роботи в інфраструктурі Web3. Навряд чи NEAR часом ми побачимо інфраструктуру Web3 з моделлю трильйонів параметрів, але 2B-3B точно можливий.

Складний, але можливий шлях до децентралізованого ШІ

Ідея децентралізованого генеративного ШІ концептуально тривіальна, але практично дуже складна. AI природним чином розвивається як дедалі більш централізована Технології, і будь-які спроби децентралізації є важкою боротьбою. Основне впровадження генеративних моделей ШІ з відкритим кодом є важливим для життєздатності децентралізованих інфраструктур ШІ. Подібним чином поточний стан генеративного ШІ свідчить про те, що більшість початкових випадків використання децентралізованого ШІ будуть зосереджені на висновках, а не на попередньому навчанні чи тонкому налаштуванні. Нарешті, щоб зробити децентралізований штучний інтелект практичним, інфраструктури Web3 повинні масштабуватися на кілька порядків, тоді як базові моделі мають стати меншими та більш адаптованими до децентралізованих середовищ.

Така комбінація факторів є найкращим шляхом до децентралізованого генеративного ШІ. Цей шлях буде надзвичайно важким, але, принаймні на даний момент, цілком можливим.