Децентрализованный ИИ вновь набирает популярность в последние месяцы, поскольку все больше людей начинают изучать пересечение Web3 и генеративного ИИ. Хотя большинство людей согласны с тем, что децентрализация может иметь положительные преимущества для ИИ, конкретные технические пути сталкиваются с серьезными препятствиями.

Например, хотя мы все думаем, что децентрализованные вычислительные сети (DePIN) могут помочь уравновесить игры по накоплению GPU, в которых доминируют крупные технологические платформы, реальность такова, что требования к предварительному обучению и тонкой настройке больших базовых моделей требуют концентрированных топологий GPU с массивными коммуникационными шинами.

Аналогично, децентрализованные сети данных кажутся ясной идеей для смягчения растущей концентрации данных в крупных компаниях. Но на практике попытки решить эту проблему имели весьма посредственный успех.

При размышлении о децентрализации ИИ важно понимать, что ИИ имеет тенденцию все больше эволюционировать в сторону централизованных архитектур, что делает любые усилия по децентрализации невероятно сложными. Чтобы децентрализованный генеративный ИИ мог преодолеть эти естественные проблемы, ему необходимо опираться на четыре ключевые тенденции или влиять на них:

• Чтобы децентрализованный ИИ стал возможным, генеративный ИИ с открытым исходным кодом должен стать более распространенным
• Децентрализованный ИИ — это игра в вывод и ничего более
• Инфраструктуры вычислений и данных Web3 должны масштабироваться для удовлетворения требований базовых моделей
• Модели фундамента должны быть адаптированы для работы в децентрализованных инфраструктурах. В основном каждый путь к децентрализованному ИИ зависит от разновидностей этих четырех идей.

ИИ как сила централизации

В истории Технологии есть тенденции, которые в основном развиваются в сторону централизованных Рынки, в то время как другие являются более открытыми и сбалансированными Рынки. Мобильные устройства являются каноническим примером Технологии , которая развивалась в сторону централизованного рынка с двумя основными игроками.

Это в основном относится к сложным требованиям в плане оборудования, программного обеспечения, исследований, цепочки поставок и дистрибуции, которые могут освоить лишь немногие компании. Другие тенденции, такие как базы данных, начинались как силы централизации с такими компаниями, как Oracle, IBM и Microsoft, и развивались в более конкурентные Рынки с большим количеством игроков с открытым исходным кодом.

У ИИ ONE из самых централизованных ДНК среди всех технологий в истории. Очевидно, это связано с зависимостями в таких областях, как вычисления или данные, которые также фундаментально централизованы. С этой точки зрения естественно ожидать, что на рынке ИИ будет доминировать горстка компаний.

Любой централизованный рынок может использовать уравновешивающую силу. В этом смысле заманчиво думать, что блокчейны могли бы стать этим элементом. Хотя этот вывод направленно верен, для его воплощения потребуется толчок внешних рыночных сил, а также массовое принятие генеративного ИИ с открытым исходным кодом и эволюция инфраструктуры Web3 и базовых моделей.

Генеративный ИИ с открытым исходным кодом должен стать мейнстримом

Не существует децентрализованного генеративного ИИ без генеративного ИИ с открытым исходным кодом. Волна инноваций в генеративном ИИ с открытым исходным кодом, безусловно, захватывает дух, но только несколько компаний, таких как HuggingFace, Meta, Mistral или Stability, являются жизнеспособными альтернативами OpenAI, Anthropic или Google.

Децентрализованный ИИ будет фокусироваться на рабочих процессах вывода с использованием базовых моделей с открытым исходным кодом

Корпоративные приложения с жесткими ограничениями безопасности и Политика конфиденциальности , а также стартапы ИИ в регулируемых отраслях, по-видимому, являются сильными векторами роста для генеративного ИИ с открытым исходным кодом. В этих сценариях инфраструктура ИИ Web3 может стать жизнеспособной альтернативой. Если предположить, что генеративный ИИ с открытым исходным кодом получит определенный уровень принятия в массах, следующая задача — понять, какие варианты использования в жизненном цикле решений генеративного ИИ хорошо подходят для децентрализованных инфраструктур.

Децентрализованный ИИ — это игра в логические выводы

Упрощенно жизненный цикл генеративных моделей ИИ можно разделить на три основные фазы: предварительное обучение, тонкая настройка и вывод.

Первые два связаны с получением моделей для обобщения знаний на основе данных, в то время как вывод связан с прогнозами, выдаваемыми моделями. Чрезвычайно большой размер базовых моделей и их сложные вычислительные требования делают децентрализованные инфраструктуры совершенно непрактичными для сценариев предварительного обучения и тонкой настройки.

Эти рабочие процессы требуют сотен или тысяч графических процессоров, соединенных высокопроизводительными коммуникационными шинами, которые могут принимать данные и пересчитывать веса в модели в течение недель или месяцев. Не говоря уже о том, что данные, необходимые для предварительной подготовки и тонкой настройки, часто хранятся в облачных центрах обработки данных, и это приводит к тому, что их перемещение в децентрализованную инфраструктуру становится совершенно невыгодным с точки зрения затрат.

Вывод — гораздо более практичный сценарий для децентрализованного генеративного ИИ и, возможно, ONE , который может работать при текущем состоянии технологий. С точки зрения рынка, рабочие нагрузки вывода также составляют большую долю доходов генеративного ИИ. Теперь, когда мы знаем, что децентрализованный ИИ будет фокусироваться на рабочих процессах вывода с моделями с открытым исходным кодом, нам нужно выяснить, какой тип инфраструктуры Web3 может поддерживать эти варианты использования.

Инфраструктуры Web3 должны расти

Текущее поколение сред выполнения блокчейна не было разработано для запуска больших фундаментальных моделей, даже для случаев использования вывода. Для решения этой проблемы определенно необходимы новые среды выполнения блокчейна, оптимизированные для более крупных и сложных вычислительных нагрузок. Вычисление вывода вне цепочки — это хорошая золотая середина, но ONE T полностью решает проблемы централизации с генеративным ИИ.

Модели фундаментов должны стать меньше

В прошлом году компания Microsoft ввела термин «малые языковые модели» на основе своей работы над базовой моделью под названием Phi и легендарной статьей«Учебники — это все, что вам нужно». Маленький Phi имел всего 3B параметров и был предварительно обучен на серии учебников по информатике, и он смог превзойти модели 70B в задачах по математике и информатике.

Работа над Phi показала, что меньшие и более специализированные модели являются ONE из важнейших шагов на пути к принятию генеративного ИИ. Точно так же, как инфраструктурам Web3 необходимо масштабироваться для принятия базовых моделей, тенденция SLM может сделать модели более практичными для запуска в инфраструктуре Web3. Маловероятно, что в NEAR будущем мы увидим инфраструктуру Web3, запускающую модель с триллионом параметров, но 2B-3B определенно возможен.

Трудный, но возможный путь к децентрализованному ИИ

Идея децентрализованного генеративного ИИ концептуально тривиальна, но на практике очень сложна. ИИ естественным образом развивается как все более централизованная Технологии, и любые усилия по децентрализации — это тяжелая битва. Массовое принятие моделей генеративного ИИ с открытым исходным кодом имеет важное значение для жизнеспособности децентрализованных инфраструктур ИИ. Аналогичным образом, текущее состояние генеративного ИИ предполагает, что большинство начальных вариантов использования децентрализованного ИИ будут сосредоточены на выводе, а не на предварительном обучении или тонкой настройке. Наконец, чтобы сделать децентрализованный ИИ практичным, инфраструктуры Web3 должны масштабироваться на несколько порядков, в то время как базовые модели должны стать меньше и более адаптируемыми к децентрализованным средам.

Эта комбинация факторов представляет собой наилучший путь к децентрализованному генеративному ИИ. Этот путь будет чрезвычайно трудным, но, по крайней мере на данный момент, безусловно возможным.