OPML: Машинно-обучающая рамка на основе оптимистичного подхода
Мы предложили новую структуру под названием OPML(Оптимистическое машинное обучение), которая может эффективно выполнять вывод и обучение моделей ИИ в блокчейн-системах. По сравнению с ZKML, OPML обладает более низкими затратами и высокой эффективностью. Аппаратные требования OPML очень низкие, обычный ПК может выполнять задачи OPML, включая крупные языковые модели, такие как 7B-LLaMA, без GPU.
OPML использует механизм проверки игровых процессов для обеспечения децентрализации и проверяемости ML-сервисов. Его процесс выглядит следующим образом:
Пользователь инициирует запрос на услуги ML
Сервер завершает задачу и отправляет результаты в блокчейн
Проверка результатов валидатора, в случае разногласий запускается игра верификации
Определение конкретных шагов ошибки через двоичный протокол
Наконец, арбитраж осуществляется поэтапно с помощью смарт-контракта.
Чтобы преодолеть ограничения однофазной схемы, мы предложили многофазную верификационную игру:
Вычисления выполняются только на последнем этапе в VM, другие этапы могут выполняться гибко.
Полное использование ускорения и параллельной обработки с помощью GPU/TPU
Значительное повышение производительности выполнения, близкое к уровню локальной среды
Использование деревьев Меркла для обеспечения целостности и безопасности переходов между этапами
В качестве примера модели LLaMA мы используем двухфазный метод OPML:
На втором этапе проводится верификация игры на вычислительном графе, можно использовать ускорение с помощью GPU
Первый этап преобразует вычисления отдельного узла в инструкции VM
Многоступенчатый метод может обеспечить α-кратное ускорение вычислений по сравнению с одноступенчатым, одновременно значительно уменьшая размер дерева Меркла.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
8 Лайков
Награда
8
7
Репост
Поделиться
комментарий
0/400
GateUser-ccc36bc5
· 19ч назад
О, о, все GPU сэкономили.
Посмотреть ОригиналОтветить0
DeadTrades_Walking
· 08-16 06:45
Верификация игры — это просто игра в прятки на сервере.
Посмотреть ОригиналОтветить0
AirdropHunter007
· 08-16 06:40
Эй, разве это не весна для GPU Майнеров?
Посмотреть ОригиналОтветить0
FundingMartyr
· 08-16 06:36
низкая цена跑LLama?бык哇
Посмотреть ОригиналОтветить0
ImpermanentPhilosopher
· 08-16 06:33
в блокчейне ai真要来了
Посмотреть ОригиналОтветить0
OnChainDetective
· 08-16 06:30
Еще один "Децентрализация" черный ящик... Кто будет контролировать тайные действия валидаторов? Перевод средств 0.618 вызывает подозрения.
Посмотреть ОригиналОтветить0
PretendingToReadDocs
· 08-16 06:25
Все говорят, что не успевают за временем, железо тоже не подходит. Когда же можно будет заполучить GPU?
OPML: Создание эффективной в блокчейне AI-структуры, инновационное решение, превосходящее ZKML
OPML: Машинно-обучающая рамка на основе оптимистичного подхода
Мы предложили новую структуру под названием OPML(Оптимистическое машинное обучение), которая может эффективно выполнять вывод и обучение моделей ИИ в блокчейн-системах. По сравнению с ZKML, OPML обладает более низкими затратами и высокой эффективностью. Аппаратные требования OPML очень низкие, обычный ПК может выполнять задачи OPML, включая крупные языковые модели, такие как 7B-LLaMA, без GPU.
OPML использует механизм проверки игровых процессов для обеспечения децентрализации и проверяемости ML-сервисов. Его процесс выглядит следующим образом:
! OPML: Машинное обучение с оптимистичным свертыванием
Однофазная проверка игры
Ключевые моменты одностадийного OPML включают:
В базовом тестировании мы можем завершить DNN вывод за 2 секунды, весь процесс испытания может быть завершен за 2 минуты.
! OPML: Машинное обучение с оптимистичной системой свертывания
Многоступенчатая верификация игры
Чтобы преодолеть ограничения однофазной схемы, мы предложили многофазную верификационную игру:
В качестве примера модели LLaMA мы используем двухфазный метод OPML:
Многоступенчатый метод может обеспечить α-кратное ускорение вычислений по сравнению с одноступенчатым, одновременно значительно уменьшая размер дерева Меркла.
! OPML: Машинное обучение с оптимистичным свертыванием
! OPML: Машинное обучение с оптимистичным свертыванием
Согласованность и определенность
Чтобы обеспечить согласованность результатов ML, мы приняли следующие меры:
Эти технологии эффективно преодолевают вызовы, связанные с плавающими переменными и различиями платформ, увеличивая надежность вычислений OPML.
OPML все еще находится в процессе разработки. Мы приветствуем заинтересованных лиц присоединиться и внести свой вклад в развитие OPML.
! OPML: Машинное обучение с оптимистичной системой свертывания