Четвертый парадигмы запускает решение для краевого вывода крупных моделей ModelHub AIoT

Данные 26 февраля сообщили, что из Первого примера стало известно, что Первый пример выпустил решение по решению краевой стороны для больших моделей ModelHub AIoT, пользователи могут легко развертывать небольшие модели дистилляции, включая DeepSeek R1, Qwen 2.5, серии Llama 2/3, и выполнять их в автономном режиме. Пользователи могут гибко переключаться между несколькими моделями, учитывая сжатие моделей и производительность вывода, решая сложности развертывания и оптимизации. Компания заявляет, что это решение не только удовлетворяет потребности пользователей в конфиденциальности и реальном времени, но также значительно снижает стоимость вывода больших моделей искусственного интеллекта.