AI Инструмент

Обзор Modular

Modular — это унифицированный движок и платформа искусственного интеллекта, разработанные для обеспечения доступности и эффективности ИИ на различных аппаратных средствах и в рамках машинного обучения.

shipped 30 июл. 2026 г.aifreemium

Почему это важно

1Приобретена Qualcomm 29 июля 2026 года для усиления программного обеспечения для генеративного и агентного ИИ.

2Релиз Modular 26.4 (18 июня 2026 года) представил передовую систему обслуживания mixture-of-experts (MoE).

3Привлечено 250 миллионов долларов в третьем раунде финансирования (24 сентября 2025 года), оценив компанию в 1,6 миллиарда долларов.

4Достигнута максимальная производительность на GPU Nvidia Blackwell B200 и AMD MI355X с использованием одной и той же программной платформы.

О Modular

Бизнес-модель

Usage-Based (Pay Per Use)

Оплата по факту использования

Pay-per-token per token

Штаб-квартира

San Francisco, USA

Размер команды

100-250

Платформы

Web, API, Cloud, On-premises

Целевая аудитория

AI developers, data scientists, enterprises focusing on AI deployment

Тарифные планы

Shared Endpoints

Pay-per-token / per-token

• High-performance inference
• No infrastructure management
• Test easily

Dedicated Endpoints

Pay-per-minute / per-minute

• Reserved NVIDIA and AMD GPUs
• Flexible pricing

Custom Models

Pay-per-minute / per-minute

• Deploy custom or fine-tuned models
• Optimized infrastructure

Примеры затрат

• Cost varies based on usage

API Docs GitHubOpen Source

Характеристики

Документация API

Посмотреть документацию →

GitHub

Посмотреть репозиторий →

Доступность API

Да, публичный API

overview

Что такое Modular?

Modular — это компания-разработчик платформы, ориентированной на ИИ, которая позволяет разработчикам ИИ, разработчикам приложений и предприятиям создавать унифицированную, высокопроизводительную и портативную платформу для инференса ИИ. Она призвана абстрагировать сложности аппаратного обеспечения, позволяя разработчикам эффективно развертывать и масштабировать модели ИИ на различных аппаратных средствах. Modular предоставляет унифицированную платформу для инференса ИИ, разработанную для высокопроизводительных, портативных вычислений, оптимизирующую конвейеры ИИ от ядер GPU до конечных точек API. Ее основная миссия — дать разработчикам возможность запускать популярные открытые модели ИИ с ведущей в отрасли производительностью GPU и CPU без необходимости изменения кода, тем самым абстрагируя сложность аппаратного обеспечения. Платформа поддерживает более 500 моделей ИИ из Hugging Face через OpenAI-совместимый REST API и облегчает масштабирование массивных сервисов инференса GenAI на тысячи узлов GPU.

features

Ключевые особенности Modular

Modular предлагает полный набор функций, разработанных для повышения эффективности разработки и развертывания ИИ на различных аппаратных средствах и в рамках.

Унифицированный стек инференса ИИ для стабильной производительности.
Поддержка нескольких аппаратных платформ, включая NVIDIA, AMD, Intel, ARM и Apple Silicon.
Совместимость с более чем 30 передовыми моделями из Hugging Face.
Варианты ценообразования с оплатой по мере использования для гибкого распределения ресурсов.
Гибкие варианты развертывания в облачных средах или локальной инфраструктуре.
OpenAI-совместимый REST API для обслуживания моделей.
Язык программирования Mojo для пользовательских операций и разработки ядер GPU.
Инструментарий Slim для более быстрой разработки и компиляции за считанные секунды.
Интеллектуальная маршрутизация рабочих нагрузок для максимизации пропускной способности и минимизации задержки в развертываниях GenAI.

use cases

Кому следует использовать Modular?

Modular в первую очередь предназначен для разработчиков ИИ, разработчиков приложений и предприятий, стремящихся оптимизировать и масштабировать свои развертывания ИИ в различных аппаратных средах.

Разработчики ИИ: Для высокопроизводительного инференса и развертывания ИИ на различных аппаратных и облачных средах, включая написание пользовательских операций и ядер GPU на Mojo.
Разработчики приложений: Для унифицированной разработки и развертывания рабочих нагрузок PyTorch и TensorFlow, упрощения инструментария и достижения аппаратной переносимости.
Предприятия: Для масштабирования крупномасштабных сервисов инференса Generative AI (GenAI), ускорения инноваций GenAI и достижения независимости от поставщиков для моделей ИИ.

how to use

Как использовать Modular

Чтобы начать использовать Modular, разработчики могут использовать его унифицированную платформу для развертывания и оптимизации моделей ИИ. Платформа поддерживает развертывание в одном контейнере Docker и предлагает OpenAI-совместимый API для обслуживания моделей.

1Доступ к платформе Modular через ее веб-интерфейс или API.
2Выбор из более чем 500 предварительно оптимизированных моделей ИИ из Hugging Face.
3Развертывание моделей с использованием одного контейнера Docker (менее 1 ГБ) для эффективной настройки.
4Использование OpenAI-совместимого REST API для обслуживания моделей и интеграции в приложения.
5Разработка пользовательских моделей и оптимизация производительности с использованием языка программирования Mojo.
6Мониторинг и масштабирование сервисов инференса GenAI на различных аппаратных бэкэндах.

pricing

Цены и планы Modular

Modular работает по модели freemium с уровнями ценообразования на основе использования, разработанными для гибкости. Он включает бесплатный уровень для первоначального ознакомления и предлагает различные цены для различных потребностей развертывания.

Shared Endpoints: Оплата за токен для общего использования.
Dedicated Endpoints: Оплата за минуту для постоянного, высокопроизводительного доступа.
Custom Models: Оплата за минуту для специализированных развертываний моделей.

Pros

+Mojo programming language combines Python's ease of use with C++/CUDA performance, addressing the 'two-language problem' in AI.
+Modular Platform (MAX) provides a unified AI inference stack, abstracting hardware complexity for portable, high-performance model deployment.
+Achieves significant performance gains, with Mojo benchmarks showing up to 35,000 times faster execution than Python in specific scenarios.
+Offers broad hardware compatibility, supporting NVIDIA, AMD, Intel, ARM, and Apple Silicon.
+Simplified community license allows free non-production commercial use and production use on CPUs and NVIDIA GPUs.
+Acquisition by Qualcomm on June 24, 2026, indicates strong industry validation and potential for future integration into edge AI.

Cons

−Mojo is still in early development (Mojo 1.0 Beta 1 as of May 2026), leading to potential instability or evolving features.
−Initial concerns existed regarding its closed-source nature and restrictive licensing, though the license has since been simplified.
−Requires adoption of a new programming language (Mojo), which may present a learning curve for developers accustomed to other languages.
−Some developers view Mojo as a 'toy for now' due to its early stage, suggesting more established languages like C++ or Rust for critical low-level programming.
−The platform's full capabilities and long-term roadmap post-Qualcomm acquisition are subject to future announcements.

Политики

Страница цен

Посмотреть цены→

Похожие инструменты

Modular против конкурентов

Modular позиционирует себя как разрушительная сила против традиционных, аппаратно-специфичных программных стеков ИИ, особенно бросая вызов экосистеме NVIDIA CUDA, предлагая истинную аппаратную переносимость и оптимизацию производительности.

Apache TVMOn Stork Compare

It's a deep learning compiler stack that optimizes models for various hardware backends, from CPUs to specialized accelerators, enabling efficient execution.

While Modular aims for a unified platform with a new language (Mojo) for performance, TVM focuses on compiling existing models for optimal performance on diverse hardware. You might need more integration work with TVM compared to Modular's more integrated platform approach.

ONNX RuntimeOn Stork Compare

It's a cross-platform inference engine that allows models from various frameworks (converted to ONNX format) to run efficiently on different hardware.

Modular aims to provide a high-performance engine and platform, potentially requiring adoption of Mojo. ONNX Runtime provides a standard format and runtime for existing models, offering broad compatibility and efficiency gains without changing your core ML framework, though you might need to convert your models to ONNX format.

NVIDIA Triton Inference Server↗

It's an open-source inference serving software that simplifies the deployment of AI models from various frameworks, offering features like dynamic batching, concurrent model execution, and GPU utilization.

Modular focuses on optimizing the AI engine itself for performance and development. Triton Inference Server focuses on optimizing the *serving* of those models in production, handling aspects like throughput and latency for deployed models. While Triton helps with efficient deployment, it doesn't offer the same level of low-level model optimization or a new development language like Mojo.

OpenVINO Toolkit↗

It's a comprehensive toolkit from Intel for optimizing and deploying deep learning models on Intel hardware (CPUs, GPUs, VPUs, FPGAs) and also supports other architectures.

Modular aims for hardware-agnostic efficiency with its platform and Mojo language. OpenVINO provides a robust set of tools specifically for optimizing and deploying models, particularly strong on Intel hardware, but requires more manual integration and doesn't offer a unified development language like Mojo.

Посетить Modular↗