Skip to content
AI Инструмент

Обзор ExecuTorch

ExecuTorch — это унифицированное решение PyTorch для развертывания моделей ИИ на устройствах — от смартфонов до микроконтроллеров — созданное с учетом конфиденциальности, производительности и портативности.

shipped 4 июл. 2026 г.deployfree
DeploySelf-HostedMobile/Device
ExecuTorch — product screenshot

Почему это важно

1ExecuTorch v1.3.1, выпущенный 28 мая 2026 года, расширил охват моделей и бэкендов для встраиваемых, мобильных и GPU-целей, включая Arm, Cortex-M и Qualcomm.
2Платформа достигла общей доступности (GA) с ExecuTorch 1.0 22 октября 2025 года, подчеркивая стабильность для разработчиков мобильных и встраиваемых приложений.
3Он обеспечивает миллиарды ежедневных выводов в продуктах Meta, включая Instagram, WhatsApp, Quest 3 и Ray-Ban Meta Smart Glasses.
4ExecuTorch поддерживает запуск больших языковых моделей (LLM), таких как Llama 3.2 Quantized 1B/3B и Gemma 4 31B, непосредственно на периферийных устройствах.

О ExecuTorch

Платформы
Android, iOS, Linux, macOS, Windows, Embedded systems
Целевая аудитория
Developers and researchers focused on AI deployment in edge devices.

Характеристики

Доступность API

Да, публичный API

overview

Что такое ExecuTorch?

ExecuTorch — это платформа для развертывания ИИ на устройствах, разработанная Meta, которая позволяет разработчикам и инженерам развертывать модели PyTorch на устройствах. Она обеспечивает эффективный вывод на различных периферийных форм-факторах, включая мобильные, встраиваемые и другие периферийные устройства, используя экосистему PyTorch для выполнения моделей. Платформа решает проблемы, присущие ИИ на устройствах, такие как разнообразное оборудование, критические требования к питанию, низкое или отсутствующее подключение к Интернету и потребности в обработке в реальном времени. Она сосредоточена на портативности, производительности и быстродействии в средах с ограниченными ресурсами, где облачное подключение может быть ограничено или непрактично из-за задержек, конфиденциальности или стоимости. ExecuTorch поддерживает развертывание квантованных моделей и предлагает возможности для автономной работы, интегрируясь с более широкой средой PyTorch для приложений ИИ на устройствах.

features

Ключевые особенности ExecuTorch

ExecuTorch предоставляет полный набор возможностей, разработанных для эффективного и надежного развертывания ИИ на устройствах в экосистеме PyTorch.

  • Платформа с открытым исходным кодом для развертывания ИИ.
  • Готовность к производству для развертывания моделей PyTorch на устройствах.
  • Эффективный вывод на мобильных, встраиваемых и различных периферийных форм-факторах.
  • Облегчает развертывание квантованных моделей для сред с ограниченными ресурсами.
  • Поддерживает автономную работу без зависимости от облака.
  • Обеспечивает портативность на различных платформах, включая Android, iOS, Linux, macOS, Windows и встраиваемые системы.
  • Оптимизированная производительность с легковесным рантаймом и аппаратным ускорением.
  • Повышает производительность разработчиков с использованием привычных инструментов и рабочих процессов PyTorch.
  • Интегрируется с более широкой экосистемой PyTorch для сквозного выполнения моделей.

use cases

Кому следует использовать ExecuTorch?

ExecuTorch в первую очередь предназначен для разработчиков и инженеров, которым необходимо развертывать модели машинного обучения непосредственно на периферийных устройствах, отдавая приоритет производительности, конфиденциальности и автономным возможностям.

  • Разработчики, развертывающие модели ИИ PyTorch на устройствах в широком спектре периферийных устройств (например, мобильные телефоны, гарнитуры AR/VR, встраиваемые системы, микроконтроллеры, настольные компьютеры, ноутбуки).
  • Инженеры, обеспечивающие работу функций ИИ на устройствах в таких продуктах и сервисах, как Instagram, WhatsApp, Quest 3 и Ray-Ban Meta Smart Glasses.
  • Команды, позволяющие генеративному ИИ и помощникам на основе LLM работать непосредственно на устройствах, включая такие модели, как Llama 3.2 Quantized 1B/3B и Gemma 4 31B.
  • Специалисты, обеспечивающие компьютерное зрение и обработку данных датчиков на периферии для приложений с низкой задержкой и сохранением конфиденциальности.
  • Исследователи и разработчики, сосредоточенные на выводе ИИ на мобильных устройствах и оптимизации для встраиваемых систем.

how to use

Как использовать ExecuTorch

Использование ExecuTorch включает структурированный рабочий процесс от разработки модели в PyTorch до оптимизированного развертывания на целевом периферийном оборудовании.

  • 1Разработайте и обучите модель PyTorch, используя стандартные API PyTorch.
  • 2Экспортируйте модель PyTorch с помощью компилятора PyTorch 2 и инструментов экспорта ExecuTorch.
  • 3Оптимизируйте экспортированную модель для целевого устройства, включая квантование для сред с ограниченными ресурсами.
  • 4Интегрируйте оптимизированную модель ExecuTorch в целевое приложение на периферийном устройстве.
  • 5Выполняйте модель на устройстве, используя среду выполнения ExecuTorch для эффективного вывода.
  • 6Используйте инструменты разработчика, такие как профайлер ETDump и инспектор ETRecord, для отладки и анализа производительности.

pricing

Цены и планы ExecuTorch

ExecuTorch — это платформа с открытым исходным кодом, разработанная Meta, что делает ее основные функции доступными без прямых затрат.

  • Бесплатно: Платформа с открытым исходным кодом, Готовое к производству развертывание ИИ, Вывод на устройстве, Развертывание квантованных моделей, Автономная работа.

Pros

  • +Provides a unified, PyTorch-native solution for end-to-end edge AI deployment, simplifying the workflow for PyTorch developers.
  • +Supports a wide array of hardware backends (over 12 supported), including Arm, Apple, Qualcomm, and NXP, ensuring broad device compatibility.
  • +Enables low-latency, privacy-preserving AI applications by executing models directly on-device, reducing cloud dependency.
  • +Facilitates offline operation and deployment of quantized models, making it suitable for resource-constrained and disconnected environments.
  • +Actively used in production by Meta across products like Instagram, WhatsApp, and Quest 3, demonstrating its robustness and scalability.
  • +Offers significant performance improvements for running LLMs on mobile/edge devices compared to older ML stacks.

Cons

  • Earlier versions were noted to be 'rough around the edges' in terms of developer experience, though recent releases have focused on improvements.
  • Limitations with torch.export, particularly concerning control flow, can necessitate significant graph reworking for complex models.
  • While cross-platform, deep optimization for specific hardware might still require specialized knowledge or backend configurations.
  • As a relatively newer solution compared to established frameworks like TensorFlow Lite or ONNX Runtime, its community support and third-party integrations might still be maturing.

Похожие инструменты

ExecuTorch против конкурентов

ExecuTorch выделяется в области ИИ на устройствах благодаря глубокой интеграции с экосистемой PyTorch, легковесной среде выполнения и акценту на портативность и производительность для периферийных устройств.

1

Google's official lightweight framework for on-device machine learning inference, primarily for mobile and embedded devices.

Similar to ExecuTorch in its goal of efficient on-device inference for edge devices, but it is native to the TensorFlow ecosystem rather than PyTorch. Both are open-source and free, targeting resource-constrained environments.

2

A cross-platform inference engine that executes ONNX (Open Neural Network Exchange) models efficiently on various hardware and operating systems.

Unlike ExecuTorch which is PyTorch-centric, ONNX Runtime is framework-agnostic, supporting models converted to the ONNX format. Both are open-source, free, and aim for high-performance inference on edge devices.

3
Core ML

Apple's framework for integrating machine learning models into iOS, macOS, watchOS, and tvOS apps, optimized for Apple silicon.

Core ML is specifically designed for the Apple ecosystem, offering deep integration and optimization for Apple hardware, whereas ExecuTorch is cross-platform. Both provide on-device inference capabilities, but Core ML is proprietary and tied to Apple's platforms.

4

An open-source deep learning compiler stack that optimizes models for efficient execution on diverse hardware backends, including CPUs, GPUs, and specialized accelerators.

TVM operates at a lower level as a compiler framework, providing more granular control over hardware-specific optimizations compared to ExecuTorch's higher-level PyTorch-native deployment platform. Both are open-source, free, and focus on efficient edge inference.

AI Reputation Report

Is ExecuTorch yours?

ChatGPT, Perplexity, Gemini, Claude & Grok answer buyer questions about ExecuTorch every day. See whether they name ExecuTorch — or send buyers to a rival.