overview
Что такое ExecuTorch?
ExecuTorch — это платформа для развертывания ИИ на устройствах, разработанная Meta, которая позволяет разработчикам и инженерам развертывать модели PyTorch на устройствах. Она обеспечивает эффективный вывод на различных периферийных форм-факторах, включая мобильные, встраиваемые и другие периферийные устройства, используя экосистему PyTorch для выполнения моделей. Платформа решает проблемы, присущие ИИ на устройствах, такие как разнообразное оборудование, критические требования к питанию, низкое или отсутствующее подключение к Интернету и потребности в обработке в реальном времени. Она сосредоточена на портативности, производительности и быстродействии в средах с ограниченными ресурсами, где облачное подключение может быть ограничено или непрактично из-за задержек, конфиденциальности или стоимости. ExecuTorch поддерживает развертывание квантованных моделей и предлагает возможности для автономной работы, интегрируясь с более широкой средой PyTorch для приложений ИИ на устройствах.