overview
O que é ExecuTorch?
ExecuTorch é uma plataforma de implantação de AI em dispositivos desenvolvida pela Meta que permite a desenvolvedores e engenheiros implantar modelos PyTorch em dispositivos. Facilita a inferência eficiente em vários fatores de forma de borda, incluindo dispositivos móveis, embarcados e outros dispositivos de borda, aproveitando o ecossistema PyTorch para a execução de modelos. A plataforma aborda desafios inerentes à AI em dispositivos, como hardware diverso, requisitos críticos de energia, conectividade de internet baixa ou inexistente e necessidades de processamento em tempo real. Foca em portabilidade, produtividade e desempenho em ambientes com recursos limitados onde a conectividade com a nuvem pode ser limitada ou impraticável devido a preocupações com latência, privacidade ou custo. ExecuTorch suporta a implantação de modelos quantizados e oferece capacidades para operação offline, integrando-se com o framework PyTorch mais amplo para aplicações de AI em dispositivos.