overview
O que é Modular?
Modular é uma empresa de plataforma de desenvolvedores nativa de IA que permite que desenvolvedores de IA, desenvolvedores de aplicativos e empresas construam uma plataforma de inferência de IA unificada, de alto desempenho e portátil. Seu objetivo é abstrair as complexidades do hardware, permitindo que os desenvolvedores implementem e escalem modelos de IA de forma eficiente em diversos hardwares. Modular fornece uma plataforma de inferência de IA unificada projetada para computação portátil e de alto desempenho, otimizando pipelines de IA desde os kernels da GPU até os endpoints da API. Sua missão principal é permitir que os desenvolvedores executem modelos populares de IA abertos com desempenho de GPU e CPU líderes do setor, sem exigir alterações de código, abstraindo assim a complexidade do hardware. A plataforma suporta mais de 500 modelos de IA do Hugging Face via uma API REST compatível com OpenAI e facilita o dimensionamento de serviços massivos de inferência GenAI em milhares de nós de GPU.
