overview
¿Qué es Modular?
Modular es una empresa de plataforma para desarrolladores nativa de IA que permite a los desarrolladores de IA, desarrolladores de aplicaciones y empresas construir una plataforma de inferencia de IA unificada, de alto rendimiento y portátil. Su objetivo es abstraer las complejidades del hardware, permitiendo a los desarrolladores implementar y escalar modelos de IA de manera eficiente en diversos hardware. Modular proporciona una plataforma de inferencia de IA unificada diseñada para computación portátil y de alto rendimiento, optimizando las tuberías de IA desde los kernels de GPU hasta los puntos finales de la API. Su misión principal es permitir a los desarrolladores ejecutar modelos de IA abiertos populares con un rendimiento líder en la industria de GPU y CPU sin requerir cambios en el código, abstraiendo así la complejidad del hardware. La plataforma admite más de 500 modelos de IA de Hugging Face a través de una API REST compatible con OpenAI y facilita el escalado de servicios masivos de inferencia de GenAI en miles de nodos de GPU.
