overview
Diseñado Específicamente para Inferencia
Las instancias AWS Inferentia2 (Inf2) están diseñadas específicamente para optimizar el rendimiento de inferencia de modelos de aprendizaje profundo, especialmente modelos de lenguaje grandes (LLMs) y inteligencia artificial generativa. Con hasta 12 chips Inferentia2 y conexiones de ultra alta velocidad, Inf2 establece un nuevo estándar en la industria.
- Ofrece una relación costo-rendimiento excepcional.
- Diseñado para cargas de trabajo de IA exigentes.
- Soporta los últimos marcos de ML con una configuración mínima.