overview
Что такое Vertex AI Triton?
Vertex AI Triton предлагает хостинг-эндпоинты от Google, оптимизированные для обслуживания моделей машинного обучения, позволяя пользователям использовать мощные графические процессоры для повышения производительности. Этот инструмент упрощает процесс развертывания моделей, позволяя командам сосредотачиваться на инновациях, а не на инфраструктуре.
- Поддерживает модели как TensorRT, так и Triton.
- Интегрирован в экосистему Vertex AI.
- Подходит для различных рабочих нагрузок, от прототипирования до производства.
