overview
Azure ML 트라이톤 엔드포인트란 무엇인가요?
Azure ML Triton 엔드포인트는 NVIDIA Triton Inference Server를 사용하여 머신 러닝 모델을 배포하기 위한 관리형 서비스를 제공합니다. 이 솔루션은 데이터 과학자와 개발자가 자동 확장 기능의 유연성을 활용하면서 모델을 효율적으로 제공할 수 있도록 지원합니다.
- 운영 복잡성을 줄이기 위해 Triton 서버를 관리했습니다.
- 다양한 모델 프레임워크와 형식을 지원합니다.
- 지연에 민감한 애플리케이션을 위해 최적화되었습니다.
