overview
AWS Inferentia2インスタンスとは何ですか?
AWS Inferentia2 インスタンス (Inf2) は、特に大規模言語モデル (LLM) や生成AIアプリケーション向けに最適化された推論ワークロードのために設計されています。NeuronLink インターコネクトのような革新により、これらのインスタンスは比類のないスケーラビリティと効率性を提供し、先進的なAIモデルの展開を目指す企業にとって理想的な選択となります。
- 最大2.3ペタフロップスの計算能力。
- 要求の厳しいアプリケーション向けの384 GBアクセラレータメモリ。
- スケールでのリアルタイム推論のために設計されています。