#Inference Engine

このAIエンジンはRAMを10分の1しか使用しません

スマートフォンで大規模なAIモデルをローカルで実行すると、通常はバッテリー切れやアプリのクラッシュを意味します。「Cactus」と呼ばれる新しい推論エンジンは、zero-copy memory mappingとNPU-first architectureを使用することで、わずかなフットプリントで大規模なパフォーマンスを提供し、状況を一変させます。