Skip to content

Cactus

1 件の記事 · 更新

  1. AIツール ·

    このAIエンジンはRAMを10分の1しか使用しません

    スマートフォンで大規模なAIモデルをローカルで実行すると、通常はバッテリー切れやアプリのクラッシュを意味します。「Cactus」と呼ばれる新しい推論エンジンは、zero-copy memory mappingとNPU-first architectureを使用することで、わずかなフットプリントで大規模なパフォーマンスを提供し、状況を一変させます。