Skip to content

llama-swap

1 件の記事 · 更新

  1. AIツール ·

    ローカルAIがアンロックされました

    ローカルLLMサーバーのやりくりやVRAMの無駄遣いをやめましょう。Llama-swapという新しいツールは、必要なモデルを自動的にホットスワップするための単一で安定したAPIを提供します。