Skip to content

llama-swap

1 Artikel · Aktualisiert

  1. KI-Tools ·

    Ihre lokale KI ist jetzt freigeschaltet

    Hören Sie auf, lokale LLM-Server zu jonglieren und VRAM zu verschwenden. Ein neues Tool namens Llama-swap bietet eine einzige, stabile API, um jedes benötigte Modell automatisch im laufenden Betrieb zu wechseln (hot-swap).