Skip to content

llama.cpp

3 articles · Mis à jour · Llama.cpp dans l'annuaire →

  1. Outils d'IA ·

    La promesse de vitesse 2x de Magnitude comporte un piège

    Un benchmark proche de 2x semble être une avancée majeure, jusqu'à ce que l'on examine ce qui a été mesuré, sur quel Mac et par rapport à quelle configuration. L'essentiel n'est peut-être pas une victoire de vitesse universelle, mais plutôt une nouvelle façon de créer des outils d'IA locaux.

  2. Outils d'IA ·

    Votre IA locale est maintenant déverrouillée

    Arrêtez de jongler avec les LLM servers locaux et de gaspiller la VRAM. Un nouvel outil appelé Llama-swap offre une API unique et stable pour échanger automatiquement à chaud (hot-swap) n'importe quel modèle dont vous avez besoin.

  3. Tutoriels ·

    Ce PC de 12 ans peut penser

    Un ordinateur vieux d'une décennie avec seulement 512 Mo de RAM exécute un modèle d'IA local. Nous décortiquons l'exploit d'ingénierie impossible qui rend l'IA moderne véritablement portable.