Skip to content

llama.cpp

3 artigos · Atualizado · Llama.cpp no diretório →

  1. Ferramentas de IA ·

    A promessa de velocidade 2x do Magnitude tem um porém

    Um benchmark de quase 2x parece um avanço — até você analisar o que foi medido, em qual Mac e contra qual configuração. A história principal pode não ser sobre um ganho de velocidade universal, mas sim sobre uma nova forma de construir ferramentas de IA locais.

  2. Ferramentas de IA ·

    Sua IA Local Está Agora Desbloqueada

    Pare de fazer malabarismos com servidores LLM locais e desperdiçar VRAM. Uma nova ferramenta chamada Llama-swap oferece uma API única e estável para trocar automaticamente (hot-swap) qualquer modelo que você precise.

  3. Tutoriais ·

    Este PC de 12 Anos Pode Pensar

    Um computador com uma década de existência e apenas 512MB de RAM está a executar um modelo de IA local. Detalhamos o feito de engenharia impossível que torna a IA moderna verdadeiramente portátil.