overview
O que é turbopuffer?
turbopuffer é uma ferramenta de motor de busca vetorial e de texto completo desenvolvida por Simon Hørup Eskildsen e Justine Li que permite a desenvolvedores de IA, startups e grandes empresas implementar capacidades de busca altamente escaláveis e econômicas para aplicações de IA. Ele funciona como um banco de dados vetorial serverless que armazena dados principalmente em armazenamento de objetos, como AWS S3, Google Cloud Storage ou Azure Blob Storage, e utiliza cache em camadas com NVMe SSDs e RAM para desempenho. Esta arquitetura permite ao turbopuffer gerenciar bilhões de vetores a um custo significativamente menor do que os bancos de dados vetoriais tradicionais em memória, tornando-o adequado para conectar grandes modelos de linguagem (LLMs) a vastos conjuntos de dados e alimentar fluxos de trabalho de IA agentic. A plataforma está atualmente lidando com mais de 4 trilhões de documentos, 10 milhões de gravações por segundo e 25.000 consultas por segundo em sistemas de produção.
