overview
Что такое turbopuffer?
turbopuffer — это инструмент для векторного и полнотекстового поиска, разработанный Саймоном Хёрупом Эскильдсеном и Жюстин Ли, который позволяет разработчикам ИИ, стартапам и крупным предприятиям внедрять высокомасштабируемые и экономичные возможности поиска для приложений ИИ. Он функционирует как бессерверная векторная база данных, которая хранит данные преимущественно в объектном хранилище, таком как AWS S3, Google Cloud Storage или Azure Blob Storage, и использует многоуровневое кэширование с NVMe SSD и RAM для повышения производительности. Эта архитектура позволяет turbopuffer управлять миллиардами векторов со значительно меньшими затратами, чем традиционные векторные базы данных в оперативной памяти, что делает его подходящим для подключения больших языковых моделей (LLMs) к обширным наборам данных и обеспечения работы агентских рабочих процессов ИИ. В настоящее время платформа обрабатывает более 4 триллионов документов, 10 миллионов операций записи в секунду и 25 000 запросов в секунду в производственных системах.
