overview
turbopuffer란 무엇인가요?
turbopuffer는 Simon Hørup Eskildsen과 Justine Li가 개발한 벡터 및 전체 텍스트 검색 엔진 도구로, AI 개발자, 스타트업 및 대기업이 AI 애플리케이션을 위한 고도로 확장 가능하고 비용 효율적인 검색 기능을 구현할 수 있도록 합니다. 이는 AWS S3, Google Cloud Storage 또는 Azure Blob Storage와 같은 객체 스토리지에 데이터를 주로 저장하고, 성능을 위해 NVMe SSD 및 RAM을 사용한 계층형 캐싱을 활용하는 서버리스 벡터 데이터베이스로 작동합니다. 이러한 아키텍처를 통해 turbopuffer는 기존 인메모리 벡터 데이터베이스보다 훨씬 낮은 비용으로 수십억 개의 벡터를 관리할 수 있으므로, 대규모 언어 모델(LLM)을 방대한 데이터 세트에 연결하고 에이전트 AI 워크플로우를 지원하는 데 적합합니다. 이 플랫폼은 현재 프로덕션 시스템에서 4조 개 이상의 문서, 초당 1천만 건의 쓰기, 초당 2만 5천 건의 쿼리를 처리하고 있습니다.
