당신의 에이전트가 기억을 못 하는 이유.
AI 에이전트가 방금 말한 내용을 계속 잊어버리는 것을 눈치채셨나요? 대규모 언어 모델(LLM)은 본질적으로 상태를 저장하지 않으며, 제한된 context windows로 인해 'AI 기억상실증'이 발생합니다. 이로 인해 지시 사항을 반복해야 하며, 에이전트는 계속해서 똑같은 답답한 실수를 반복하게 됩니다. 이는 AI 상호작용에서 근본적인 비효율성을 야기합니다.
Claude의 메모리 MD 파일과 같은 간단한 수정 사항은 표면적인 해결책에 불과합니다. 이러한 기본 시스템은 진정한 장기 학습에 필요한 구조화된 관계형 이해가 부족합니다. 단편적인 정보는 저장하지만 과거 상호작용에 대한 응집력 있고 진화하는 이해를 구축하지 못해 에이전트가 끝없는 반복 오류를 범하게 됩니다.
Vectorize에서 개발한 에이전트 메모리 시스템인 Hindsight를 소개합니다. 이 시스템은 근본적으로 다른 접근 방식을 약속합니다. 기존의 지식 그래프에 의존하는 대신, Hindsight는 커스텀 서버를 실행하여 PostgreSQL 데이터베이스와 PG vector를 통합해 고급 검색을 수행합니다. 이 아키텍처는 진정한 '멘탈 모델'을 구축하는 내구성 있고 자가 정화되는 메모리에 중점을 둡니다.
백그라운드 LLM은 들어오는 입력을 무엇(what), 언제(when), 어디서(where), 누구(who), 왜(why)를 상세히 기술하는 구조화된 facts로 다시 작성합니다. 이러한 사실들은 공유된 엔티티, 의미, 시간 및 원인을 통해 연결됩니다. 이후 백그라운드 통합 과정을 통해 이를 관찰 결과로 병합함으로써 에이전트의 mental model을 지속적으로 업데이트하고 메모리 비대화를 방지합니다. 이 시스템은 실제로 학습하는 우수한 메모리 관리를 목표로 합니다.
벡터 검색 그 이상: Hindsight의 3중 위협 메모리
Hindsight는 일반적인 지식 그래프보다 더 강력한 솔루션을 제공합니다. Retain, Recall, Reflect 엔진은 에이전트를 위한 3중 위협 메모리 시스템을 제공합니다. 첫째, 'Retain'은 LLM을 사용하여 입력을 "무엇, 언제, 어디서, 누구, 왜" 필드가 포함된 구조화된 사실로 다시 작성합니다.
다음으로, 'Recall'은 단순히 키워드만 검색하지 않습니다. 다음과 같은 네 가지 병렬 검색 전략을 사용합니다:
- 의미론적(semantic)
- BM25 키워드
- 그래프 탐색(graph traversal)
- 시간적(temporal)
그런 다음 크로스 인코더가 이러한 검색 결과를 재순위화하여 관련성을 극대화합니다. 마지막으로 'Reflect'는 쿼리 중심의 요약을 합성하여 단순한 검색을 넘어 새로운 통찰력을 생성합니다.
이 시스템은 Postgres database와 PG vector를 통합하는 커스텀 서버를 기반으로 구축되었습니다. 이 독특한 아키텍처는 단순한 지식 그래프를 넘어 사실 간의 관계적 및 시간적 연결을 설정합니다. 즉, 에이전트의 기억은 단순히 흩어진 데이터 포인트가 아니라 깊게 상호 연결되어 있습니다.
결정적으로, Hindsight에는 background 통합 프로세스가 포함되어 있습니다. 여기서 LLM은 원시 사실을 자동으로 관찰 결과로 병합하여 에이전트의 메모리를 정리하고 개선합니다. 이 "자가 정화" 메커니즘은 멘탈 모델을 지속적으로 업데이트하여 에이전트가 단순히 데이터를 저장하는 것이 아니라 학습하고 개선하도록 보장합니다.
한 에이전트가 학습하면, 팀 전체가 알게 됩니다
기업을 위한 Hindsight의 진정한 게임 체인저는 shared institutional memory입니다. 중앙 서버로 배포되면 조직 내의 모든 AI 에이전트가 동일한 진화하는 지식 베이스를 활용하게 됩니다. 즉, 한 에이전트의 상호작용, 솔루션 또는 학습된 통찰력이 즉시 다른 모든 에이전트에게 공유되어 중복 학습을 제거하고 집단 지성을 향상시킵니다.
고객 지원 상담원의 AI가 몇 시간 동안의 문제 해결 끝에 복잡한 버그에 대한 해결책을 찾아냈다고 상상해 보세요. Hindsight를 사용하면 힘들게 얻은 그 지식이 고립되지 않고, 즉시 다른 모든 상담원의 메모리에 반영되어 전사적으로 일관되고 정확한 응답을 보장합니다. 마찬가지로, 레거시 코드베이스의 복잡한 구조를 학습한 개발자의 에이전트는 그 이해를 엔지니어링 팀 전체의 에이전트와 공유하여 프로젝트 온보딩과 문제 해결을 가속화할 수 있습니다.
조직은 Hindsight를 강력한 중앙 서버로 배포할 수 있으며, 일반적으로 Docker를 통해 팀 전체에 강력한 공유 메모리를 제공합니다. 개인 개발자나 로컬 프로젝트의 경우, PG0(PG vector가 내장된 특수 Postgres 바이너리)를 활용하는 더 간단한 무설정 임베디드 버전을 사용할 수 있습니다. 두 옵션 모두 데이터를 Postgres 데이터베이스에 저장하지만, 중앙 서버는 집단적 학습 잠재력을 진정으로 극대화합니다. 더 자세한 기술 정보는 Hindsight: Overview를 참조하세요.
이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.
하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음
증명: 벤치마크, 경쟁사 및 시작하기
숫자는 거짓말을 하지 않으며, Hindsight의 성능 주장은 설득력이 있습니다. 이 시스템은 까다로운 LongMemEval 벤치마크에서 91.4%의 정확도를 달성했으며, 이는 에이전트 메모리 시스템에 있어 상당한 도약입니다. 더욱 인상적인 점은 핵심 작업에 더 작은 오픈 소스 모델을 활용함에도 불구하고, 메모리 회상 작업에서 전체 컨텍스트 GPT-4o를 능가하는 성능을 보인다는 것입니다.
Zep 및 Supermemory와 같은 경쟁사와 비교했을 때, Hindsight는 정교한 다중 전략 검색(multi-strategy retrieval)으로 차별화됩니다. 단일 접근 방식에 의존하는 대신, 의미론적 검색, 키워드 검색, 그래프 탐색 및 시간적 검색 방법을 지능적으로 결합한 후 결과를 재순위화합니다. 이 강력한 시스템은 개별 에이전트의 기억뿐만 아니라 팀 전체의 강력한 조직적 지식을 구축합니다.
그렇다면 Hindsight는 투자할 가치가 있을까요? 빌더와 기업 모두에게 대답은 '예'일 가능성이 높습니다. MIT 라이선스 하의 오픈 소스이므로 개발자는 기능 제한 없이 완전한 제어권과 투명성을 가질 수 있습니다. 오늘 GitHub 저장소를 탐색하여 에이전트 구축을 시작하거나, 엔터프라이즈급 배포 및 간소화된 관리를 원하신다면 관리형 Hindsight Cloud 서비스를 고려해 보세요.
자주 묻는 질문
Hindsight AI란 무엇인가요?
Hindsight는 지속적이고 장기적인 메모리를 제공하는 오픈 소스 AI 에이전트 메모리 시스템입니다. AI 에이전트가 시간이 지남에 따라 상호 작용을 통해 학습하고 이 지식을 팀 전체와 공유할 수 있게 합니다.
Hindsight는 표준 벡터 데이터베이스와 어떻게 다른가요?
벡터 데이터베이스(PG vector가 포함된 Postgres)를 사용하지만, Hindsight는 완전한 메모리 시스템입니다. LLM을 사용하여 들어오는 데이터를 능동적으로 처리해 구조화된 사실을 생성하고, 단순한 의미론적 검색을 넘어선 다중 검색 방법을 사용하며, 메모리를 통합하고 정제하는 백그라운드 프로세스를 갖추고 있습니다.
Hindsight의 메모리를 팀 전체와 공유할 수 있나요?
네, 이것이 핵심 기능입니다. Hindsight를 중앙 서버(예: Docker)로 실행하면 조직 내의 모든 에이전트가 동일한 메모리 풀에 액세스하고 기여할 수 있어 집단 지성을 형성합니다.
Hindsight는 오픈 소스인가요?
네, Hindsight는 MIT 라이선스로 제공됩니다. 호스팅 솔루션을 선호하는 분들을 위한 관리형 Hindsight Cloud 서비스도 있습니다.