AI 도구

Paritok Review

Paritok은 AI 코딩 에이전트를 위한 비파괴 압축 게이트웨이로, 에이전트 기능을 변경하지 않고 입력 토큰 비용을 줄이고 세션 길이를 연장합니다.

shipped 2026년 8월 10일agentspaid

agents

핵심 포인트

1첫 턴에서 입력 토큰 비용을 25% 절감하고, 컨텍스트가 포화된 세션에서는 85% 이상 절감합니다.

2AI 코딩 에이전트의 동일한 컨텍스트 창 내에서 약 3배 더 많은 턴을 가능하게 합니다.

3코드 네이티브 4B 압축 모델과 임베딩 기반 도구 필터(BAAI/bge-small-en-v1.5, ~130MB)를 활용합니다.

4환경 변수를 통해 Claude, Code Cursor, Codex, OpenHands 및 모든 OpenAI 호환 업스트림과의 통합을 지원합니다.

사양

API 문서

문서 보기 →

API 제공 여부

예, 공개 API

overview

Paritok이란 무엇인가요?

Paritok은 Paritok이 개발한 비파괴 압축 게이트웨이 도구로, AI 코딩 에이전트를 사용하는 개발자와 팀이 입력 토큰 비용을 줄이고 세션 길이를 연장할 수 있도록 합니다. 이는 Large Language Model (LLM) API에 도달하기 전에 요청을 최적화하는 중간 계층 역할을 하여 동일한 컨텍스트 창 내에서 훨씬 더 길고 복잡한 코딩 세션을 가능하게 합니다.

Paritok은 도구 스키마 필터링, 콘텐츠 압축 및 기록 요약의 세 가지 메커니즘을 통해 주요 기능을 수행합니다. v1.2.0(2026년 7월 19일)에 구현된 도구 스키마 필터링은 도구 스키마를 의미론적으로 필터링하여 일반적인 도구 블록을 턴당 약 29,000 토큰에서 8,000 토큰으로 줄입니다. Paritok의 오픈 소스, 코드 네이티브 4B 모델(2026년 7월 14일 출시)을 활용하는 콘텐츠 압축은 파일 읽기, 도구 출력 및 메시지 기록을 원래 크기의 약 26%로 줄입니다. 길고 다중 턴 세션의 경우 Paritok은 컨텍스트 창 오버플로를 방지하기 위해 오래된 기록을 요약합니다. Paritok 게이트웨이 v1.0.0은 2026년 7월 15일에 Apache-2.0 라이선스 하에 오픈 소스로 공개되었습니다.

features

Paritok의 주요 기능

Paritok은 토큰 효율성과 세션 수명에 중점을 두어 AI 코딩 에이전트와 LLM 간의 상호 작용을 최적화하도록 설계된 일련의 기능을 제공합니다. 핵심 기능은 비파괴 압축 및 지능형 컨텍스트 관리를 중심으로 합니다.

도구 스키마, 파일 읽기, 도구 출력 및 대화 기록의 비파괴 압축.
AI 코딩 에이전트를 위한 즉석 압축, 투명한 게이트웨이 역할.
다양한 LLM API와의 호환성을 위해 하나의 환경 변수(예: ANTHROPIC_BASE_URL)를 통한 간단한 통합.
의미론적 도구 스키마 필터링, 관련 도구를 전체 스키마로 유지하고 나머지는 '스텁' 처리하여 턴당 토큰 사용량을 약 29,000개에서 약 8,000개로 줄입니다.
파일 읽기 및 도구 출력의 콘텐츠 압축을 원래 크기의 약 26%로 줄여 함수 시그니처 및 오류 문자열과 같은 중요한 정보를 보존합니다.
길고 다중 턴 세션에서 컨텍스트 창 용량을 관리하기 위한 오래된 기록 요약.
Claude, Code Cursor, Codex, OpenHands 및 모든 OpenAI 호환 업스트림을 포함한 주요 코딩 에이전트 지원.
정확한 바이트 검색을 위해 read_original(ref)를 사용하여 원본 콘텐츠를 복구하는 기능.
로컬 CPU 기반 도구 필터링을 위해 작은 오픈 임베딩 모델(BAAI/bge-small-en-v1.5, ~130MB)을 활용합니다.

use cases

누가 Paritok을 사용해야 하나요?

Paritok은 주로 AI 코딩 에이전트를 활용하고 운영 비용 및 세션 효율성을 최적화하려는 개발자와 팀을 위해 설계되었습니다. 그 이점은 광범위한 AI 에이전트 상호 작용을 포함하는 특정 시나리오에서 가장 두드러집니다.

Claude Sonnet($3/M 토큰), Opus($5/M 토큰) 또는 GPT-5($10/M 토큰)와 같은 LLM의 입력 토큰 비용을 줄이려는 AI 코딩 에이전트 사용자.
컨텍스트 창 용량이 제한 요소인 경우 특히 더 길고 다중 턴 AI 에이전트 세션이 필요한 팀 및 개인.
많은 수의 도구(예: 40개 이상의 도구)를 사용하는 AI 에이전트 사용자, 도구 스키마 필터링이 상당한 토큰 절약을 제공하는 경우.
AI 에이전트를 사용하여 감사, Q&A 또는 대규모 코드베이스 디버깅과 같은 읽기 중심 또는 혼합 작업에 종사하는 전문가.
에이전트의 핵심 기능을 변경하지 않고 AI 에이전트 성능 및 효율성을 최적화하려는 조직.

how to use

Paritok 사용 방법

Paritok은 기존 코딩 에이전트의 드롭인 프록시로 통합되며 최소한의 설정이 필요합니다. 통합의 주요 방법은 환경 변수를 구성하여 API 호출을 Paritok 게이트웨이를 통해 전달하는 것입니다.

1Paritok 게이트웨이 및 오픈 소스 4B 모델(Hugging Face Hub에서 Paritok-4B-v1로 사용 가능)을 다운로드하여 설치합니다.
2ANTHROPIC_BASE_URL과 같은 환경 변수를 설정하여 AI 코딩 에이전트의 API 엔드포인트가 Paritok 게이트웨이를 가리키도록 구성합니다.
3자체 호스팅 게이트웨이가 실행 중인지 확인하고, 4B 모델에 필요한 Q4 메모리 요구 사항(~2.5GB, 모든 8GB GPU 카드와 호환)을 충족하며 도구 필터에 CPU를 활용하는지 확인합니다.
4호스팅 GPU 서비스의 경우 에이전트의 API 호출을 관리형 Paritok 엔드포인트로 직접 연결합니다.
5Paritok 대시보드(호스팅 서비스의 경우)를 통해 또는 LLM API 청구를 관찰하여 토큰 사용량 및 세션 길이 개선 사항을 모니터링합니다.
6어떤 시점에서든 에이전트가 압축되지 않은 전체 콘텐츠를 필요로 하는 경우 read_original(ref) API 호출을 활용합니다.

pricing

Paritok 가격 및 요금제

Paritok은 무료 자체 호스팅 옵션과 사용량 기반 호스팅 서비스를 모두 제공하는 이중 가격 모델을 제공합니다. 자체 호스팅 옵션은 사용자가 게이트웨이 및 4B 모델을 로컬에서 실행할 수 있도록 하며, 호스팅 GPU 서비스는 관리형 엔드포인트를 제공합니다.

자체 호스팅: 무료. 오픈 소스 게이트웨이 및 4B 모델(Apache-2.0 라이선스)을 포함하며, Q4에서 ~2.5GB(모든 8GB GPU 카드) 및 도구 필터에 CPU가 필요합니다. GitHub 및 Discord를 통해 지원이 제공됩니다.
호스팅 GPU: 1백만 토큰당 $0.30 (8월 말까지 무료). 이 관리형, 항상 켜져 있는 엔드포인트는 사용자가 GPU를 구매하거나 임대할 필요가 없으며, RTX 4060보다 약 5배 빠른 성능을 제공합니다. 사용량 대시보드와 GitHub 및 Discord를 통한 지원을 포함하며, 초기 액세스에 신용 카드가 필요하지 않습니다.

Pros

+Achieves significant input token savings, from 25% on the first turn to over 85% in context-saturated sessions.
+Extends the effective context window, allowing up to three times more turns within the same LLM context.
+Employs non-destructive compression, ensuring that original data can always be recalled and nothing is permanently lost.
+Offers flexible deployment options, including a free, open-source self-hosting solution and a managed hosted GPU service.
+Integrates easily with existing AI agent setups via a single environment variable, supporting various OpenAI-compatible upstreams.
+Features an embedding-based tool filter that substantially reduces tool block tokens, improving efficiency for agents with many tools.

Cons

−Requires an additional layer (gateway) in the AI agent's communication flow, potentially introducing minimal latency.
−The hosted GPU service, while offering performance benefits, incurs a usage-based cost after the initial free period.
−Self-hosting requires managing the gateway and the 4B model, including hardware resources (e.g., an 8GB GPU card).
−Primarily focused on AI coding agents, which may limit its applicability for other types of LLM interactions or agent frameworks.
−The compression model (Paritok-4B-v1) is a specialized 4B model, which might have specific performance characteristics compared to larger, general-purpose LLMs.

유사한 도구

Paritok 대 경쟁사

Paritok은 AI 코딩 에이전트에 특별히 맞춰진 비파괴, 드롭인 게이트웨이 접근 방식을 통해 AI 토큰 최적화 분야에서 차별화됩니다. 다른 도구들도 압축을 제공하지만, Paritok의 도구, 파일 및 기록을 위한 통합 솔루션은 아키텍처 설계와 결합되어 독특한 가치 제안을 제공합니다.

Headroom↗

Compresses various AI agent inputs like tool outputs, logs, RAG chunks, files, and conversation history before they reach the LLM.

Offers similar on-the-fly compression to Paritok but is open-source and can be integrated as a library or proxy, providing more control over the deployment environment.

LLMLingua↗

A prompt compression library that achieves significant compression ratios and speedups for LLM inputs.

Provides a programmatic library for prompt compression, offering a more direct, code-level integration compared to Paritok's potentially more integrated 'drop-in' approach, but requires more manual implementation.

OptScale AI↗

Compresses LLM inputs, trims system-prompt overhead, aligns prompt caches, and routes requests to optimize cost via a gateway.

Similar to Paritok in offering a compression engine and cost optimization, but also includes features like model routing and cache alignment, potentially providing a broader suite of cost-saving features.

Mem0On Stork

Provides persistent memory for LLM agents, storing durable facts and retrieving only relevant context to reduce repeated token usage across sessions.

Unlike Paritok's direct compression, Mem0 reduces token usage by intelligently managing and retrieving relevant context from external memory, which is a different mechanism to achieve cost savings for agents.

Stork에서 더 보기