모든 테스트 실행에 숨겨진 청구서
모든 Claude Code 세션에는 컨텍스트 비대화(context bloat)라는 숨겨진 비용이 존재합니다. 각 명령 출력과 이전 대화 내용은 일반적으로 새로운 요청과 함께 다시 전송됩니다. 이로 인해 장황한 로그, 방대한 테스트 스위트, 상세한 명령 출력은 토큰 사용량과 API 청구액을 불균형적으로 증가시킵니다.
Context Mode의 호스팅 게이트웨이는 중개자 역할을 하여 이 문제를 해결합니다. Claude Code의 기본 URL을 수정하여 모든 요청이 Anthropic에 도달하기 전에 서버를 거치도록 라우팅합니다. 사용자는 기존 Claude 계정과 직접적인 Anthropic 결제 방식을 유지하므로 투명성과 제어권이 보장됩니다.
핵심 기능은 출력 폴딩(output folding)입니다. 게이트웨이는 600줄에 달하는 테스트 스위트와 같은 방대한 결과를 지능적으로 압축하여 실패한 테스트 하나와 같은 핵심 세부 정보로 요약합니다. 전체 출력은 필요할 때 검색할 수 있도록 보관하며, 활성 컨텍스트를 간결하고 관련성 있게 유지합니다. 이러한 최적화는 340만 줄의 NASA 서버 로그를 포함한 테스트에서 비용을 31% 절감했습니다.
게이트웨이 설정은 매우 간단합니다. 단일 명령어로 Claude Code 설정에 세 줄을 추가하기만 하면 됩니다. 되돌려야 할 경우 역명령어를 사용하면 됩니다. 이 최소한의 구성만으로도 특히 데이터 집약적인 긴 코딩 세션에서 상당한 비용 절감 효과를 얻을 수 있습니다.
NASA 로그로 비용 절감 효과를 검증하다
모델(Opus 5.5)과 프롬프트가 동일한 두 개의 Claude Code 에이전트가 1995년 NASA Kennedy Space Center 서버 로그 340만 줄을 대상으로 테스트를 진행했습니다. 각 에이전트는 원시 웹 트래픽 데이터에 관한 다섯 가지 질문에 답했습니다.
두 에이전트 모두 트래픽 최고치를 정확히 식별했습니다. Discovery호의 STS-70 발사 당시 셔틀 카운트다운 및 라이브 비디오 페이지에 약 15,000건의 방문이 집중된 7월 13일 오전 9시였습니다. 또한 허리케인 Erin과 관련된 약 38시간의 중단 시간도 정확히 찾아냈습니다. 전반적인 정확도는 100%였습니다.
직접 실행한 에이전트의 비용은 $0.68였습니다. 게이트웨이를 거쳐 라우팅된 에이전트는 동일한 작업을 $0.47에 완료하여 31%의 비용 절감을 기록했습니다.
두 개의 대용량 JSON 파일(소행성 근접 통과 데이터, 1900-2200년)을 사용한 두 번째 테스트에서도 비슷한 절감 효과가 나타났습니다. 직접 실행한 에이전트의 비용은 $0.84였으며, 게이트웨이를 사용한 에이전트는 $0.58였습니다.
합산 결과, 직접 실행은 총 $1.52가 소요된 반면 게이트웨이 지원 실행은 $1.05가 소요되었습니다. 이 31%의 통합 절감액은 설득력이 있지만, 각 작업은 한 번만 실행되었습니다. 이 수치는 Anthropic의 정규 요금으로 계산된 직접적인 API 청구액을 나타냅니다.
31% 결과에 대한 각주
측정된 비용 절감액이 균일하지는 않았습니다. 게이트웨이 콘솔은 자체 처리로 인해 약 12%의 절감이 발생했다고 분석했습니다. 그러나 직접 비교 결과 더 큰 격차가 나타났는데, 총 비용이 30-31% 감소했습니다. 라우팅된 에이전트는 또한 답변 텍스트를 27-37% 적게 생성했습니다.
발표자는 게이트웨이가 더 간결한 응답을 유도했을 가능성을 제기했으나, 이를 뒷받침할 데이터는 없습니다. 이 결과는 반복 가능한 벤치마크가 아닌 유망한 시연으로 간주해야 합니다. 각 시나리오(NASA 로그, 소행성 데이터)에 대한 단일 테스트 실행은 변동성이 정량화되지 않았음을 의미합니다.
Context Mode는 긴 세션에서 최대 65%의 비용 절감을 주장합니다. NASA 로그 테스트는 의미가 있었지만 그보다 낮은 절감률을 보였습니다. 절감액은 워크플로우가 얼마나 많은 반복적 출력을 생성하느냐에 달려 있습니다. 짧고 간단한 수정이나 장황한 출력이 최소화된 워크플로우에서는 큰 이점을 보지 못할 가능성이 높습니다. 아키텍처에 대한 자세한 내용은 Context Mode: The Control Plane for Coding Agents를 확인하세요.
핵심 이점은 명확합니다. 바로 컨텍스트 비대화를 공격적으로 줄이는 것입니다. 제 워크플로우를 확인해 본 결과, 사소한 출력 폴딩이라도 수백 번의 반복에 걸쳐 확장되면 실질적인 토큰 및 비용 절감으로 이어진다는 것을 알 수 있었습니다. 이는 대량 작업에 대한 효율성 전략입니다.
이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.
하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음
유용한 가드레일, 진지한 데이터 질문
게이트웨이의 명령 확인 기능인 Protect는 유용했습니다. main 브랜치로의 푸시와 가짜 환경 토큰에 대한 접근을 차단하면서도, 별도의 브랜치로의 푸시는 허용했습니다. 무해한 파일 읽기 명령 하나가 잘못 차단되는 경우가 있었는데, 이는 향후 개선해야 할 예외 사례입니다.
중요한 점은 Protect가 내부 스크립트 작업이 아닌 명령을 확인한다는 것입니다. 이는 샌드박싱이나 기존 보안 제어를 대체할 수 없으므로, 기존의 보안 태세를 유지하십시오.
가장 큰 상충 관계는 데이터 흐름입니다. 프롬프트와 도구 출력값이 Context Mode의 서버를 거쳐 전달됩니다. 영상에서는 당시 이 데이터들이 자동으로 삭제되지 않는다고 언급했는데, 이는 개인정보 보호 및 규정 준수 측면에서 매우 중요한 지점입니다. 항상 팀의 요구 사항을 확인하십시오.
호스팅된 게이트웨이의 공유 플랫폼과 로컬에 설치된 플러그인을 비교해 보세요. 방대한 로그나 테스트 실행이 포함된 길고 출력량이 많은 세션의 경우, 컨텍스트 비대화와 토큰 소비를 줄여 실질적인 비용 절감을 제공하는 게이트웨이가 가장 적합합니다. 빠르고 일회성인 수정 작업에는 로컬 플러그인으로도 충분할 수 있습니다.
자주 묻는 질문
Context Mode 게이트웨이는 어떤 역할을 하나요?
Claude Code 요청을 호스팅된 서비스로 라우팅하여, 모델에 컨텍스트를 보내기 전에 방대한 도구 출력값을 압축합니다. 이때 전체 출력값은 필요 시 검색할 수 있도록 유지됩니다.
Context Mode는 Claude Code 비용을 얼마나 줄일 수 있나요?
영상 속 두 번의 테스트에서 게이트웨이는 전체적으로 약 31%의 비용을 절감했습니다. Context Mode는 더 긴 세션에서 최대 65%의 절감 효과를 주장하지만, 결과는 상황에 따라 다를 수 있습니다.
게이트웨이가 제 Anthropic 계정을 대체하나요?
아니요. 요청을 Context Mode를 통해 라우팅할 뿐이며, 사용자는 자신의 Claude 계정을 계속 사용하고 Anthropic으로부터 요금을 청구받습니다.
Context Mode 게이트웨이는 민감한 코드에 대해 안전한가요?
프롬프트와 도구 출력값이 Context Mode의 서버를 거쳐 전달되며, 영상에 따르면 아직 자동으로 삭제되지 않는다고 합니다. 민감한 자료에 사용하기 전에 조직의 정책을 확인하십시오.
게이트웨이는 로컬 Context Mode 플러그인과 어떻게 다른가요?
플러그인은 로컬에서 실행되며 각 머신과 에이전트마다 설치해야 합니다. 반면 호스팅된 게이트웨이는 지원되는 설정 전반에 걸쳐 라우팅과 컨텍스트 처리를 중앙 집중화합니다.