Zhipu, 당신의 API 예산에 미치는 영향

Jev의 출시 영상은 이틀 만에 3,600만 조회수를 기록했으며, 모델은 첫날 약 13%의 팀에 도달했습니다. 이는 AI 게이트웨이 역사상 가장 빠르게 채택된 모델로, 초기 견인력에 대한 이전 기록을 갈아치웠습니다.

이는 단순히 과대광고 생성의 대가(masterclass)일 뿐만 아니라, 일반적인 LLM 래퍼에 대한 시장의 피로감을 보여주는 거대한 신호입니다. 비생성형 모델이 이 정도의 견인력을 발휘한다는 것은 개발자들이 단순히 텍스트를 환각하는 대신 실제로 의사결정을 내리는 도구를 갈망하고 있다는 의미입니다. 빌더들은 신뢰할 수 있는 JSON 출력을 얻기 위해 프롬프트 엔지니어링과 씨름하는 것에 지쳐 있습니다.

Jev는 생성형 함정에서 벗어날 방법을 약속하며 출시 주기를 결정적으로 승리했습니다. 이번 주에 13%의 팀이 API를 통해 실제 프로덕션 트래픽을 푸시하기 시작하면서 인프라가 부하에 어떻게 휘청거리는지 지켜보십시오.

Jev는 거대한 LLM에 대한 빠른 '시스템 1' 보완재로 포지셔닝되고 있습니다. 텍스트를 생성하는 대신 쿼리 라우팅, 인용 선택, 법률 업무 처리 등 의사결정을 내립니다.

우리는 파리 잡는 데 쇠망치를 사용하듯, 거대한 생성 모델에게 간단한 분류와 라우팅을 강요해 왔습니다. 도구 호출과 라우팅을 Jev와 같은 판별 모델로 옮기는 것은 업계가 절실히 필요로 하는 근본적인 아키텍처 변화입니다.

이는 생성 모델이 올바른 도구 호출 형식을 출력하기를 바라는 것보다 빠르고 저렴하며 훨씬 더 신뢰할 수 있습니다. 생성형 LLM은 오케스트레이션 계층에 대한 독점권을 잃었으며, 판별 모델은 우리가 AI 워크플로우를 처음부터 구축하는 방식을 조용히 다시 쓸 것입니다.

Claude Code v2.1.277은 이제 리포지토리에서 AGENTS.md 파일을 적극적으로 확인합니다. 이는 이 파일을 에이전트 툴링 및 컨텍스트의 새로운 표준으로 공식적으로 인정하는 것으로, 지저분한 shim 파일의 필요성을 크게 줄일 것으로 예상됩니다.

관례는 주요 플레이어가 강제할 때만 작동합니다. Anthropic은 AGENTS.md 지원을 Claude Code에 직접 통합함으로써 문제를 강제하고 하룻밤 사이에 사실상의 표준을 만들었습니다.

이는 교차 도구 호환성에 대한 엄청난 승리이며, 독점적인 도구별 설정 파일에 대한 사망 선고입니다. 오늘 리포지토리를 업데이트하거나, 경쟁자들이 더 빨리 움직이는 동안 에이전트가 기본적인 컨텍스트 수집에 실패하는 것을 지켜보십시오.

최근 분석에 따르면 간단한 도구 세트로 파레토 최적 성능을 달성하면서 추론 비용을 대폭 줄일 수 있습니다. 코딩 에이전트의 벤치마크 결과는 이제 순수한 모델 기능보다는 하네스 구조, 컨텍스트 설정 및 도구 활용 가능성에 크게 좌우됩니다.

더 똑똑한 모델이 필요한 것이 아니라, 더 엄격한 샌드박스가 필요합니다. 50개의 도구를 가진 문제에 거대한 컨텍스트 창을 던지는 것은 값비싼 실패로 가는 지름길입니다.

지금 성공하고 있는 팀들은 도구 세트를 적극적으로 가지치기하고 컨텍스트 설정을 최적화하는 팀들입니다. 순수한 힘은 사라지고, 정밀 엔지니어링이 대세입니다.

실무자들은 값비싼 최전선 모델을 고수준 계획에 사용하고, 실제 실행은 더 저렴하고 작은 모델에 맡기는 이분화된 모델 전략을 빠르게 채택하고 있습니다. 이러한 분할은 프로덕션 파이프라인 전반에 걸쳐 엄청난 비용 절감을 가져오고 있습니다.

이것이 2026년의 아키텍처 패턴입니다. 천재에게 청사진을 작성하게 하고, 저렴한 노동력으로 망치를 휘두르게 하는 것입니다.

만약 여러분의 기업이 여전히 간단한 실행 작업을 최전선 모델을 통해 라우팅하고 있다면, 돈을 불태우고 있는 것입니다. 보편적인, 만능 모델 전략은 죽었습니다.

진정한 재귀적 자기 개선(RSI)을 정의하기 위한 새로운 분류법이 등장했습니다. 합의에 따르면 RSI는 AI가 자체 내부 가중치뿐만 아니라 검색 전략, 경험 생성, 연구 도구 및 실제 개선 프로세스 자체를 수정해야 한다고 명확히 합니다.

우리는 RSI라는 용어를 너무 느슨하게 사용해 왔습니다. 이 새로운 프레임워크는 눈속임과 실존적 이정표를 구분합니다.

시스템이 자체 연구 도구와 검색 전략을 업그레이드하지 않는다면, 그것은 단순한 피드백 루프일 뿐 진정한 재귀적 자기 개선이 아닙니다. 기준이 훨씬 더 높아졌습니다.

GPT-6 Astra가 Open Math Model 출시와 동시에 또 다른 주요 FrontierMath 미해결 문제를 해결했습니다. 지배적인 주장은 방대한 고품질 사전 훈련 데이터가 이러한 수학 능력의 진정한 원동력이며, 검증 가능한 보상 구조보다 중요하다고 합니다.

쓰라린 교훈이 다시 한번 찾아왔습니다. 우리는 모델에 수학을 가르치기 위해 복잡한 보상 메커니즘을 설계하려고 계속 노력했지만, GPT-6 Astra로 사전 훈련 데이터를 무작정 밀어 넣는 것이 더 효과적임이 입증되었습니다.

데이터 규모는 AI 혁신의 무패 챔피언으로 남아 있습니다. 보상 함수에 대해 너무 많이 생각하지 말고 더 나은 데이터셋을 구매하기 시작하십시오.

CUA-Bench라는 새로운 벤치마크는 실시간 키보드 및 마우스 사용을 테스트합니다. 결과는 참혹합니다. 현재 모든 최전선 모델은 20% 미만의 점수를 기록했습니다. 인간이 몇 초 만에 실행하는 작업은 최첨단 AI에게는 여전히 매우 어렵습니다.

이것은 소프트웨어에 적용된 로봇 공학 역설입니다. 추상적 추론은 해결되었지만, 투박한 GUI를 탐색하는 것은 AGI만큼 어려운 것으로 보입니다.

이러한 모델이 버튼 클릭을 환각하지 않고 브라우저를 안정적으로 구동할 수 있을 때까지, 완전 자율 데스크톱 에이전트는 꿈에 불과합니다.

새로 출시된 Turbo-dLLM 오픈 소스 라이브러리는 대규모 컨텍스트 창을 사용하여 확산 LLM을 대규모로 훈련하는 데 엄청난 속도 향상을 보여주고 있습니다. 이는 자율 에이전트가 엄청나게 컨텍스트에 굶주려 있다는 현재 시장 현실과 완벽하게 일치합니다.

에이전트가 전체 코드베이스를 메모리에 담을 수 없다면 쓸모가 없습니다. Turbo-dLLM은 대규모 인프라 병목 현상을 해결하여 하이퍼스케일러 예산 없이도 긴 컨텍스트 훈련을 가능하게 합니다.

이 라이브러리는 주요 연구소들과 컨텍스트 길이 경쟁을 벌이는 오픈 소스 팀에게 엄청난 승리입니다.

아키텍처 분류 논쟁에서 새로운 제안은 시퀀스 모델의 포괄적인 용어로 '선형 RNN'을 채택하고, 상태 공간 모델(SSM)을 하위 계열로 분류할 것을 제안합니다. 목표는 명칭을 정리하고 경쟁하는 아키텍처 접근 방식을 명확하게 구별하는 것입니다.

이름을 짓는 것은 어렵지만, AI 연구자들은 특히 서툽니다. '선형 RNN'으로 표준화하면 트랜스포머의 대안에 대해 깔끔하고 역사적으로 정확하게 이야기할 수 있습니다.

물론 지나치게 학술적일 수 있지만, 차세대 아키텍처를 구축할 때는 정확성이 중요합니다.