#Headroom

Netflix의 도구가 AI 비용을 95% 절감합니다

Netflix 엔지니어가 AI 에이전트 토큰 사용량을 최대 95%까지 절감하는 도구를 오픈 소스로 공개했습니다. 이 로컬 우선 프록시는 컨텍스트가 LLM에 도달하기 전에 지능적으로 압축하여 강력한 에이전트를 훨씬 저렴하게 만듭니다.