Kimi의 가중치는 공개되었지만, 하드웨어는 그렇지 않습니다
Moonshot AI AI는 이번 주 Kimi K3.1 Pro 모델의 가중치를 공개하여, 최첨단 수준의 3조 파라미터 모델을 누구나 이용할 수 있게 했습니다. 가중치가 공개되었음에도 Kimi K3.1 Pro를 로컬에서 실행하려면 상당한 하드웨어 문제가 따릅니다. 이 모델은 96개의 대형 샤드로 나뉘어 배포되며 총 용량은 약 1.6테라바이트이고, 원본 추론에는 최소 1.2테라바이트의 VRAM이 필요합니다.
영상에 따르면 Kimi K3.1 Pro의 벤치마크 성능은 최상위권 모델에 속합니다. 이 모델은 Agents Last Exam에서 1위, GDP Val(OpenAI의 내부 실제 지식 업무 벤치마크)에서 2위, OS World에서 3위를 기록한 것으로 알려져 있습니다. 또한 Terminal Bench와 BenchCAD에서도 강한 결과를 냈습니다.
이러한 순위는 특정 벤치마크 설계와 버전에 따라 달라집니다. 대부분의 사용자에게는 추론 제공업체가 Kimi K3.1 Pro를 이용할 수 있는 가장 빠른 경로가 될 것입니다. 오픈 소스 커뮤니티의 향후 양자화 작업은 로컬 접근성을 넓혀, 이 모델을 덜 특수한 하드웨어에서도 실행할 수 있게 할 가능성이 있습니다.
컴퓨터 제어는 더 작아지고 더 특화됩니다
컴퓨터를 직접 제어하도록 설계된 오픈 웨이트 모델도 등장하고 있습니다. 예를 들어 NorthCUA 모델 제품군은 컴퓨터 상호작용과 자동화에 초점을 맞춥니다. 주력 Pro 버전은 총 3,970억 개의 파라미터를 갖추고 있으며, Mixture-of-Experts(MoE) 아키텍처에서 활성 파라미터는 170억 개입니다.
더 작은 변형으로는 350억 파라미터의 NorthCUA Mini와 90억 파라미터의 NorthCUA Nano가 있습니다. 이 소형 모델들은 OS World Verified와 WebArena Verified 같은 벤치마크에서 경쟁력 있는 성능을 보이며, Nano 모델은 각각 78.9%와 78.8%를 기록했고 Pro 모델은 88.0%와 88.2%를 기록했습니다. 이 점수는 우수하지만, 벤치마크 성능이 실제 환경에서의 안정적인 컴퓨터 제어를 보장하지는 않습니다.
NorthCUA 모델은 맞춤형 하니스 안에서 화면 상태를 관찰하고, 정보를 처리하고, 행동을 실행하는 과정을 지속적인 루프로 수행합니다. 이러한 방식은 Sarvam 105B를 기반으로 한 의사결정 모델인 Sarvam Prism과 대조됩니다.
Jev와 같은 모델에서 영감을 받은 Prism은 정해진 답변 집합이 있는 맥락과 질문을 처리합니다. 한 번의 처리로 각 답변에 대한 확률을 반환하므로, 자유로운 텍스트 생성보다는 구조화된 의사결정에 적합합니다. 이 설계는 선택 기반의 결과에 초점을 맞추고 있어 행동 중심의 컴퓨터 사용 에이전트와 구별됩니다.
연구실 노트북에서 이미지까지, 소형 모델이 자리를 찾아갑니다
광범위한 범용 지능이 아니라 특정 작업을 위해 설계된 특화 모델도 등장하고 있습니다. MIT는 코드와 계산용 노트북을 생성할 수 있는 과학 모델 Hydrogen 1.0을 공개했습니다. Perplexity Embed V2 Context는 텍스트, 이미지, 시각 문서 등 다양한 데이터 유형에서 검색 성능을 개선하는 것을 목표로 합니다.
Pruna AI의 PH3 Image는 효율적인 이미지 생성 및 편집 솔루션을 제공합니다. MiniMax H3에서 파생된 이 모델은 50단계였던 과정을 크게 줄여 8단계로 이미지를 생성하거나 편집한다고 알려져 있습니다. 이에 따라 이전 모델보다 처리 시간이 짧고 가중치 파일도 더 작습니다.
커뮤니티의 노력은 소형 모델의 유용성을 보여 줍니다. 파라미터가 40억 개에 불과한 Qwen 3.5의 코딩 파인튜닝 모델이 예상치 못한 3D 장면 생성 능력을 보였습니다. 이는 범위가 좁고 명확하게 정의된 작업에 적용할 때 소형 모델도 매우 효과적일 수 있음을 시사합니다.
Moonshot AIai/Kimi-K3.1-Pro - Hugging Face에서 이용할 수 있는 Moonshot AI AI의 Kimi K3.1 Pro 같은 모델과 더불어, 이러한 특화 출시작은 증가하는 추세를 보여 줍니다. 개발자들은 오픈 웨이트 접근성을 활용해 특화된 AI 도구를 만들고 있습니다. 이를 통해 가장 크고 자원 소모가 많은 모델을 넘어서는 혁신이 가능해집니다.
이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.
하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음
Pika H3 Flex, 크리에이터를 위한 제안을 구체화하다
새로운 텍스트-투-비디오 생성 모델인 Pika H3 Flex는 빠른 창작 결과물을 내세웁니다. 이 플랫폼은 오디오가 포함된 15초 길이의 비디오 클립을 최短 7초 만에 생성할 수 있고, 최대 4K 해상도와 내보내기 가능한 오디오 스템을 제공한다고 주장합니다. 이러한 속도와 가격 수치는 Pika의 홍보 영상에서 제시된 주장입니다.
Pika H3 Flex는 단순한 프롬프트-투-클립 생성을 넘어 보다 반복적인 워크플로를 지원합니다. 사용자는 여러 이미지와 오디오 레퍼런스를 제공해 결과물을 유도하고, 생성된 클립에 대해 목표를 정한 편집을 수행할 수 있습니다. 이러한 기능은 창작 반복 과정을 가속하고 최종 비디오 결과물에 대한 사용자의 제어력을 높이는 것을 목표로 합니다.
이번 주 출시작에는 음성, 텍스트, 이미지 입력을 결합해 작업을 수행하는 모델인 Apriel Voice 27B와 또 다른 고속 텍스트 모델인 Clover도 포함되었습니다. Moonshot AI AI의 Kimi K3.1 Pro부터 NorthCUA의 컴퓨터 제어 에이전트, MIT의 Hydrogen 1.0 과학 모델에 이르는 이러한 특화 모델의 급증은 시장의 변화를 보여 줍니다. 데모와 벤치마크 점수는 초기 단서를 제공하지만, 실제 환경에서의 신뢰성과 실무 적용은 이 새로운 오픈 웨이트 모델들이 별도로 통과해야 할 시험으로 남아 있습니다.
자주 묻는 질문
Kimi K3.1 Pro란 무엇인가요?
Moonshot AI가 가중치를 공개한 3조 파라미터 모델입니다. 하드웨어 요구 사양이 매우 높아 대부분의 사용자에게는 호스팅 추론이 더 현실적입니다.
Kimi K3.1 Pro를 가정용 컴퓨터에서 실행할 수 있나요?
영상에서는 양자화하지 않은 모델에 약 1.2테라바이트의 VRAM이 필요하다고 추정하며, 이는 일반적인 소비자용 하드웨어를 크게 넘어서는 수준입니다. 더 작은 양자화 버전이 나오면 접근성이 개선될 수 있습니다.
NorthCUA는 어떤 역할을 하나요?
NorthCUA는 관찰, 사고, 행동을 반복하는 루프를 통해 컴퓨터를 제어하도록 설계된 오픈 웨이트 모델 제품군입니다.
이번 소식 모음에서 크리에이터를 대상으로 한 출시작은 무엇인가요?
이번 소식 모음에서는 이미지 생성 및 편집을 위한 PH3 Image와, 텍스트-투-비디오 생성 및 반복 편집을 위한 Pika H3 Flex를 주요 제품으로 소개합니다.