Grok 4.7, 기대치를 낮춰야 할 이유

아마존이 메타의 AI 에이전트 '뮤즈(Muse)'가 Amazon.com에서 쇼핑하는 것을 적극적으로 차단하며 문을 닫았습니다. 공식적으로 언급된 이유는 권한 부족, 신원 미확인, 그리고 뮤즈가 사용자 자격 증명을 처리하는 방식에 대한 보안 우려였습니다.

이것은 에이전트 플랫폼 전쟁의 첫 번째 주요 포문입니다. 우리는 에이전트가 웹을 탐색할 만큼 똑똑한지에 대해 2년 동안 집착했지만, 웹이 실제로 그들을 허용할지 여부는 완전히 무시했습니다. 아마존은 메타가 고객 관계를 소유하고 전환 데이터를 스크랩하도록 내버려둘 아무런 이유가 없습니다.

소비자 대상 에이전트를 구축하고 있다면, 가장 큰 실존적 위협은 컨텍스트 창이 아니라 세계 최대 상점들로부터 IP 차단을 당하는 것입니다. 인터넷이 자동화된 도구를 위한 열린 놀이터로 계속 남을 것이라고 가정하는 것을 멈추세요.

샤오미가 MiMo-V2.6-Pro를 출시했습니다. 이 오픈 웨이트 옴니모달 모델은 출시 즉시 오픈 웨이트 부문 인공지능 분석 지수(Artificial Analysis Intelligence Index)에서 1위를 차지했습니다.

이것은 메타, 미스트랄, 또는 거액의 자금 지원을 받는 샌프란시스코 연구실에서 나온 것이 아닙니다. 예산형 스마트폰과 전동 스쿠터로 가장 잘 알려진 하드웨어 거대 기업에서 나왔습니다.

AI 프론티어는 기존 강자들이 인정하고 싶지 않을 정도로 빠르게 분산되고 있습니다. 하드웨어 회사가 최첨단 오픈 모델을 부업처럼 내놓을 수 있다면, 순수 기반 모델 기업들의 해자는 공식적으로 증발하는 것입니다.

딥시크(DeepSeek)의 전 엔지니어이자 현재 샤오미에서 노력을 이끌고 있는 푸리 뤄(Fuli Luo)가 회사의 최종 강화 학습 훈련 과정을 실시간으로 공개하기 시작했습니다. 이 규모의 모델에 대한 내부 지표 투명성 수준은 전례 없는 일입니다.

OpenAI와 Anthropic이 RLHF 데이터를 핵 발사 코드처럼 취급하는 반면, 샤오미는 이를 오픈소스 저장소처럼 다루고 있습니다.

이것은 단순히 이타주의가 아닙니다. 인재 채용 전략입니다. 공개적으로 구축함으로써 샤오미는 최고의 연구 인재들에게 블랙박스에 갇히지 않을 것이라는 신호를 보내고 있습니다. 더 넓은 커뮤니티에게는 현대 옴니모달 RL이 실제로 어떻게 작동하는지에 대한 명강의가 될 것입니다.

구글은 과학 문제 해결을 자동화하도록 설계된 Gemini 기반 시스템인 ERA(Empirical Research Assistance)를 공개했습니다. 문제가 '점수 매길 수 있는 작업'으로 축소될 수 있다면, ERA는 해결책을 찾을 때까지 유망한 실험 노트를 지속적으로 변형시킬 것입니다.

이는 AI가 채팅 인터페이스에서 무차별 대입 발견 엔진으로 도약하는 엄청난 발전입니다. 과학적 방법을 계산 집약적인 최적화 문제로 전환시킵니다.

기업 R&D 부서에게 이것은 구조 조정을 위한 명확한 신호입니다. 더 이상 실험 실행이 병목 현상이 아니라, ERA가 잘못된 것을 최적화하지 않도록 점수 매기기 지표를 충분히 정확하게 정의하는 것이 병목 현상입니다.

구글의 비행운 감지 Kaggle 대회 참가자들은 더 나은 비전 모델을 구축해서가 아니라, 데이터셋 레이블의 반 픽셀 오류를 식별하고 악용하여 상을 받았습니다.

그들은 문제의 실제 물리학을 완전히 무시하고 지표에 완벽하게 최적화했습니다. 이것이 바로 굿하트의 법칙(Goodhart's Law)이 작동하는 방식입니다. 즉, 측정이 목표가 되면 더 이상 좋은 측정이 되지 않습니다.

정적 데이터셋으로 모델을 훈련하고 있다면, 최고의 성능을 보이는 체크포인트는 데이터 파이프라인의 버그를 암기한 것일 수도 있습니다. 손실 곡선만 보지 말고 항상 출력을 확인하세요.

존 플랫(John Platt) 팀은 AI를 사용하여 비행운 모델링의 반사실 문제를 성공적으로 해결했습니다. 열 포획 및 반사된 햇빛 효과를 정확하게 매핑함으로써, 그들은 인간이 유발하는 지구 온난화의 약 1%를 차지하는 변수를 밝혀냈습니다.

기후 모델링은 항상 비행운과 같은 역동적이고 일시적인 현상으로 어려움을 겪었습니다. 전통적인 물리 엔진은 너무 느리지만, AI는 대규모로 반사실을 근사화할 수 있습니다.

이것이 바로 AI가 물리적 세계에서 빛을 발하는 지점입니다. 인간의 판단을 대체하는 것이 아니라, 이전에는 정확하게 측정하는 것이 불가능했던 혼란스럽고 변수가 많은 시스템을 풀어내는 것입니다.

네이선 램버트(Nathan Lambert)는 강화 학습에서 더 어려운 문제에 더 많은 컴퓨팅 자원을 할당하는 방법을 설명하는 '절대 포기하지 마라(Never Give Up)'라는 새로운 논문을 발표했습니다. 이 기술은 GRPO 그룹이 잘못된 완료를 생성할 때 높은 확률로 더 많이 샘플링하는 것을 포함합니다.

강화 학습 동안 모든 프롬프트를 동일하게 취급하는 대신, 이 접근 방식은 모델이 실제로 어려움을 겪는 예외적인 경우에 컴퓨팅 자원을 동적으로 할당합니다.

이는 총 매개변수 수를 맹목적으로 늘리지 않고도 더 어려운 강화 학습 문제에서 이득을 얻을 수 있는 매우 효율적인 방법입니다. 복잡한 추론을 위해 모델을 미세 조정하고 있다면, 훈련 중 동적 컴퓨팅 할당이 새로운 기준이 됩니다.

데반쉬(Devansh)는 AI 기업들이 왜 LLM에 수조 달러를 쏟아붓고 있는지, 그리고 그들의 독특한 승리 조건이 전략을 어떻게 형성하는지 최근 분석했습니다. OpenAI, Anthropic, Google은 단순히 다른 모델을 구축하는 것이 아니라, AI 상호작용에 대한 완전히 다른 비전을 향해 나아가고 있습니다.

OpenAI는 소비자 운영 체제가 되기를 원합니다. Google은 검색 독점과 엔터프라이즈 클라우드를 보호하고자 합니다. Anthropic은 높은 신뢰도와 안전성이 중요한 엔터프라이즈 계층을 목표로 합니다.

이러한 모델 위에 구축하고 있다면, 제품을 제공업체의 궁극적인 승리 조건과 일치시켜야 합니다. Anthropic 위에 소비자 래퍼를 구축한다면, 그들의 로드맵이 당신을 무시하더라도 놀라지 마세요.

스콧 알렉산더(Scott Alexander)는 벤카테시 라오(Venkatesh Rao)의 효과적 이타주의 비판에 대해 장문의 반박문을 게시하려 했으나, 차단당했습니다. 서브스택(Substack)의 댓글, 답글, 비공개 메시지에 대한 유료 구독 제한으로 인해 알렉산더는 자신의 서브스택에 답변을 게시할 수밖에 없었습니다.

이는 분산형 출판에서 커지는 마찰을 보여줍니다. 플랫폼이 상호 운용성보다 수익화를 우선시할 때, 실제 대화는 단절되고 폐쇄된 생태계 전반에 걸쳐 파편화됩니다.

개발자들에게 이는 커뮤니티 참여를 위해 타사 플랫폼에 의존하는 것이 항상 플랫폼 위험을 수반한다는 점을 상기시켜 줍니다. 청중을 소유하고, 인프라를 소유하세요.