오픈AI vs SpaceX

엔비디아가 129억 달러에 허깅 페이스를 인수하기 위한 심층 협상을 진행 중이며, 합의에 도달한 것으로 알려졌습니다. 가격도 엄청나지만, 더 광범위한 AI 생태계에 미치는 전략적 영향은 훨씬 더 심각합니다. 허깅 페이스는 오픈 모델, 데이터셋, 코드의 독보적인 중앙 신경계입니다. 이 플랫폼을 구매함으로써 엔비디아는 사실상 전체 오픈소스 AI 커뮤니티의 유통 채널을 구매하는 것입니다.

즉각적인 피해는 하드웨어에 구애받지 않는 추론이 될 가능성이 높습니다. 허깅 페이스는 이전에 llama.cpp와 ggml의 핵심 유지보수 담당자들을 고용했습니다. 엔비디아가 주도권을 잡으면, 커뮤니티는 향후 개발이 CUDA에 심하게 편향될 것을 깊이 우려하고 있습니다. AMD의 ROCm 및 Vulkan과 같은 비엔비디아 백엔드 지원은 쉽게 우선순위에서 밀려나 개발자들을 기본적으로 엔비디아 하드웨어 생태계에 묶어둘 수 있습니다.

엔비디아는 완벽한 수직 통합 게임을 펼치고 있지만, 기업의 통제에 대한 오픈소스 커뮤니티의 알레르기 반응을 과소평가하고 있습니다. 이 거래가 성사되면 대규모 분산화 운동과 핵심 프로젝트의 즉각적인 하드 포크를 예상해야 합니다.

연방 판사가 국방부의 앤트로픽 금지가 불법이라고 공식적으로 판결했습니다. 국방부는 이전에 공급망 위험 라벨을 사용하여 AI 회사를 블랙리스트에 올렸습니다. 그러나 법원은 이것이 앤트로픽이 감시 및 자율 무기 시스템에 모델 사용을 방지하는 안전장치를 제거하기를 거부한 것에 대한 수정헌법 제1조 보복 행위라고 판단했습니다.

이 판결은 정부 계약을 다루는 AI 회사들에게 중요한 법적 선례를 확립합니다. 이는 군대가 기술에 대한 엄격한 윤리적 경계를 적용하는 연구소를 처벌하기 위해 조달 블랙리스트를 무기화할 수 없음을 확인합니다. 앤트로픽은 자율 무기에 대해 분명한 선을 그었고, 사법 시스템이 그들을 지지했습니다.

국방부는 최첨단 연구소들을 조용히 규제할 수 있는 영향력을 잃는 반면, AI 개발자들은 국방 부문의 강압에 맞설 거대한 법적 방패를 얻게 됩니다.

앤트로픽은 Claude가 더 작은 모델의 정렬을 자율적으로 개선할 수 있음을 입증하는 새로운 연구를 발표했습니다. 이 실험은 단 48시간과 단일 GPU만 필요했습니다. 한 가지 주목할 만한 사례에서는 Sonnet 5가 초기 Opus 4.8 체크포인트를 성공적으로 후처리하여, 안전 점수를 Opus의 제품 버전 수준에 가깝게 끌어올렸습니다.

이는 확장 가능한 감독에 있어 엄청난 진전입니다. 최첨단 모델이 인간 연구자들이 안정적으로 감사하기에는 너무 복잡해짐에 따라, 우리는 오정렬을 감지하고 수정하기 위해 자동화된 시스템에 의존해야 합니다. Sonnet 5와 같은 유능한 모델이 동료 모델을 건설적으로 정렬할 수 있음을 증명함으로써, 앤트로픽은 인간 피드백 병목 현상에서 벗어날 수 있는 실행 가능한 경로를 제시하고 있습니다.

여전히 한계는 미묘한 실패를 정의하고 측정하는 능력에 있습니다. 자동화된 정렬은 우리가 점수를 매기는 방법을 아는 결함에 대해서는 훌륭하게 작동하지만, 표준 벤치마크를 회피하는 드물고 분포 외의 오정렬이라는 잔존하는 위협을 해결하지는 못합니다.

구글의 Gemini Notebook이 사용자가 개인 전자책을 업로드하고 텍스트와 직접 상호작용할 수 있는 새로운 기능을 출시했습니다. 10만 권의 제목을 지원하며 출시된 이 도구는 독자들이 질문하고 책 내용에서만 출처를 얻은 답변을 받을 수 있게 합니다. 나아가 자동으로 챕터를 퀴즈, 인포그래픽 또는 오디오 개요로 변환합니다.

이는 디지털 독서의 유용성을 근본적으로 변화시킵니다. 밀도 높은 기술 매뉴얼이나 비소설 텍스트를 수동적으로 소비하는 대신, 사용자들은 이제 에이전트를 배치하여 자료를 즉시 추출, 형식화하고 테스트할 수 있습니다. 이는 모든 전자책을 사용자의 학습 스타일에 맞춰 동적이고 질의 가능한 데이터베이스로 만듭니다.

구글은 Gemini를 학생과 연구원에게 필수적인 도구로 만듦으로써 승리합니다. 그러나 출판사들은 AI 생성 요약 및 오디오 변환이 기존 라이선스 계약과 어떻게 상호작용할지에 대해 당황할 가능성이 높습니다.

AI 선구자 앤드류 응은 AI 종말론의 지배적인 서사에 공개적으로 이의를 제기하고 있습니다. 그는 인공지능을 둘러싼 실존적 공포가 소수의 대형 연구소에 의해 의도적으로 조작되고 있다고 주장합니다. 목표는 공공 안전이 아니라, 사다리를 걷어차고 오픈소스 경쟁을 짓밟을 강력한 규제를 추진하는 것입니다. 그는 또한 임박한 일자리 종말에 대한 예측을 전혀 근거 없는 것으로 일축했습니다.

응은 위선을 지적하는 것이 전적으로 옳습니다. AI의 실존적 위험에 대해 가장 크게 소리치는 회사들은 오픈소스 경쟁자들을 없애기 위해 의회에 규제를 요청하는 바로 그 회사들입니다. 공포 조장은 이타주의로 위장한 로비 전략일 뿐입니다.

개발자들은 종말론적인 소음에 귀 기울이지 말아야 합니다. 진정한 위협은 당신의 일자리를 빼앗는 사악한 초지능이 아닙니다. 규제 포획으로 인해 당신의 하드웨어에서 로컬 모델을 실행하는 것이 불법이 되는 것입니다.

튜링상 수상자가 합성 데이터를 인공지능 개발의 막다른 골목으로 공개적으로 일축했습니다. 주장을 뒷받침하기 위해 자본을 투자하여, 인공적으로 생성된 패턴을 단순히 반복하는 것이 아니라 진정으로 학습하는 AI 시스템을 구축하는 데 전적으로 초점을 맞춘 완전히 새로운 연구소를 설립하고 있습니다.

내부 모델을 미세 조정하기 위해 합성 데이터 생성에 수백만 달러를 쏟아붓는 기업 팀들에게 이것은 엄청난 경고 신호입니다. 현재의 스케일링 법칙은 합성 데이터가 인간이 생성한 텍스트의 고갈을 무한히 보충할 수 있다는 가정에 크게 의존합니다. 만약 그 가정이 근본적으로 결함이 있다면, 모델 개선의 현재 궤적은 가혹한 정체기에 부딪힐 것입니다.

다음 10년 동안 승리하는 조직은 합성 토큰을 비축하는 조직이 아니라, 실제 인지 학습을 모방하는 새로운 아키텍처에 투자하는 조직이 될 것입니다.

문샷이 벤치마크 순위표에 충격을 주고 있는 오픈 가중치 모델 Kimi K3를 출시했습니다. 이 모델은 총 2.8조 개의 매개변수와 추론 시 활성화되는 1040억 개의 매개변수, 그리고 100만 토큰의 거대한 컨텍스트 창을 특징으로 합니다. 결정적으로, 기존 비용의 일부만으로 Claude Fable 수준의 지능을 달성합니다.

독점적인 클로즈드 API 모델과 오픈 가중치 대안 간의 격차가 무서운 속도로 좁혀지고 있습니다. Kimi K3는 개발자에게 최첨단 추론과 거대한 컨텍스트 창을 제공하며, 주요 연구소와 관련된 엄청난 토큰 비용이나 플랫폼 종속성 없이 가능합니다.

많은 컨텍스트 처리가 필요한 애플리케이션을 구축하고 있다면 Kimi K3가 확실한 승자입니다. 수익을 위해 기본적인 API 래퍼에 의존하는 독점 연구소들은 이 새로운 물결의 고효율 오픈 가중치 거인들에 의해 시장에서 완전히 밀려날 것입니다.