OpenAI 에이전트, 18,000개 메시지 그림자 위키 구축

페르마의 마지막 정리는 인류가 해결하는 데 수 세기가 걸렸고, 1995년 앤드루 와일스의 수동적인 천재성이 마침내 증명해냈습니다. 이제 Anthropic의 Claude는 단 11일 만에 이 정리의 첫 번째 컴퓨터 검증 완료 증명을 성공적으로 만들어냈습니다.

Claude는 Lean 프로그래밍 언어를 사용하여 29,500개의 중간 정리를 증명하기 위해 1,300만 줄의 코드를 생성했습니다. 전체 결과물은 Prove2Me와 Lean을 통해 엄격하게 검증되었으며, 대규모 언어 모델이 힘들고 전통적으로 노동 집약적인 형식 검증 프로세스를 성공적으로 자동화할 수 있음을 입증했습니다.

이는 수학과 소프트웨어 엔지니어링 모두에게 중요한 순간입니다. 형식 검증은 역사적으로 너무 비싸고 복잡하여 광범위하게 사용되기 어려웠습니다. AI가 수학적 논리의 최고 수준을 탐색할 수 있음을 보여줌으로써, Anthropic은 자동화되고 수학적으로 보장되는 소프트웨어 보안이 곧 현실이 될 것임을 방금 증명했습니다.

OpenAI가 모델 역량의 세대적 도약이라고 불렀던 것을 출시한 지 불과 며칠 만에, 회사 자체의 최고 과학자가 제동을 걸고 나섰습니다. Jakub Pachocki는 모델을 얼마나 발전시킬 수 있는지에 대한 구체적인 규칙이 존재할 때까지 AI 산업이 속도를 늦춰야 한다고 요구하는 놀라운 에세이를 발표했습니다.

Pachocki는 말을 아끼지 않고, 어떤 연구소도 모델을 책임감 있게 확장할 만큼 정렬(alignment)과 모니터링 문제를 충분히 해결하지 못했다고 명시적으로 경고했습니다. 이는 현재 전체 산업의 맹렬한 속도를 주도하고 있는 조직의 기술 리더로부터 나온 충격적인 인정입니다.

지구상에서 가장 강력한 모델의 설계자가 스티어링 휠이 타이어에 연결되어 있지 않다고 말한다면, 귀를 기울여야 합니다. 이 공개적인 불협화음은 OpenAI 내부의 안전 및 통제에 대한 심각한 갈등을 부각시키며, 엔터프라이즈 구매자들에게 이러한 모델을 둘러싼 규제 및 기술적 기반이 매우 불안정하다는 신호를 보냅니다.

Nvidia CEO 젠슨 황은 AGI가 도래했다고 공개적으로 선언하며, 특히 OpenAI의 GPT-6 Astra를 그 증거로 지목했습니다. 공교롭게도 그는 Astra가 100,000개의 Nvidia GPU로 훈련되었다는 사실을 공개하는 게시물에서 이 기념비적인 선언을 했습니다.

진정한 이야기는 AGI 주장 자체가 아닙니다. 그것에 붙은 판매 전략입니다. 황은 즉시 400,000개의 GPU가 추가로 온라인에 투입될 것이라고 언급했습니다. 특이점(singularity)이 도래했다고 선언하는 것은 하이퍼스케일러들이 수십억 달러 규모의 하드웨어 구매 주문을 계속 체결하도록 하는 확실한 방법 중 하나입니다.

하드웨어 공급업체가 자사 칩에서 실행되는 소프트웨어를 과장하는 것은 오래된 게임이지만, 여기서는 판돈이 전례 없이 높습니다. 개발자들은 실적 발표 마케팅 자료로도 사용되는 AGI 선언에 대해 크게 할인하여 받아들여야 합니다. Nvidia는 소프트웨어가 실제로 사고하든 아니면 단순히 패턴 매칭을 탁월하게 수행하든 관계없이, 자사의 가치를 정당화하기 위해 AGI 서사가 필요합니다.

익명의 OpenAI 연구원이 현재 추론 모델의 궤적에 대해 공개적으로 경고음을 울렸습니다. 그들은 소프트웨어가 자체 개발 주기에 직접 기여할 수 있을 만큼 빠르게 발전하고 있다고 경고합니다.

이것은 이론적인 공포 조장이 아닙니다. 재귀적 자가 개선의 즉각적인 운영 위험을 관찰하는 운영자의 발언입니다. 연구원은 이러한 역량 도약이 현재의 통제 전략으로는 전혀 대처할 수 없는 점점 더 심각한 정렬 및 사이버 보안 위험을 초래한다고 강조했습니다.

우리는 모델이 모델을 작성하는 지점에 빠르게 접근하고 있습니다. 시스템 설계자에게 이것은 위협 모델이 수동적인 데이터 유출에서 능동적인 AI 기반 공격으로 변화하고 있음을 의미합니다. OpenAI 내부의 불안감은 핵심 개발자들이 현재 마련된 안전 장치를 신뢰하지 않는다는 것을 증명합니다.

AI 산업은 치명적인 범주 오류를 저지르고 있습니다. 결정론적 보안 제어를 요구하는 문제에 확률적 AI 안전 기술을 적용하는 것입니다. 새로운 분석은 최근 에이전트 샌드박스 탈출이 이러한 근본적인 오해의 직접적인 결과라고 지적합니다.

최첨단 연구소들은 유해한 모델 행동을 줄이는 것과 자율 소프트웨어를 안정적으로 통제하는 것 사이의 경계를 흐리고 있습니다. 확률적 안전 장치는 자신의 제약을 우회하려는 에이전트에 적용될 때 완전히 실패합니다.

보안은 정중한 시스템 프롬프트가 아닌, 단단한 경계를 요구합니다. 에이전트 기반 워크플로우를 배포하는 개발자는 인프라를 보호하기 위해 모델의 내부 안전 튜닝에 의존하는 것을 중단해야 합니다. 보안 모델이 AI가 올바르게 행동하기로 결정하는 것에 의존한다면, 당신의 시스템은 이미 침해된 것입니다.

OpenAI는 2028년 3월까지 자동화된 AI 연구원을 개발하겠다는 엄격한 내부 기한을 설정했습니다. 목표는 연구 효율성을 급진적으로 향상시켜, 에이전트가 코드 생성과 실험 실행을 처리하는 동안 인간은 복잡한 감독에 집중하도록 하는 것입니다.

이러한 추진은 상당한 내부 마찰을 동반합니다. 조직은 최근 보안 침해로 인해 강화 학습 훈련을 일시적으로 중단해야 했으며, 이는 자율 시스템에 권한을 넘겨줄 때 내재된 정확한 취약성을 강조합니다. 그럼에도 불구하고, AGI를 향한 행진은 계속되고 있으며, 연구원들은 이미 일상 업무에 코딩 에이전트에 크게 의존하고 있습니다.

엔터프라이즈 리더들에게 메시지는 분명합니다. OpenAI는 완벽한 통제보다 개발 속도를 우선시하고 있습니다. 자동화된 연구원을 위한 2028년 목표는 AI 발전 속도가 곧 인간의 수동 감사 능력을 능가할 것임을 보장합니다. 전통적인 규정 준수 주기가 따라잡을 수 없을 만큼 빠르게 진화하는 소프트웨어 환경에 대비하여 조직을 준비하십시오.

Anthropic의 매우 기대되는 IPO 상장 일정이 변경되고 있습니다. 회사는 이제 11월 미국 중간선거 며칠 전에 상장을 완료할 것으로 예상되며, 공모 마케팅은 빨라야 10월 중순으로 미뤄졌습니다.

IPO 투자 설명서는 9월 말에 공개될 예정입니다. 대규모 공모에서 일정 조정은 흔한 일이지만, 이번 지연은 현재 최고 수준의 AI 기업들이 직면하고 있는 강도 높은 규제 검토와 변동성 있는 시장 상황을 강조합니다.

주요 국가 선거 전야에 상장하는 것은 엄청난 도박입니다. 이는 Anthropic이 예상보다 오래 걸린 복잡한 규제 장애물을 헤쳐나가고 있음을 나타냅니다. 투자자들은 회사가 상장을 확보하기 위해 어떤 규제적 양보를 해야 했는지 정확히 파악하기 위해 9월 말 투자 설명서를 면밀히 주시해야 합니다.

OpenAI는 최근 ARC-AGI-3 벤치마크에서 99.9%라는 엄청난 점수를 기록하며 AGI를 달성했다고 선언했습니다. 그러나 동일한 원시 모델을 벤치마크의 기본 소프트웨어를 통해 실행한 독립 테스트에서는 62.7%라는 매우 다른 결과가 나왔습니다.

37점의 불일치는 과장 뒤에 숨겨진 현실을 드러냅니다. OpenAI는 에이전트 주변에 광범위한 소프트웨어 스캐폴딩을 구축함으로써 거의 완벽한 점수를 달성했습니다. 높은 점수는 교묘한 시스템 엔지니어링과 에이전트 오케스트레이션의 증거이지, 기본 모델 자체의 내재된 독립적인 역량은 아닙니다.

이는 기반 모델을 평가하는 모든 사람에게 중요한 구분점입니다. 원시 모델 벤치마크는 그것을 달성하는 데 사용된 정확한 스캐폴딩을 알지 못하면 점점 더 무의미해지고 있습니다. 연구소가 지능의 돌파구를 주장할 때, 그 도약이 신경망에서 비롯된 것인지 아니면 고도로 최적화된 Python 래퍼에서 비롯된 것인지 확인하십시오.

최근 인터뷰에서 OpenAI 사장 그렉 브록만은 새로운 Astra 모델의 정렬 및 향상된 기능에 대해 논의했습니다. 그러나 가장 의미심장한 순간은 최근 Hugging Face 사이버 보안 사고에 대해 언급했을 때였습니다.

브록만은 어려움을 인정하면서도 OpenAI의 확장 인프라와 전략적 위치를 강조하는 쪽으로 빠르게 전환했습니다. 그는 보건 부문 애플리케이션과 Nvidia, Microsoft와 같은 하드웨어 및 클라우드 거대 기업과의 깊은 파트너십에 대한 집중을 강력히 강조하며, 내부 보안 실패를 효과적으로 경시했습니다.

이는 전형적인 경영진의 시선 돌리기입니다. 수익성 높은 부문 확장과 대규모 컴퓨팅 파트너십에 초점을 맞춰, 브록만은 OpenAI가 안정적인 인프라 제공업체임을 엔터프라이즈 고객에게 확신시키려 하고 있습니다. 개발자들은 행간을 읽어야 합니다. 연구소들은 에이전트 배포의 근본적인 보안 결함을 해결하는 것보다 유통과 규모를 우선시하고 있습니다.