Anthropic의 치명적인 한 가지 결함

Anthropic의 현재 어려움은 수년 전의 단 한 번의 치명적인 오판에서 직접적으로 비롯됩니다. CEO Dario Amodei는 시장 변동성을 경계하여, AI 수요가 감소할 경우 compute infrastructure에 과도하게 투자하여 회사를 파산시킬 것을 우려해 의도적으로 보수적인 길을 택했습니다. 이는 당시에는 특히 예상 투자 규모가 전례 없는 수준이었음을 감안할 때 훌륭하고 심지어 신중한 결정처럼 보였습니다.

그러나 AI 수요 곡선은 단순히 성장한 것이 아니라 폭발적으로 증가하여 가장 낙관적인 예측조차 훨씬 뛰어넘었습니다. 그 초기 신중함은 빠르게 치명적인 병목 현상이 되었고, Anthropic을 오늘날까지 괴롭히는 자해적인 상처가 되었습니다. 이 문제는 Anthropic이 초기에 개발한 10 trillion parameter model에 의해 더욱 증폭되는데, 이는 제한된 compute 자원을 더욱 압박하는 자원 집약적인 성과였습니다.

오늘날 이 compute debt는 광범위한 사용자 불만과 치명적인 경쟁적 불이익으로 나타납니다. Anthropic은 인색한 token quotas를 제공하는데, 이는 종종 사용자 할당량을 두 배 또는 세 배로 늘려주는 OpenAI의 빈번하고 관대한 리셋과는 극명한 대조를 이룹니다. 회사는 선도적인 Fable 모델을 구독에서 철회하겠다고 반복적으로 위협하여, 사용자들에게 API access를 통해 훨씬 더 많은 비용을 지불하도록 강요했습니다. 이러한 끊임없는 불확실성은 개발자들을 소외시키고 플랫폼 충성도를 약화시켜, 사용자들을 더 신뢰할 수 있고 접근하기 쉬운 대안으로 이끌고 있습니다.

Sam Altman은 Dario Amodei와 달리 compute investment에 결코 주저하지 않았습니다. OpenAI는 첫날부터 대규모 GPU infrastructure에 회사의 운명을 걸었고, Anthropic이 꿈만 꿀 수 있는 풍부함을 구축했습니다. 이러한 전략적 차이는 OpenAI가 관대함을 무기화하여 Anthropic의 compute 부족을 직접적으로 이용할 수 있게 했습니다.

OpenAI는 ChatGPT 계정에 대해 빈번하고 거의 밈(meme)에 가까운 quota resets를 전술적으로 배포했습니다. OpenAI 팀의 Tibo는 "거의 이틀에 한 번꼴로" 할당량을 리셋하는 것으로 악명 높았는데, 이처럼 끊임없는 관행은 48시간 이내에 리셋될 "94%의 확률"을 추적하는 사이트들을 탄생시켰습니다. 이는 Plus, Business, Pro 플랜의 5시간 사용 제한을 일시적으로 제거하는 등의 조치와 결합되어 타의 추종을 불허하는 사용자 경험을 만들어냈습니다.

Anthropic의 할당량은 덜 관대하고 "사실상 결코 리셋되지 않는" 반면, OpenAI의 우월한 가용성과 사용자 경험은 강력한 경쟁 우위가 되었습니다. Anthropic의 제한된 토큰을 "두세 가지 작업"만에 소진하는 것에 좌절한 개발자들은 "할당량을 실제로 소진하려면 노력이 필요한" OpenAI로 이동했습니다. 이러한 계산된 관대함은 중요한 developer loyalty와 시장 점유율을 확보하여, Anthropic의 근본적인 compute 약점을 OpenAI의 지속적인 강점으로 바꾸었습니다.

Artificial Analysis Intelligence Index에 따르면, 업계의 현재 raw intelligence 챔피언인 Anthropic의 Claude 3.5 Sonnet은 60점이라는 강력한 점수를 기록했습니다. OpenAI의 GPT-4o는 단 1점 뒤처진 59점을 기록했습니다. 그러나 이러한 미미한 우위는 Anthropic의 compute 부족에서 직접적으로 비롯된 잔혹한 경제적 현실을 가리고 있습니다.

"cost per intelligence task" 차트를 살펴보면 그림이 극적으로 바뀌며 OpenAI의 ruthless efficiency를 강조합니다. Claude 3.5 Sonnet은 각 작업당 $2.75를 요구하는 반면, GPT-4o는 $1을 조금 넘는 비용으로 거의 동일한 결과를 달성합니다. OpenAI는 절반 미만의 비용으로 98%의 기능을 제공하며, 이는 실제 배포 및 일상적인 사용에서 엄청난 이점입니다.

이러한 차이는 사용자에게 부러워할 수 없는 선택지를 제시합니다. Anthropic의 절대적이고 거의 감지할 수 없는 지능 우위를 위해 상당한 프리미엄을 지불할 수 있으며, 종종 더 엄격한 사용 제한과 더 높은 API 비용에 직면하게 됩니다. 비디오의 "Fable"과 같은 Anthropic의 최고 모델들은 표준 구독에서 제외되는 것까지 고려되고 있어, 사용자들을 값비싼 API 접근으로 더욱 몰아넣고 있습니다.

반대로, 사용자들은 OpenAI의 GPT-4o를 선택할 수 있습니다. 이 모델은 기능 면에서 아주 약간 뒤처지지만, 훨씬 더 접근하기 쉽고, 경제적이며, 할당량이 관대합니다. OpenAI는 풍부한 컴퓨팅 자원을 활용하여, 실용적인 기업 요구사항과 개인 사용자 모두에게 깊이 공감하는 우수한 가격 대비 성능을 제공합니다. 이러한 효율성의 전략적 격차가 현재의 전장을 정의합니다.

Dario Amodei가 한때 필요하다고 여겼던 Anthropic의 컴퓨팅 자원 부족이라는 자가 부과된 제약은, 순수한 지능이 모든 것을 능가하는 미래에 대한 의도적이고 고위험적인 도박일 수 있습니다. 그들의 조용하고 거의 수도승 같은 Recursive Self-Improvement (RSI) 추구는 오늘날의 시장 점유율 싸움이 진정한 전쟁이 시작되기 전의 단순한 소규모 접전이라는 확신을 시사합니다. 이 전략은 가장 지능적인 모델이 본질적으로 가장 효율적인 모델이 될 것이라는 대담한 아이디어에 달려 있습니다.

OpenAI는 관대함을 무기화하지만, Anthropic은 이를 단기적인 전술적 승리로 일축할 수 있습니다. 그들은 단순히 모델을 구축하는 것이 아니라, AI 환경을 재정의할 정도로 심오하게 지능적인 것으로 소문난 'Claude Mythos'를 향해 나아가고 있습니다. GPT-4o의 효율적인 베테랑 지위나 작업당 비용 이점은 잊으십시오. Anthropic은 충분히 발전된 AI가 자체 효율성 문제를 단순히 해결하여 현재의 컴퓨팅 경제학을 쓸모없게 만들 것이라고 믿을 수 있습니다.

자신의 아키텍처를 최적화하고, 우수한 훈련 데이터를 생성하며, 추론을 위한 완전히 새로운 알고리즘을 발견하는 모델을 상상해 보십시오. Anthropic이 그러한 돌파구를 달성한다면, 현재의 개발자 점유율을 위한 경쟁, 끊임없는 GPU 군비 경쟁, 심지어 컴퓨팅 투자에서의 그들의 "치명적인 결함"조차도 무의미해질 것입니다. 이는 그들의 보수주의를 계산된 위험으로, 궁극적인 능력에 대한 그들의 흔들림 없는 집중을 입증하는 것으로 변화시킵니다. 그들은 지능이 곧 통화인 미래에 베팅하고 있으며, 누구보다 빠르게 그것을 주조할 계획입니다.

Anthropic의 사용자 할당량이 OpenAI보다 덜 관대한 이유는 무엇입니까?

이는 Anthropic이 컴퓨팅 인프라에 더 신중하게 투자하기로 한 과거의 전략적 결정에서 비롯됩니다. OpenAI의 방대한 GPU 용량이 부족하기 때문에, 그들은 가장 강력하고 값비싼 모델에 대한 접근을 배급해야 하며, 이는 더 엄격한 사용자 할당량으로 이어집니다.

기술적으로 어떤 AI 모델이 더 똑똑합니까? GPT-4o입니까, 아니면 Anthropic의 Claude 3.5 Sonnet입니까?

추론 및 코딩에 대한 많은 산업 벤치마크에서 Claude 3.5 Sonnet은 현재 약간의 우위를 점하고 있습니다. 그러나 GPT-4o는 작업당 비용 효율성이 더 높고 다른 기능 세트를 제공하므로, '더 나은' 모델은 특정 사용 사례에 따라 달라집니다.

Anthropic의 소문난 10조 파라미터 모델은 무엇입니까?

이는 'Claude Mythos'라고 알려진 모델을 지칭하며, 엄청나게 확장된 차세대 AI입니다. 그 존재는 확인되지 않았지만 널리 소문이 돌고 있으며, 일반 대중이 접근하기에는 너무 비싸고 강력한 Anthropic의 최첨단 연구를 나타냅니다.

Recursive Self-Improvement (RSI)는 무엇이며, Anthropic에 어떻게 도움이 될 수 있습니까?

RSI는 스스로를 연구하고 개선할 만큼 발전한 AI가 기하급수적인 지능 폭발을 일으킬 수 있다는 이론입니다. Anthropic은 자사 모델이 가장 똑똑하다면 RSI를 사용하여 선두를 유지하고 자체 효율성 문제를 해결하여 현재의 사용자 접근 전쟁을 무의미하게 만들 수 있다고 생각할 수 있습니다.