Anthropic, AI 업계의 공공의 적 1호가 되다

치열한 인공지능 세계에서 전례 없는 연합이 결성되어, 강력한 라이벌들이 공동의 적에 맞서 힘을 합쳤습니다. Google, Meta, OpenAI, NVIDIA와 같은 업계 거물들을 포함한 235개 이상의 기업 및 단체가 "Open Weights and American Artificial Intelligence Leadership" 서한에 서명했습니다. 이 드문 합의는 전체 섹터의 근본적인 변화인 open-weight AI를 옹호하는 계기가 되었습니다.

하지만 주요 플레이어 중 한 곳인 Anthropic은 참여를 거부했습니다. 이 역사적인 연합에서 빠진 Anthropic은 단숨에 가장 큰 화두가 되었으며, Claude를 개발한 이 회사는 업계의 거의 만장일치에 가까운 전선에 맞서는 유일한 선도 AI 연구소가 되었습니다. Anthropic의 침묵은 그들을 AI 업계의 공공의 적 1호로 만들었으며, 폐쇄적인 비즈니스 모델을 보호하려 한다는 비난에 직면하게 했습니다.

이 분열의 핵심에는 우리가 지능에 접근하는 방식에 대한 중요한 차이가 있습니다. 사용자가 Claude나 ChatGPT와 같은 폐쇄형 모델과 상호작용할 때, 그들은 단지 그 지능을 임대(rent)하는 것뿐입니다. 모델을 만든 기업이 서버를 소유하고, 조건을 결정하며, 언제든 접근 권한을 취소할 수 있어 사용자를 생태계 안에 가두게 됩니다.

Open-weight 모델은 진정한 소유권을 제공합니다. 개발자는 학습된 수치 매개변수를 다운로드하여 자체 인프라에서 모델을 실행하고, 이를 조정하며, 허가 없이 내부 작동 방식을 검사할 수 있습니다. 이는 기업에 독립성을 부여하고 기업의 울타리를 넘어 혁신을 촉진합니다:

• 병원은 민감한 데이터를 온프레미스 환경에서 유지합니다.
• 대학은 요청당 비용 부담 없이 연구를 수행합니다.
• 스타트업은 단일 공급자에 대한 영구적인 의존 없이 제품을 구축합니다.

Anthropic을 향한 비난은 노골적입니다. 그들의 고상한 AI 안전 호소는 편리한 연막에 불과하다는 것입니다. 비평가들은 이러한 우려가 수익성 높은 폐쇄형 비즈니스 모델을 위협하는 더 저렴하고 접근하기 쉬운 open-weight 대안을 방해하기 위한 계산된 전략이라고 주장합니다. 이는 인류를 보호하는 것이 아니라 시장 점유율을 보호하기 위한 것입니다.

벤처 투자자 David Sacks는 직설적으로 비판했습니다. 그는 Anthropic이 오픈 소스를 "무력화"하고 규제 포획을 조작하여 경쟁 우위를 공고히 하려 한다고 경고했습니다. 그는 업계가 책임 있는 AI 개발을 가장하여 시장을 독점하지 못하도록 Anthropic을 "매의 눈"으로 감시해야 한다고 주장했습니다.

중국의 Kimi K3 모델은 폐쇄형 연구소들이 겪는 이러한 악몽 같은 시나리오를 생생하게 보여줍니다. Moonshot Artificial Intelligence가 개발한 Kimi K3의 강력한 open-weight 공개는 실리콘밸리에 충격을 주었습니다. 무료로 제공되는 이 최첨단급 모델은 Anthropic과 같은 기업들이 독점적 접근 권한에 대해 터무니없는 가격을 책정하게 해주는 희소성 프리미엄을 완전히 무너뜨렸습니다.

개발자가 다운로드하고 조정할 수 있는 최고 수준의 모델을 경쟁사가 출시하는 것은 폐쇄형 시스템의 가격 결정력이라는 근간을 파괴합니다. 이러한 경제적 현실은 Anthropic의 안전을 내세운 태도가 진정한 위험 완화보다는 상업적 이익을 보호하기 위한 난공불락의 해자를 구축하려는 의도라는 의심을 부추깁니다.

Anthropic의 CEO Dario Amodei는 자신의 회사가 open-weight models에 대한 전면적인 금지를 옹호한 적이 없다고 주장합니다. 그는 "위험한 기능"이 없는 오픈 모델이 개발자와 연구자 모두에게 혜택을 주는 중요한 공공재라고 옹호합니다. 그러나 Amodei의 핵심 우려는 미래의 매우 강력한 시스템으로 인한 파괴적이고 돌이킬 수 없는 위험에 집중되어 있으며, 이것이 Anthropic이 업계의 통합 서한인 Open Weights and American AI Leadership에 서명하기를 거부한 이유를 설명합니다. 그는 해당 문서가 그러한 강력한 모델이 널리 다운로드 가능해질 경우의 영향에 대해 "위험한 가정"을 하고 있다고 믿습니다.

Amodei는 두 가지 오싹한 악몽 같은 시나리오를 제시합니다. 첫째, 권위주의 정부가 미국 시스템보다 더 강력한 AI를 통해 군사적 우위, 대규모 감시 또는 영구적인 억압을 달성할 수 있습니다. 둘째, 충분히 강력한 모델이 광범위한 사이버 공격이나 biological weapons의 생성을 가능하게 할 수 있습니다.

이러한 위험을 완화하기 위해 Anthropic은 "표적 규제"를 제안합니다. 여기에는 다음이 포함됩니다:

• 중국에 대한 첨단 칩 판매 제한
• 산업 규모의 모델 복제 단속
• 프런티어 AI 시스템에 대한 의무적 안전 테스트 구현

그러나 비평가들은 이러한 조치가 사실상 open-source competition을 질식시킬 것이라고 주장합니다. 그들은 이러한 제안이 금지적인 비용을 부과하고 치명적인 법적 불확실성을 초래하여 Anthropic과 같이 자원이 풍부한 폐쇄형 모델 개발자에게만 혜택을 준다고 주장합니다.

이것이 AI 미래를 위한 핵심 투쟁입니다. 지능은 소수의 책임 있는 기업에 의해 통제될 것인가, 아니면 누구나 소유하고, 적응시키고, 검사할 수 있도록 분산될 것인가? 이 심오한 질문은 다가오는 시대를 정의하며, 중앙 집중식 기업 통제와 open weights의 급진적 투명성 및 분산된 권한 부여를 대립시킵니다.

Anthropic의 현재 입장은 업계 전반으로부터 위선이라는 날카로운 비난을 불러일으키고 있습니다. 비평가들은 과거 Anthropic의 자체 폐쇄형 모델이 미국 정부의 조사를 받았을 때 회사가 더 큰 접근성과 정부 규제 완화를 주장했던 사례를 상기시킵니다. 이러한 입장은 강력한 모델의 광범위한 오픈 소스 공개에 반대하는 현재의 입장과 직접적으로 모순되는 것으로 보이며, 이기적인 의도라는 업계의 반발을 부채질하고 있습니다.

그러나 Dario Amodei의 방어는 미래 AI에 대한 강력하면서도 오싹한 비전에 중점을 둡니다. 그는 위험할 정도로 유능한 오픈 모델은 본질적으로 되돌릴 수 없다고 주장합니다. 가중치가 일단 공개되면 회수할 수 없기 때문에 통제가 불가능하다는 것입니다. Amodei는 그러한 시스템이 가장 강력한 미래 시스템으로부터 "irreversible catastrophic risks"를 초래할 위험이 있으며, 안전망 없이 전 세계적으로 방출될 수 있다고 우려합니다.

반대로 오픈 운동은 똑같이 설득력 있는 반론을 제기합니다. 소수의 기업이 유일한 gatekeepers of intelligence가 되어서는 안 된다는 것입니다. 그들은 누구나 이러한 기초 기술을 소유하고, 적응시키고, 검사할 권리를 옹호합니다. 이러한 분산은 강력한 경쟁을 촉진하고, 더 넓은 커뮤니티에 의한 감사 가능성을 보장하며, 인류가 가장 중요한 능력을 단순히 임대하기만 하여 진정한 미국의 AI 리더십을 약화시키는 미래를 방지합니다. 궁극적인 보상은 지능 자체에 대한 통제권입니다.

왜 AI 업계는 갑자기 Anthropic에 반대하는가?

Google, Meta, OpenAI를 포함한 거의 모든 주요 AI 기업이 오픈 웨이트 AI 모델을 지지하는 공개 서한에 서명했습니다. 핵심 플레이어인 Anthropic은 눈에 띄게 서명을 거부했으며, 이는 안전 문제를 이용하여 오픈 소스 경쟁으로부터 자사의 폐쇄형 영리 비즈니스 모델을 보호하려 한다는 비난으로 이어졌습니다.

오픈 웨이트 AI 모델이란 무엇인가?

Open-weight 모델을 사용하면 개발자가 모델의 수치 매개변수를 다운로드할 수 있습니다. 이를 통해 ChatGPT나 Claude와 같이 서비스 형태로 액세스하는 closed 모델과 달리, 원래 제작자의 통제나 가격 정책에서 벗어나 자신의 시스템에서 AI를 실행, 검사 및 조정할 수 있습니다.

강력한 open-weight 모델 공개에 반대하는 Anthropic의 공식적인 주장은 무엇인가요?

Anthropic의 CEO인 Dario Amodei는 매우 강력한 모델을 공개하는 것은 되돌릴 수 없으며, 생화학 무기 개발이나 권위주의 정권의 군사적 우위 확보와 같은 치명적인 오용으로 이어질 수 있다고 주장합니다. 그들은 전면적인 금지가 아닌 표적 규제를 제안합니다.

AI에서 산업 규모의 증류(distillation)란 무엇인가요?

증류는 한 AI 모델이 다른 모델의 출력으로부터 학습하는 기술입니다. Anthropic은 경쟁사들, 특히 중국 기업들이 이 기술을 대규모로 사용하여 Claude와 같은 고가의 독점 모델 성능을 훨씬 저렴한 비용으로 복제할 수 있다는 점을 우려하고 있습니다.