앤트로픽의 더러운 비밀: 월스트리트를 위한 AI

안트로픽은 헌법적 AI에 기반하여 안전 우선의 프레임워크를 구축하며 명성을 쌓아왔습니다. 이 모델에 규칙과 가치를 직접 주입한 것입니다. 회사의 공적인 이야기는 정렬 연구, 존재론적 위험, 그리고 통제를 벗어난 시스템이 스카이넷과 같은 재앙으로 변하는 것을 방지하는 데 중점을 둡니다. 이제 같은 연구소는 조용히 월가를 위한 정교한 금융 도구를 출시하고 있으며, 하루에 수조 달러를 움직이는 헤지 펀드, 은행 및 퀀트 샵을 타겟으로 하고 있습니다.

초기 배포는 수익 발표를 설명하는 챗봇을 넘어서는 차원에 있습니다. 앤트로픽은 실시간 시장 피드를 수집하고, 10-K 보고서를 분석하며, 기계 속도로 DCF 모델과 거래 전략을 구축하는 에이전트 같은 시스템을 선보이고 있습니다. 제품에 정통한 사람들에 따르면 내부 데모는 전통적으로 주니어 애널리스트와 퀀트들이 처리해온 작업의 자동화에 중점을 두고 있으며, 이는 기관 금융이 경쟁력을 유지하는 정확한 층입니다.

그 전환은 Anthropic의 신중하게 다듬어진 안전 이미지를 정면으로 충돌한다. 안전 중심의 OpenAI와의 분리 후 2021년에 설립된 이 회사는 이제 기계 학습을 임대 수익 추구의 엔진으로 변화시키는 데 도움을 준 동일한 고주파, 알파 헌팅 생태계의 일면을 원하고 있다. 금융 분야는 알고리즘의 불투명성, 비대칭 정보, 그리고 “빠르게 움직이고 시장을 깨트리라”라는 유인이 이미 지배하고 있는 곳이다.

비평가들은 뚜렷한 모순을 지적합니다: AI가 시스템적 위험을 증폭시킬 수 있다고 경고하는 연구소가 지구상에서 가장 시스템적으로 중요한 분야 중 하나에 모델을 직접 연결하고 있습니다. 월스트리트는 클로드를 사용하여 시를 쓰는 것이 아니라, 클로드를 사용하여 기준 포인트를 찾고, 느린 플레이어를 앞서 가며, 이미 취약한 시장에서 비효율성을 제거하고 있습니다. 가장 큰 고객이 거래소에 있을 때, 안전성 관련 언어는 마치 브랜드처럼 들리기 시작합니다.

오래도록 정렬 논평가로 활동해온 데이비드 샤피로는 그의 영상 “앤트로픽, 월스트리트에게 매각하다!”에서 불안감을 포착했습니다. 그는 회사가 “안전 지향적이어야 한다”는 질문을 던지며, 이제 “월스트리트와 손잡고 있는 것”이 “엘리트 장악의 신호”인지 여부를 묻습니다. 그의 프레임은 앤트로픽의 신중한 PR을 뚫고 핵심 질문으로 나아갑니다: 안전의 애칭이 단순히 돈이 충분히 커지면 모든 정렬 이야기가 차세대 정량 인프라 구축과 공존할 수 있다고 결정한 것일까요?

앤트로픽의 옹호자들은 월스트리트의 전환에 대한 즉각적인 답변을 가지고 있다: '안전의 약'을 복용하고 나면, 스카이넷을 저지하는 모든 것이 도덕적으로 수용 가능한 일이 된다. 이런 세계관에서는 헤지펀드와 은행과의 파트너십이 매도하는 것이 아니라, 정렬 연구를 자금 지원하고 진정한 AGI 배치에 관한 결정이 이루어질 때 앤트로픽이 그 자리에 있도록 하는 데 필요한 타협으로 여겨진다. 만약 당신이 불일치하는 AI가 수십억의 생명을 앗아갈 수 있다고 진심으로 믿는다면, 당신의 모델을 골드만 삭스를 통해 라우팅하는 것은 우주적 장부에서의 반올림 오류에 불과해 보일 것이다.

그 논리는 극명하고 마치 만화 같은 트레이드오프를 이끌어냅니다: 사이버펑크 지옥 경관 또는 멸종. 안전 절대주의자들은 “사이버펑크” 미래—AI로 강화된 기업, 군사화된 정부, 어디에나 존재하는 생체 인식 추적, 전면 금융 자동화—가 추악하지만 생존할 수 있는 상태라고 주장합니다. 그들이 참을 수 없는 것은, 일부 비정렬 시스템이 완전한 스카이넷이 되어 인류를 wiped out 하는 세상이라는 것입니다. 왜냐하면 “좋은 사람들”이 불쾌한 파트너와 협력하는 것을 거부했기 때문입니다.

그러나 사이버펑크 시나리오는 더 이상 SF 컨셉 아트에 국한되지 않습니다. AI는 이미 다음을 지원합니다: - 고주파 거래 및 재무 차익 거래 - 예측적 경찰 업무 및 국경 감시 - 분 단위로 노동자를 착취하는 알고리즘 관리

앤트로픽의 가장 강력한 모델을 그 스택에 연결하면, 해방이 아닌 집중의 궤적을 가속화하게 됩니다.

그래서 질문은 추상적인 철학에서 벗어나 기업 전략처럼 들리기 시작합니다: 이것이 원칙 있는 도덕적 거래인지, 아니면 권력과 이익을 추구하기 위한 편리한 정당화인지? 안전 담론은 월스트리트 거래를 재난에 대한 방패로 프레임하고, 자본 구조와 기업 계약은 엘리트 정렬을 암시합니다. 기후 과학이나 팬데믹 대응에 도움이 될 수 있는 동일한 모델이 먼저 양적 분석 부서에 맞춰질 때, 우선순위는 블로그 포스트보다 더 크게 들립니다.

앤트로픽은 여전히 클로드를 "모두를 위한" 도구로 마케팅하며, 보편적인 혜택을 위한 민주화 세력으로 소개하고 있습니다. 그러나 그 이면에서는 현실이 데이비드 샤피로의 엘리트 포획 설명을 따르고 있습니다: 계층화된 접근, 금융 및 방위 고객을 위한 맞춤형 기능, 그리고 기존 세력을 고착화하는 규제 영향력이 존재합니다. 공공의 사명과 개인의 배치 사이의 간극은 계속해서 넓어지고 있으며, 월스트릿과의 새로운 통합이 이뤄질수록 앤트로픽의 "모두를 위한" 약속은 PR 허구 속으로 더욱 밀려들고 있습니다.

권력은 단순히 돈을 쌓아두지 않는다; 새로운 도구를 쌓아두기도 한다. 엘리트 포획은 유토피아적 언어로 포장된 기술이 조용히 그 혜택의 대부분을 소수의 잘 연결된 집단—기업 거대 기업들, 금융가들, 그리고 국가 보안 기관들—에게 전달하는 순간을 설명한다. 반면, 나머지는 마케팅 슬로건과 제한된 접근만을 받게 된다.

19세기 철도는 국가를 연결하고 모든 이에게 시장을 열어줄 것이라고 약속했으나, 대신 소수의 바론들이 철도와 화물 요금에 대한 통제를 이용해 경쟁자를 억압하고 상업에 참여할 수 있는 사람들을 결정했습니다. 결국 입법자들은 시스템이 영구적인 독점으로 굳어지지 않도록 하기 위해 반독점법을 만들어야 했습니다.

1990년대 초기 상업 인터넷에 대한 수사는 탈중앙화와 허가 없는 혁신의 이야기를 팔았다. 두 번째 십 년이 지나자, 몇몇 플랫폼—구글, 아마존, 메타, 애플—이 검색, 쇼핑, 광고, 모바일 배급을 지배하고 있으며, 거의 모든 거래와 주목의 흐름에서 일정 비율을 취하고 있다. 동일한 패턴이 반복해서 나타난다: 개방된 프론티어, 빠른 통합, 그리고 결국 규제 포섭.

엘리트 캡처는 인식 가능한 플레이북을 따릅니다: - 인프라 병목 현상에 대한 통제 (철도 노선, 광섬유, 데이터 센터, 칩) - 전체 스택에 걸친 수직 통합 - 주요 금융 및 정부 고객을 위한 우선 접근 및 가격 책정 - 나머지 모두를 지배하는 규칙에 대한 강한 영향력

AI는 이제 그 위험구역에 정확히 자리 잡았습니다. 최전선 모델을 훈련시키는 데는 이미 수십억 달러에 달하는 컴퓨팅 비용, 독점적인 데이터 거래 및 계약이 필요하며, 이러한 계약을 체결할 수 있는 기업은 극히 일부에 불과합니다. 공개 또는 오픈 대안도 존재하지만, 이들은 규모가 작고 기능 면에서 뒤쳐져 있으며, 이는 "독립적인" 인터넷 서비스 제공업체(ISP)가 기존 통신업체에 밀려난 양상을 반영합니다.

이 관점에서 볼 때, 앤트로픽의 월가를 위한 고급 금융 도구로의 조용한 전환은 단순한 비즈니스 결정이 아니라 더 넓은 통합 이야기의 데이터 포인트입니다. 회사 자체의 메시지는 이 새로운 현실과 함께 존재하며, 그 긴장이 바로 AI 미래의 이해관계가 결정되고 있는 지점입니다.

통제는 첫 번째 신호입니다. 소수의 기업들이 병목 구간인 첨단 칩, 대규모 클라우드, 데이터 센터, 저렴한 전력을 소유할 때, 나머지 모두는 그들로부터 현실을 빌려 사용하게 됩니다. 최첨단 모델을 훈련하는 데 이미 수억 달러가 들며, 그 가격표만으로도 대부분의 대학, 스타트업 및 공공 기관들이 이 게임에서 배제됩니다.

수직 통합은 압박을 강화합니다. 이제 같은 기업들이 실리콘 설계, 클라우드 플랫폼, 기초 모델, 앱 스토어, 그리고 소비자 인터페이스의 모든 계층을 소유하기 위해 경쟁하고 있습니다. X.ai의 머스크 브랜드 데이터 센터, 엔비디아의 엔드 투 엔드 AI "플랫폼", 그리고 모델과 독점 툴을 묶는 하이퍼스케일러들은 공급자를 바꾸는 것이 거의 불가능해지는 세상을 향해 나아가고 있습니다.

계층화된 접근이란 계층 구조가 명확해지는 것을 의미합니다. 가장 유능하고 고급 맥락의 모델들은 방어 계약자, 헤지 펀드, 대형 은행을 위해 비공식적으로 운영되는 반면, 일반 대중은 안전하게 조정된 버전만을 제공합니다. 심지어 OpenAI조차도 가장 강력한 시스템을 대규모로 공개하지 않겠다고 인정했는데, 이는 컴퓨팅 한계를 이유로 들었으며, 샤피로의 요점은 이러한 한계가 2억 달러의 방위 계약이 성사되면 신비롭게 사라진다는 것입니다.

규제와 내러티브 장악은 그 힘을 강화합니다. 프론티어 연구소는 그들을 규제하는 규칙을 작성하는 데 도움을 주고, 이후에는 중립적인 “전문가”로서 의회나 EU 앞에 등장합니다. 샘 올트먼이 상원 청문회에서 법률가들과의 비공식 저녁으로 이동할 수 있거나, 앤트로픽 경영진이 규제당국에 “책임 있는 확장”에 대해 브리핑할 때, 존재론적 위험에 대한 이야기는 편리하게 작은 경쟁자들을 배제하는 로비 프레임워크로 작용합니다.

임대 추구 최적화는 AI가 실제로 배치되는 곳에서 나타납니다. 암 치료 대신에, 큰 자본은 다음과 같은 분야로 향합니다: - 고주파 거래 및 금융 차익 거래 - 초고도로 타겟팅된 광고 및 참여 해킹 - 노동자 자동화 및 알고리즘 관리

그러한 사용 사례들은 경제적 파이를 확장하기보다는 위로 재조정하여 AI를 모든 거래, 클릭, 및 기회에 대한 통행세 부과소로 전환합니다.

부족한 공공 대안이 전체 그림을 완성합니다. Stable Diffusion이나 LLaMA 파생 모델과 같은 오픈 소스 모델이 존재하지만, 이들은 규모, 훈련 데이터, 추론 예산 면에서 폐쇄형 시스템에 비해 수 배 뒤처져 있습니다. 국가 지원을 받는 컴퓨팅, 공유 데이터 인프라 또는 실질적인 자금 지원 없이 “공공 AI”는 반짝이는 민간 연구 공원 바로 건너편에 있는 무너져가는 도서관의 디지털 동등물로 전락할 위험이 있습니다.

인프라는 AI의 개방성에 대한 고상한 수사가 냉酷한 경제 현실과 충돌하는 지점입니다. 소수의 기업이 모두가 임대해야 하는 물리적 스택을 소유하고 있습니다. 첫 번째 병목 현상인 컴퓨트 제어자는 누가 참여할 수 있는지를 결정합니다.

클라우드부터 시작하겠습니다. AWS, Azure, 및 Google Cloud는 대부분의 분석가 추정에 따르면 전 세계 클라우드 시장의 약 65%를 차지하고 있습니다. 진지한 모델을 훈련하거나 배포하려는 경우, 당신은 그 세 개의 게이트키퍼 중 한 곳에 GPU 사용 시간당 요금을 지불하고 있을 확률이 높습니다.

한 단계 더 들어가면 그 그립이 더욱 강해진다. TSMC는 세계에서 가장 진보된 칩의 약 90%를 제조하며, 이는 AI 훈련 클러스터, 하이퍼스케일 데이터 센터, 그리고 월스트리트의 고주파 거래 장비를 구동하는 최첨단 노드들이다. 만약 TSMC가 감기에 걸리면—지정학, 지진, 수출 통제—전체 AI 생태계는 폐렴에 걸린다.

그 다음은 Nvidia입니다. Nvidia는 가속기 분야를 사실상 지배하고 있습니다. Nvidia는 현재 사용 중인 AI 가속기의 거의 90%를 통제하고 있으며, 이는 최전선 연구소의 H100부터 헤지펀드에서 조용히 리스크 모델을 처리하는 A100에 이르기까지 다양합니다. CUDA 소프트웨어 스택과 독점 네트워킹 기술은 원시 칩을 경쟁자들이 탈출하기 힘든 생태계로 탈바꿈시킵니다.

경제학자들은 이 구조를 자연 독점이라고 부릅니다: 막대한 고정 비용과 네트워크 효과로 인해 모든 기업이 몇몇 지배적인 공급업체로 몰리게 되는 시장입니다. Nvidia가 기본 가속기가 되는 것을 금지하는 법률도 없고, TSMC가 3nm 웨이퍼를 위한 유일한 실현 가능한 팹이 되는 것을 막는 법률도 없습니다. 반도체 제조의 물리학과 하이퍼스케일 클라우드의 자본 비용은 단순히 더 작은 기업들을 무의미하게 만드는 처벌을 줍니다.

그것은 중요합니다. AI에서의 “경쟁”은 더 이상 GitHub 저장소에서 가장 똑똑한 알고리즘을 가진 사람이 누군가에 관한 것이 아닙니다. 이제는 수만 개의 GPU를 확보하고, TSMC의 고급 노드에 대한 우선 접근 권한을 가지며, AWS, Azure 또는 Google Cloud와 유리한 장기 계약을 체결할 수 있는 사람이 누구인지에 관한 것입니다. 그것이 없다면, 당신의 혁신적인 모델은 데모일 뿐, 제품이 아닙니다.

그래서 앤트로픽이 월스트리트를 위한 도구를 구축할 때, 이미 소수의 클럽에 의해 장악된 하드웨어 스택 위에서 작업합니다. 그 스택에 대한 접근이 진정한 방어선이며, 모든 다른 이들을 배제하는 진짜 보이지 않는 체인입니다.

자본은 이제 AI에서 엘리트 포착의 날카로운 도구로 작용하고 있습니다. 칩, 데이터 센터 및 인재에 가장 많은 자금을 쏟을 수 있는 이가 나머지를 위한 규칙을 설정합니다. 2023년, 대형 기술 기업들은 조용히 미래에 자금을 지원했습니다: 일부 추정에 따르면 대형 플랫폼은 대략 67%의 모든 생성적 AI 스타트업 자금을 제공하여 "생태계 지원"을 의존성 파이프라인으로 전환했습니다.

스타트업들은 자신들을 혁신자로 포장하지만, 그들의 자본 구조는 다른 이야기를 들려줍니다. 마이크로소프트, 구글, 아마존, 그리고 엔비디아가 대부분의 투자를 할 때, 그들은 단순히 지분을 구매하는 것이 아니라, 제품 로드맵, 인프라 선택, 그리고 누가 최전선 모델에 프리미엄 접근권을 가질지를 결정할 수 있는 레버리지를 구매하는 것입니다. 의존성은 일시적인 것이 아니라 구조적으로 변하게 됩니다.

이제 2025년으로 시점을 옮기면 산업 예측에 따르면 단일 해에 약 3,000억 달러의 AI 관련 지출이 예상됩니다. 여기에는 초대형 데이터 센터, GPU 클러스터, 해저 케이블, 그리고 이들을 운영하는 데 필요한 전력 인프라가 포함됩니다. 참고로, 3,000억 달러는 칠레, 파키스탄, 또는 핀란드와 같은 국가들의 연간 GDP에 필적하거나 이를 초과하는 규모입니다.

어떤 대학, 비영리 연구소, 또는 소규모 국가도 그런 소모 속도를 신뢰성 있게 맞출 수는 없습니다. 잘 자금 지원된 학술 컨소시엄이 몇 년에 걸쳐 수억 달러를 모을 수는 있지만, 대형 기술 기업에게는 단일 GPU 계약의 소수점 오차에 불과합니다. 그 결과, "개방형 대안"은 대부분 동등한 존재가 아니라 브랜드로 존재하는 자본적 성벽이 매우 넓게 형성되었습니다.

이 지출은 단순히 하드웨어를 구매하는 것이 아니라, 의제 설정 권력을 구매합니다. 3천억 달러의 AI 인프라를 소유한 사람은 다음을 결정할 수 있습니다: - 어떤 언어와 지역이 우수한 모델을 얻게 될지 - 어떤 산업이 맞춤형 도구를 받을지 - 어떤 규제 기관이 규칙 초안 작성에 "도움"을 받을지

파이낸셜 타임스와 같은 매체에서의 보도는 이를 혁신을 위한 경쟁으로 프레임하지만, 구조는 오히려 폐쇄적인 모습입니다. 소수의 기업들이 자본 구조를 장악하게 되면, 엘리트 포획은 더 이상 위험 요소가 아니라 AI의 기본 운영 체제로 보이기 시작합니다.

규제 권력은 공허한 곳에서 생겨나지 않는다; 재정적 및 구조적 우위는 규제 포획을 통해 정치적 영향력으로 직접 전환된다. AI를 감시해야 하는 기관들은 규제하는 기업들로부터 단서를 받아들이게 되는데, 이는 해당 기업들이 전문성, 일자리 파이프라인, 그리고 종종 느슨한 규칙을 정당화하는 자금 흐름을 통제하기 때문이다.

워싱턴과 브뤼셀에서는 AI 정책이 초대 전용 대화로 바뀌어 같은 반 개의 CEO들이 계속해서 나타나고 있다. 샘 올트먼의 의회 투어가 그 기준을 설정했다: 수시간의 비공식 브리핑, 반복되는 청문회, 그리고 어떤 노동조합이나 개인 정보 NGO도 대적할 수 없는 직접적인 접근이 이루어진다.

미국과 유럽의 법률 제정자들은 이제 AI 안전성과 경쟁에 대한 주요 자문자로 "프론티어 랩"을 기본으로 삼고 있습니다. 직원들이 모델 가중치, GPU 또는 기초 모델을 이해하지 못할 때, 그들은 앤트로픽, 오픈AI, 구글 또는 메타에 연락합니다. 그리고 그 기업들은 나중에 준수해야 할 가이드라인을 기꺼이 작성합니다.

그 접근성 격차는 가상이 아닙니다. EU AI 법안에 대한 협상 동안, 산업 로비스트들은 수천 페이지의 수정안을 제출한 것으로 보도되었으며, 많은 내용이 타협안에 복사-붙여넣기 형태로 포함되었습니다. 반면, 시민 사회 단체들은 회의 일정을 잡거나 그들의 제안에 대한 번역 지원을 받는 데 어려움을 겪었습니다.

블렛클리 파크에서 열린 영국 AI 안전 정상 회담은 불균형을 명확히 드러냈습니다. 초대된 약 100개의 조직 중 많은 부분이 기업이나 산업 후원 기관으로 구성되어 있었고, 반면에 노동 조합, 노동자 협동조합, 그리고 풀뿌리 디지털 권리 단체들은 방 안에서 미미한 비율을 차지했습니다.

정부는 그 정상 회의를 글로벌 민주적 대화로 구성했지만, 의제는 이미 최전선 기업들이 이야기하고 싶어했던 주제에 초점을 맞추었습니다: 모델 평가, 컴퓨팅 기준, 그리고 오늘날의 거대 기업들을 "책임 있는" AI의 영구적 관리자로 고정시키는 자발적 안전 약속.

여기서 서사적 포획이 시작됩니다. 이들 기업은 포디움, 기자 회견, 비공식 원탁 회의를 지배함으로써 인공지능이 “실제로” 무엇인지—존재적 위험, 비정상 시스템, 그리고 공상과학 영화의 스카이넷 시나리오—를 정의하고, 알고리즘 임금 절도나 퇴거 점수와 같은 문제를 주변으로 밀어냅니다.

존재적 위험이 산소를 독점할 때, 현재의 피해는 협상 가능한 항목으로 변합니다. 신용 점수의 편향, 자동화된 노조 파괴, 대규모 화이트칼라 실직은 AI가 누구를 위해 봉사하는지, 누가 대가를 치르는지에 대한 핵심 질문보다 부차적인 문제처럼 보입니다.

침묵도 데이터가 될 수 있습니다. AI 황금 러시 헤드라인에서 한 발 물러나면, 이야기 속 조용한 간극들이 이 기술이 실제로 누구를 위한 것인지에 대해 어떤 성공적인 출시 행사나 기조 연설보다 더 많은 것을 말해줍니다.

인프라에서 시작하자. AI가 "전기와 같다"는 모든 수사에도 불구하고, 공개적인 전력망에 해당하는 것은 없다. 미국의 국가 AI 연구 자원(NIRR) 파일럿은 분석가들이 10억 달러대 초반으로 추정하는 6년 예산을 제안했지만, 메타는 자사의 모델을 유지하기 위해 단 한 해에만 그와 같은 금액을 GPU에 지출하는 것으로 알려져 있다.

그 불균형은 중요합니다. 공공 자금으로 지원되는 컴퓨팅은 Microsoft, Google, Amazon, Nvidia와 같은 기업들이 수백억 달러를 투자하여 구축한 민간 AI와 비교할 때 미미한 수준입니다. 만약 당신이 대학 연구실, 시민 단체, 또는 도시 정부라면, 헤지 펀드와 방산 계약자들에게 우선 접근을 판매하는 같은 클라우드로부터 남은 것을 구걸하는 형국입니다.

거버넌스 또한 불균형적으로 보입니다. Anthropic, OpenAI, Google DeepMind, xAI의 이사회에는 투자자, 창립자, 전 규제 기관 관계자들이 포함되어 있지만, 뽑힌 노동자 대표, 지역 사회 대리인, 독립적 시민사회 이사는 전혀 없습니다. AI에 의해 영향을 받는 해고, 감시, 그리고 잘못된 정보에 가장 많이 노출된 사람들은 최전선 시스템이 어떻게 운영되는지에 대해 공식적인 목소리가 없습니다.

공유 거버넌스에 대한 진지한 실험도 누락되어 있다. 주요 연구소들은 영향을 받는 커뮤니티를 위한 구속력 있는 거부권, 배치 결정에 대한 통제를 가진 노동자 위원회, 혹은 모델 감사를 접할 수 있는 시 차원의 감시 위원회를 설정하지 않았다. 대신, "안전"은 내부 레드 팀과 블로그 게시물에서 감사받고 이사회에서는 무시되는 자문 위원회 내에 존재한다.

그런 다음, 문 뒤에서 조용히 구상된 재정 구조가 있습니다. OpenAI의 CFO는 최전선 AI에 대한 명시적인 정부 지원의 아이디어를 제시한 것으로 전해집니다. 상황이 악화될 경우 공공 보장이 제공되고, 그렇지 않을 경우 개인이 이익을 취하는 방식입니다. 이는 '위험은 사회화하고 이익은 민영화하는' 전형적인 논리로, 2008년의 서브프라임 붕괴를 납세자 자금으로 구제한 것과 같은 이치입니다.

함께 고려했을 때, 이러한 결여는 패턴을 형성합니다. 공공 규모의 인프라 부족, 공유 거버넌스의 부재, 민간 투자를 위한 국가 지원 보험에 대한 조기 요구는 모두 한 방향을 가리킵니다: 비판적 시스템으로 구축된 AI가 자본이 풍부한 일부 엘리트에 의해 소유되고 통제되는 것입니다.

앤트로픽의 가장 열렬한 옹호자들은 고급 모델을 월스트리트 퀀트, 헤지펀드, 방산업체에 판매하는 것이 “정렬”을 위한 필수 악이라고 주장합니다. 이것이 데이비드 샤피로의 비판의 도발적인 핵심으로, 장기적인 존재적 위험 논의는 단기적인 권력 장악을 위한 도덕적 백지수표로 기능합니다. 스카이넷이 다가오고 있다고 스스로 확신하게 되면, 거의 모든 파트너십이 포획이 아닌 책임 있는 관리로 보이기 시작합니다.

효과적인 이타주의자들과 합리주의자들은 Anthropic과 같은 연구소에서 그들의 작업을 문자 그대로 생존 프로젝트로 간주합니다. 그런 마음가짐에서 군대, 정보 기관, 월스트리트의 대형 자금과 거래를 하는 것은 타협이 아니라 더 큰 선을 위한 희생이 됩니다. 그들은 사이버펑크 감시 디스토피아가 인류를 멸망시키는 종이클립 극대화자보다 여전히 나은 것이라고 주장합니다.

그 세계관은 AI 배치의 윤리를 조용히 재작성합니다. “우리가 스카이넷을 막을 수 있는 유일한 존재”라는 사실을 받아들이게 되면: - 정부와의 독점 계약은 “억제”가 되고 - 메가은행에 대한 우선 접근은 “위험 테스트”가 되며 - 비밀과 폐쇄적인 모델은 “보안 조치”가 됩니다.

이 모든 것들은 또한 재정적 결정을 내리는 현직자들의 입지를 더욱 공고히 하는 결과를 가져온다.

안전 내러티브에 대한 통제가 정책 무기로 전환됩니다. 프론티어 연구소는 불법 오픈 소스 모델, 생물 위험, 모델 유출에 대해 경고한 뒤, 편리하게도 수십억 달러 규모의 컴퓨팅 클러스터, 레드 팀, 준수 부서를 요구하는 안전 규정을 제안합니다. 스타트업, 대학, 공공 연구소는 그 기준을 충족할 수 없지만, 하이퍼스케일 기업과 프론티어 연구소는 이미 그 기준을 통과했습니다.

FLOP 임계값에 연결된 라이선스 제도, 훈련 실행의 의무 모니터링, 정부 검증 기관에 대한 중앙 집중식 사고 보고를 요구하는 윤곽을 볼 수 있습니다. 서류상으로는 이러한 조치가 "최전선" 시스템을 목표로 하고 있습니다. 그러나 실제로는 이들 조치가 감사, 변호사, 맞춤형 실리콘을 감당할 수 있는 소수의 플레이어로 최전선을 제한하게 됩니다. 안전은 보장이 아닌 방어책이 됩니다.

안전 프로 엘리트들은 종종 이러한 교환을 이분법적으로 표현합니다: 엄격하게 통제되고 기업이 지배하는 AI 환경을 수용하거나 멸종에 맡기는 것입니다. 이러한 프레임은 세 번째 선택지를 지워버립니다: 민주적으로 관리되고, 공적으로 책임지는 AI 생태계로, 강력한 노동 보호, 반독점 집행, 그리고 진정한 공공 컴퓨팅이 포함된 것입니다. 앤스로픽 리서치와 같은 작업은 기술적 일치를 보여주지만, 그러한 일치를 이룬 시스템의 소유와 관리가 정치적 선택임을 잊지 말아야 합니다. 이는 물리학의 법칙이 아닙니다.

앤트로픽의 월스트리트 전환은 AI 파워가 얼마나 집중되어 있는지를 드러내지만, 반대 압력이 어디에서 나올 수 있는지를 명확하게 합니다. Llama 3, Mistral, 그리고 Stable Diffusion과 같은 오픈소스 프로젝트들은 3000억 달러의 가치를 갖고 하이퍼스케일 데이터 센터가 없어도 유능한 시스템을 구축할 수 있음을 증명합니다. 7B에서 13B 모델을 단일 하이엔드 GPU에서 미세 조정하여 유용한 것을 배포할 수 있습니다.

오픈 소스는 여전히 한계에 부딪힙니다. 최첨단 모델 훈련에는 수만 개의 Nvidia H100, 수 메가와트의 전력, 그리고 아마존, 마이크로소프트, 구글 및 그들의 가장 친한 친구들만 감당할 수 있는 데이터 센터 공간이 필요합니다. 가장 급진적인 오픈 웨이트 모델조차도 다른 이의 서버에서 시간을 임대해야 합니다.

AI에서 진정한 다원주의는 민간 클라우드와 경쟁할 수 있는 공공 컴퓨팅이 필요합니다. 이는 국립 또는 지역 슈퍼컴퓨터 시설이 학술 연구실, 비영리 단체, 스타트업, 지방자치단체를 위해 명시적으로 지정되어야 하며, 방위 계약자나 포춘 100대 기업을 위한 것이어서는 안 됩니다. TPUs와 GPUs를 위한 “공공 도서관”을 떠올려 보세요. 투명한 할당 규칙과 결과의 의무적인 공개가 요구됩니다.

정부는 이미 디지털 인프라에 수천억 달러를 지출하고 있습니다. 이를 5~10%만 공유 AI 스택으로 전환해도 큰 의미가 있을 것입니다. 공공 연구 기관은 오픈 교육 실행을 지원하고, 오픈 데이터 문서를 요구하며, 보안 연구자들이 운영 체제를 조사하는 방식으로 기초 모델을 분석하는 커뮤니티 감사 팀을 지원할 수 있습니다. 이러한 노력이 없다면 "모두를 위한 AI"는 클라우드 청구서에 붙여진 슬로건에 불과할 것입니다.

개별 사용자는 무력한 관객이 아닙니다. 여러분은:

• 1디지털 권리 단체인 EFF, Fight for the Future, AlgorithmWatch 등을 지원하세요. 이들 단체는 AI 남용을 추적하고 규제 포획에 반대하는 로비 활동을 합니다.
• 2이메일이나 전화를 통해 입법자들에게 AI 로비 회의의 공개, 보조금 계산, 정부 AI 계약에 대한 요구를 하십시오.
• 3기본적으로 클라우드 제공업체가 묶어 제공하는 것을 선택하기 보다는, 사용, 버그 보고 및 기부로 오픈 소스 도구를 지원하세요.

중요한 대화도 중요합니다. 공급업체에게 데이터를 누가 소유하는지, 누가 프리미엄 모델에 조기 접근할 수 있는지, 보조금이 없어지면 어떤 일이 발생하는지 물어보세요. 친구와 동료들에게 그들의 직장에서 “AI 생산성”의 혜택을 누리는 사람이 누구인지, 그리고 누가 위험을 감수하는지 물어보세요. AI의 약속을 되찾는 것은 월스트리트의 버전이 유일한 미래라는 것을 인정하지 않는 것에서 시작됩니다.

AI의 맥락에서 '엘리트 포획'이란 무엇인가요?

엘리트 포착은 AI 기술의 개발, 이익 및 거버넌스가 공공의 이익을 위한 것이 아닌 소수의 강력한 기업, 투자자 및 정부 기관의 손에 집중되는 과정을 의미합니다.

왜 AI 안전 회사인 앤트로픽이 월가와 협력하고 있을까요?

비평가들은 이것이 엘리트 포획의 징후라고 주장하며, 재정적 유인과 자본의 필요성이 원래의 사명을 압도한다고 강조합니다. 회사의 지지자들은 강력한 시스템 내에서 일하는 것이 AI 개발을 안전하게 이끌고 경쟁하기 위한 자원을 확보하는 데 필요하다고 주장할 수 있습니다.

AI 중앙화의 주요 징후는 무엇인가요?

주요 징후로는 몇몇 기업이 필수 인프라(반도체, 클라우드 데이터 센터)에 대한 통제를 가지고 있고, 수직 통합이 이루어지며, 높은 지불을 하는 고객에 대한 우선 접근이 있으며, 정부 규제에 대한 지배적인 기업의 영향력이 포함됩니다.

오픈 소스 AI가 Anthropic 및 OpenAI와 같은 기업들과 경쟁할 수 있을까요?

오픈 소스 모델은 빠르게 발전하고 있지만, 상당한 장애물에 직면해 있습니다. 이들은 종종 최전선 모델에 뒤쳐지며, 비싼 하드웨어를 요구하여 기본 인프라를 통제하는 대기업의 지배력을 강화합니다.