AI의 어두운 비밀: 당신은 '잉여 생체량'이다

Yuval Noah Harari는 "쓸모없는 계급"이라는 개념을 대중화했으며, 인공지능이 곧 인간 지능을 능가하여 인류의 광범위한 부분을 경제적으로 불필요하게 만들 것이라고 주장했습니다. 더 어두운 현실을 반영하는 온라인 담론에서는 종종 "영구적인 하층 계급"이라는 용어를 사용하며, 이는 적응하지 못하는 사람들에게 다가오는 피할 수 없는 운명으로 묘사됩니다.

그러나 "쓸모없는 계급"과 "영구적인 하층 계급"이라는 두 용어 모두 위험할 정도로 관대합니다. 그렇게 무력화된 사람들을 "계급"이라고 부르는 것은 단순히 존재하지 않을 수도 있는 시민적 지위와 고유한 권리를 암시합니다. 역사는 부역 노동에 시달리던 중국 농민부터 다른 권리 박탈된 인구에 이르기까지, 시민이 아닌 소모성 자원으로 취급된 소외된 집단의 사례로 가득합니다. 예를 들어, China는 거대 프로젝트에 생명을 낭비할 여유가 있었습니다.

완전한 비인간화에 대한 궁극적인 두려움은 원래 장애인에게 적용되었던 나치의 오싹한 문구인 "쓸모없는 식충이"를 떠올리게 합니다. David Shapiro는 이 용어를 거부하며, 완전히 자동화된 경제의 더 냉혹한 미래를 명확히 설명합니다: 인간은 "잉여 생체량"이 됩니다. 이 용어는 로봇 병사가 전쟁을 하고 AI 에이전트가 사업을 운영하는 체제에서 인간의 몸이 경제 시스템에 순수하게 부정적인 요소가 되어 완전한 사회적 무관심을 의미한다는 불안감을 포착합니다.

계몽주의 시대의 "자연권" 개념은 실제로는 법적 허구입니다. 역사는 American and Glorious Revolutions와 같은 피비린내 나는 갈등 *이후*에 그러한 거창한 선언들이 나타났음을 보여줍니다. 부유한 사상가와 시인들은 유혈 사태와 새로운 권력 구조를 사후적으로 정당화하기 위해 이 언어를 만들었으며, 본질적이고 선재하는 진실로서가 아니었습니다.

David Shapiro는 그의 다가오는 책에서 권리에 대한 현실주의 이론을 옹호합니다. 모든 인간의 존엄성과 권리는 역사적으로 강제적인 힘을 통해 확보되었습니다. 여기에는 노동자의 파업권, 대규모 봉기, 그리고 집단적 철회가 포함됩니다. 이러한 행동들은 역사적으로 권력자들로부터 양보를 이끌어내는 데 필요한 필수적인 영향력을 제공했으며, 사회 계약의 초석을 형성했습니다.

AI와 자동화는 이러한 역사적 역학을 근본적으로 뒤흔듭니다. 기술이 산업 전반에 걸쳐 인간 노동의 필요성을 체계적으로 제거함에 따라, 우리의 집단적 협상력은 증발합니다. AI 에이전트가 사업을 운영하고 로봇 병사가 전쟁을 하는 완전히 자동화된 경제에서는 인간의 몸이 순수하게 부정적인 요소가 되어 권리를 요구하고 확보하는 전통적인 메커니즘을 지워버립니다.

세 가지 강력한 힘이 수렴하여 사회를 최대 자동화로 밀어붙입니다. 첫째, US와 China 간의 지정학적 경쟁은 Cold War 2.0에 불을 지피며, AI, 로봇 공학 및 자동화가 수십 년 동안 최고의 정치적 및 자본적 우선순위로 남도록 보장합니다. 이러한 국가 수준의 군비 경쟁은 대부분의 윤리적 또는 사회적 우려를 무시하며, 자동화가 모든 인간 능력을 능가할 것임을 보장합니다.

둘째, 신자유주의 자본주의는 역사상 가장 큰 민간 메가 프로젝트인 AI 인프라에 자금을 지원합니다. 2030년까지 이 구축에 수조 달러가 지출될 것이며, 이는 Apollo program과 Manhattan Project를 능가할 것입니다. 시장은 자동화된 미래에 대한 전례 없는 투자를 알리며 명확하게 말했습니다.

셋째, 수백만 개의 기업, 가구, 정부는 더 저렴하고, 더 빠르며, 더 우수한 자동화 솔루션을 선택하는 합리적인 경제적 결정을 일관되게 내립니다. 3억 4천만 명의 미국인, 수백만 개의 기업, 200개 국가에 걸쳐 이러한 선호가 증폭되면서 끌림 상태(attractor state)가 형성됩니다. 인간이 점점 더 '느리고, 멍청하며, 비싸다'고 여겨짐에 따라, 최대 자동화의 미래는 거의 피할 수 없습니다. 이러한 경제적 변화에 대한 더 깊은 통찰을 얻으려면 Technofeudalism by Yanis Varoufakis | Penguin Books를 고려해 보십시오. 기술과 관련하여 인간은 일관되게 가장 약한 고리를 나타냅니다.

많은 이들이 완전한 자동화가 인류를 고된 노동에서 해방시키는 미래를 그립니다. 이러한 기술 낙관주의적 비전은 AI 기반 연구가 암을 정복하고, 첨단 로봇 공학이 기후 변화를 되돌리며, 자가 건설 태양광 발전소가 유토피아 사회에 전력을 공급하는 상상할 수 없는 풍요의 시대를 약속합니다. 이러한 기술적 도약은 인류의 가장 난해한 문제들을 해결하고, 전례 없는 번영과 건강의 시대를 열 수 있습니다.

역설적으로, 이러한 자동화된 유토피아를 만들 수 있는 바로 그 기술이 인간의 존재 가치를 위협합니다. 우리를 노동에서 해방시키도록 설계된 동일한 시스템이 정의상 우리를 경제적으로, 구조적으로, 그리고 정치적으로 무의미하게 만듭니다. 이 핵심 딜레마는 인류를 전례 없는 해방과 심각한 진부화라는 갈림길에 놓이게 합니다.

행동할 수 있는 시간은 점점 줄어들고 있습니다. 오늘날 경제에서 인간 노동이 여전히 어느 정도 필요성을 유지하고 있지만, 우리는 참여 여부를 통해 집단적 거부권(collective veto)을 가지고 있습니다. 그러나 이러한 영향력은 자동화가 발전하여 모든 부문에서 인간의 역할을 대체함에 따라 점차 사라집니다. 곧, 우리의 미래를 협상할 수 있는 선택권은 완전히 사라지고, 인류는 단순한 잉여 생체량(redundant biomass)으로 남겨질 수 있습니다.

테크노-봉건주의(techno-feudalism)란 무엇인가요?

첨단 AI와 자동화의 소유자들이 새로운 지배 계급을 형성하고, 인류의 대다수는 봉건 시대의 농노처럼 경제적으로 잉여가 되고 의존적이 되는 미래 사회 구조.

'쓸모없는 계급(useless class)'이라는 용어가 왜 너무 낙관적이라고 여겨지나요?

'계급(class)'이라는 용어는 인정된 시민적 지위를 의미합니다. 인간이 경제적으로 무의미해지는 미래에는 그들이 완전히 참정권을 박탈당하고 사회적 계급이 아닌 '잉여 생체량(redundant biomass)'으로 취급될 수 있습니다.

어떤 주요 동력들이 우리를 이러한 결과로 이끌고 있나요?

세 가지 주요 동력이 언급됩니다: AI 개발을 촉진하는 치열한 지정학적 경쟁(예: US vs. China), 효율성을 향한 자본주의의 끊임없는 추진, 그리고 더 저렴하고 우수한 자동화를 채택하려는 기업의 합리적인 경제적 선택.

'권리의 현실주의 이론(realist theory of rights)'이란 무엇인가요?

인권이 본질적이거나 '자연적인' 것이 아니라, 필수적인 노동력의 집단적 협상력과 같은 강제적인 힘을 통해서만 확보되고 유지되는 법적 허구라는 이론입니다.