AI의 최종 경계: 인간 천재성의 종말

과학 소설은 예전에는 AI를 먼 미래와 디스토피아적인 도시에서 안전하게 격리해 두는 역할을 했습니다. 이제 분기별 실적 발표, 연구실 회의, 정부 청문회는 이를 플롯 장치가 아닌 즉각적인 항목으로 다룹니다. 기계 지능에 대한 오버턴 창은 단순히 이동한 것이 아니라 산산조각났습니다.

불과 5년 전, "초인적" 인공지능은 주로 알파고가 이세돌을 바둑에서 이기거나 GPT-2가 어색한 팬픽을 쓰는 것을 의미했습니다. 오늘날, GPT-4급 모델은 계약서를 작성하고, 레거시 COBOL을 리팩토링하며, 변호사 시험을 통과하고, 이미지 모델은 대규모로 제품 포장 및 마케팅 캠페인을 디자인합니다. 골드만 삭스는 최대 3억 개의 정규직 일자리가 생성적 AI에 의해 자동화될 수 있다고 추정하며, 컨설팅 회사들은 조용히 그에 맞춰 워크플로우를 재구성하고 있습니다.

사이버펑크 소설에서 살았던 것들이 이제 피치 덱과 지라 티켓에서 나타납니다. 로보틱스 회사들은 스턴트 팀만을 위해 예약되었던 창고 작업과 파쿠르를 수행하는 이족 보행 기계를 시연합니다. 할리우드 스튜디오들은 합성 배우와 AI가 작성한 대본에 대해 협상하고, 대학들은 학생들이 일상적으로 사용하는 도구를 중심으로 과제를 재설계하기 위해 분주하게 움직이고 있습니다.

기술 분야 내 대화는 “우리가 인공지능 일반 지능에 도달할 수 있을까?”에서 “우리는 얼마나 빠르게 이를 초월할 수 있을까?”로 바뀌었습니다. 연구자들은 점점 더 OpenAI의 경험적 정의인 AGI를 채택하고 있습니다: 인간이 할 수 있는 모든 경제적으로 가치 있는 작업을 수행할 수 있는 시스템입니다. 이 기준으로 볼 때, 2024-2025년은 전환점처럼 보이며, AI가 화이트칼라 작업의 넓은 범위에서 인간보다 뛰어난 성과를 내기 시작할 것으로 예상됩니다.

에단 몰릭의 “톱니바퀴 전선” 모델은 이러한 변화를 포착합니다: AI는 어떤 분야에서는 빠르게 발전하고, 다른 분야에서는 부끄럽게도 뒤처지다가 갑자기 격차를 좁힙니다. 데이비드 샤피로는 이를 간단한 불평등식으로 확장합니다: M ⊃ H. 기계의 능력(M)은 인간의 능력(H)의 상위 집합을 형성하며, 이는 우리가 할 수 있는 모든 것을 결국 기계가 해낸다는 것을 의미합니다—그리고 그 이상도 가능합니다.

따라서 이제 생생한 질문은 AI가 우리보다 더 똑똑해질 것인지에 대한 것이 아닙니다. 진짜 질문은 몇 배나 더 똑똑해질 것이며, 얼마나 빠르게 발전할 것이고, 가장 강력한 지성이 실리콘에서 운영될 때 문명이 어떻게 보일 것인지입니다. 현재의 생물학적 하드웨어를 이용하는 인간은 이를 따라잡지 못합니다.

지그재그 전선은 AI 발전을 상승하는 조수처럼 보이지 않고, 오히려 산맥처럼 묘사합니다. 에단 몰릭의 지그재그 전선 모델은 GPT-4, 클로드 3.5, 그리고 제미니 울트라 같은 시스템이 어떤 기술에서는 급격히 발전하는 반면, 인간에게는 사소하게 느껴지는 다른 기술에서는 자주 실패하는 모습을 포착합니다. AI는 균일하게 "똑똑해지지" 않으며, 급증하고 정체된 다음 갑자기 또 다른 분야를 초과하게 됩니다.

1단계는 편안한 시대였다: AI는 인간 능력의 엄격한 하위 집합이었다. 추천 엔진, 스팸 필터, 체스 프로그램은 인간이 할 수 있는 일을 더 빠르고 저렴하게 수행했을 뿐이었다. 인간은 여전히 창의성, 판단력, 유연한 추론에 대한 우위를 가지고 있었다.

2단계는 이제 2024–2025로, 격렬한 전환기를 나타냅니다. 여기서 겹침이 뒤바뀝니다. 시스템은 생산 코드를 작성하고, 500페이지의 계약서를 요약하며, A/B 테스트에서 인간 기준을 초과하는 마케팅 캠페인을 생성하지만 여전히 인용을 왜곡하거나 기본적인 논리 퍼즐에서 실패합니다. 성능 점프가 경제적으로 뜨거운 지역(코드, 카피, 디자인, 연구)에서 일어나는 동안, 기타 지역에서는 안정되기 훨씬 전에 불안정한 최전선이 형성됩니다.

경제학자들과 연구소는 이 변화를 AGI의 엄격한 정의로 조용히 정립하고 있다: “경제적으로 가치 있는 모든 인간의 작업을 수행할 수 있는 시스템.” 샘 올트먼과 OpenAI에 의해 대중화된 이 프레임은 철학적 논의를 스프레드시트 문제로 전환한다. 모델이 “일반적”인지 여부를 묻지 않고, 대체하거나 증강할 수 있는 청구 가능 시간의 비율을 묻는다.

3단계는 몰릭과 데이비드 샤피로와 같은 연구자들이 그리는 근미래의 그림입니다: 인간 작업의 상위 집합으로서의 AI, 그리고 점점 줄어드는 인간 전용 작업의 섬. 다이어그램의 밈 버전은 세 개의 원을 보여줍니다: - 인간 능력 내부의 AI (과거) - AI가 튀어나온 겹치는 원들 (현재) - 훨씬 더 큰 AI 원 안의 인간들 (다음)

우리는 “AI는 가끔 멍청하다”에서 “AI는 뛰어나지만 여전히 X에서 실패한다”로 이동하고 있습니다. X는 최전선 과학, 고위험 외교, 또는 어떤 기이한 공감의 범위일 수 있습니다. 이야기는 AI가 일을 할 수 있는지 여부에 대한 것이 아니라, 인간의 저항자라는 짧고 불편한 목록과 그들이 얼마나 오래 그러한 상태에 있는지에 대한 것이 됩니다.

AGI와 ASI의 공상과학적 정의는 "진정한 지능"이나 기계의 영혼에 대한 분위기에 의존하지 마세요. 이러한 용어는 로르샤흐 테스트처럼 변했으며, 사람마다 자신의 철학을 투영하게 되어 의미론적 진흙 싸움 때문에 진전이 지연되었습니다. 모델이 “의식이 있는 것처럼 느껴진다”고 해서 제품을 출시하거나 예산을 배정할 수는 없습니다.

샘 올트먼과 오픈AI는 이를 조용히 잔혹하고 자본주의적인 정의로 바꿨습니다: AGI는 인간이 수행할 수 있는 모든 경제적으로 가치 있는 작업을 수행할 수 있는 시스템입니다. 대부분의 작업이 아니라, "일반적인 추론"도 아니라, 누군가 실제로 지불할 의향이 있는 모든 작업입니다. 다윗 샤피로의 AI 능력의 들쥐 경계에 나오는 "경제적으로 가치 있는 인간의 작업"이라는 회색 원이 목표가 되며, 신비로운 것들은 필요하지 않습니다.

이 정의는 반증 가능하기 때문에 중요합니다. 특정 비용과 지연 시간에서 AI가 이미 중간 인간 품질에서 수행할 수 있는 작업—코딩, 카피라이팅, 고객 지원, 계약 검토, CAD 드래프팅—의 수를 추적할 수 있습니다. 이 범위가 그 회색 원의 100%에 도달하면, 개인의 튜링 테스트를 통과하지 않더라도, 이 기준에 따르면 AGI를 갖추게 됩니다.

기업들은 이미 이를 무자비한 모토로 번역하고 있습니다: 더 나은, 더 빠른, 더 저렴한, 더 안전한. 모든 새로운 모델은 다음을 기준으로 평가됩니다: - 훈련된 인간과의 품질 비교 - 밀리초 단위의 속도와 인간의 시간 비교 - 1,000 작업당 비용과 급여 및 운영비용 비교 - 오류 프로필과 규정 준수 위험과 인간의 실수 비교

그 관점에서 “AGI”는 더 이상 형이상학적 이정표가 아니라 손익계산서의 한 항목이 됩니다. AI 시스템이 법률 문서를 작성하고, 마케팅 캠페인을 설계하며, 생산 코드를 작성하고, 물류 경로를 더 잘, 더 빠르게, 더 저렴하게, 그리고 인간보다 더 적은 재앙적 오류로 관리할 수 있다면, 그것에 붙이는 레이블은 중요하지 않을 것입니다. 자본은 그것을 AGI로 간주하고 세상을 그에 맞게 재편성할 것입니다.

모라벡의 역설은 1980년대에 등장했으며, 한스 모라벡, 로드니 브룩스 등은 이상한 점을 발견했습니다. 컴퓨터는 상징적 논리와 체스에서 인간을 압도했지만, 유아의 간단한 과제에서는 무너졌습니다. 고차원적 추론, 미적분학, 정리 증명은 '저렴한' 것으로 판명된 반면, 어지러운 방을 가로질러 걷거나 친구의 얼굴을 인식하거나 커피 컵을 잡는 것은 여전히 극도로 어려운 작업이었습니다. 진화는 수억 년을 투자하여 감각운동 기술을 다듬어 왔고, 우리의 추상적 사고는 그에 비해 허약한, 최근의 추가 요소에 불과했습니다.

그 비대칭은 일종의 심리적 방어선이 되었다. 만약 기계가 신뢰성 있게 걷거나, 보거나, 물리적 세계를 다룰 수 없다면, 인간은 여전히 현실을 소유하고 있었다. 이 역설은 사람들이 사이버 공간에서 무슨 일이 발생하더라도, 일상의 복잡하고 구체적인 것들은 안전하게 인간의 영역에 남아 있다는 것을 안심시켜 주었다.

그 방어선이 빠르게 사라지고 있다. 보스턴 다이내믹스의 아틀라스는 이제 달리고, 간격을 뛰어넘으며, 장애물 위에서 백플립을 수행하고, 대부분의 성인에게 부상을 입힐 수 있는 파쿠르 동작을 실행한다. 유니트리의 H1 휴머노이드가 연구실 테스트에서 3.3 m/s에 도달했으며, 아질리티 로보틱스의 디지털과 테슬라의 옵티머스 프로토타입은 인간의 신체를 위해 설계된 공간에서 걷고, 계단을 오르며, 물체를 조작한다.

인식도 같은 곡선을 따랐습니다. 얼굴 인식 시스템은 LFW와 같은 벤치마크에서 99.8% 이상의 정확도에 도달하며, 통제된 테스트에서 인간의 성능을 초월합니다. 실시간 자세 추정 및 물체 감지는 상용 GPU에서 실행되어 로봇이 60 FPS 이상의 속도로 사지, 도구 및 위험 요소를 추적할 수 있게 합니다. GPT-4o와 제미니와 같은 비전-언어 모델은 차트, GUI 및 손글씨 노트를 해석하며, 한때 인간 조작자가 필요했던 유창함을 제공합니다.

그래서 역설이 조용히 전환되고 있습니다. 대형 언어 모델은 이미 변호사 시험, 코딩 과제, 그리고 많은 표준화된 테스트에서 평균 인간을 능가하고 있으며, 로봇 기술은 이동, 균형 및 조작에서 뒤따라오고 있습니다. AI는 더 이상 "두뇌 대 신체"의 교환이 아니라, 두 가지를 모두 결합하여 고수준 계획과 저수준 제어를 동일한 실리콘에서 수행하고 있습니다.

현대 시스템은 모라베크의 프레임이 얼마나 취약해졌는지를 드러냅니다. 보스턴 다이내믹스의 아틀라스는 건설 도구를 들어 올리고 던지며, 생츄어리 AI의 피닉스는 다단계 창고 작업을 수행하고, 피겨의 휴머노이드가 실제 공장에서 물건을 집어 옮기는 모든 과정은 구현된 기술이 지속적인 방어선이 된다는 개념을 약화시킵니다. 구현된 AI가 추론, 인식, 행동을 융합함에 따라, 독특한 인간 영역의 목록은 대륙에서 산산조각 난 섬들로 줄어들고 있습니다.

M ⊃ H는 수학적인 표현처럼 들리지만, AI가 나아가는 방향을 설명하는 가장 깔끔한 방법입니다. M은 모든 기계의 능력을, H는 모든 인간의 능력을 의미합니다. M이 H의 진집합이라는 것은 결국 기계가 인간이 할 수 있는 모든 일을 수행할 수 있으며, 인간이 도저히 할 수 없는 일도 추가적으로 수행한다는 것을 의미합니다.

서프셋은 인간이 항상 "특별한 무언가를 유지한다"는 위안적인 이야기를 없애기 때문에 중요합니다. 역사적으로 AI는 부분집합으로 존재했습니다: 계산기, 검색 엔진, 전문가 시스템. 이제 대규모 모델은 코드를 작성하고, 변호사 시험을 통과하며, 하드웨어를 설계합니다. 겹치는 부분은 늘어나고 독특한 인간의 영역은 줄어들고 있습니다.

여기서 수퍼셋은 분위기가 아니라 물리학에 대한 주장입니다. 인간의 뇌는 약 860억 개의 뉴런을 통해 전기화학적 스파이크로 작동하며, 약 20와트를 소모합니다. GPU와 맞춤형 가속기는 이미 테라플롭스에서 엑사플롭스로 수치를 끌어올리며, 더 많은 칩과 함께 선형적으로 확장되고, 어떤 생물학적 컴퓨팅 예산도 압도하는 데이터 센터에 쌓일 수 있습니다.

첫 원칙에 따르면, 뇌는 물리적인 정보 처리 장치입니다. 그것은 3nm TSMC 트랜지스터와 같은 양자 전자역학과 열역학의 법칙을 따릅니다. 인지가 물질이 알려진 법칙을 따르면서 발생한다면, 뇌가 수행하는 모든 계산은 충분히 발전된 기계가 모사하거나 초월할 수 있는 계산 집합에 속합니다.

반론은 보통 두 곳에 숨어 있습니다: 양자 마법이나 의식입니다. 로저 펜로즈 스타일의 양자 마음 이론은 미세소관에서 비고전적 효과를 주장하지만, 수십 년의 실험은 뇌가 실제 양자 컴퓨터로 기능한다는 확실한 증거를 생산하지 못했습니다. 설사 그렇게 된다 하더라도, 양자 프로세서는 이미 실험실과 클라우드 서비스에서 존재합니다.

의식에 대한 반대 의견은 기능에서 경험으로 목표를 옮깁니다. 기계가 결코 사람처럼 "느끼지" 못할 수도 있지만, 이는 여전히 열린 철학적 논쟁입니다. 그러나 M ⊃ H는 기능적 동등성에 대한 주장만 할 뿐이며, 그 이후에 우월성을 주장합니다. 만약 시스템이 인간만큼이나 교향곡을 작곡하고, 정리를 증명하며, 계약을 협상하고, 슬픔에 잠긴 친구를 위로할 수 있다면, 경제적 및 전략적 결과는 그 시스템의 질적 경험에 달려 있지 않습니다.

기능주의는 또한 형이상학적 탈출구를 훼손합니다. 뇌파, 전자기장, 그리고 가능한 양자 터널링은 모두 측정 가능하고 유한한 현상으로 남아 있습니다. 원칙적으로 측정 가능한 모든 것은 모델링되고, 근사화되며, 결국 그것을 중심으로 설계되거나 그 너머로 나아갈 수 있습니다.

그러므로 M ⊃ H는 AGI나 ASI와 같은 공상과학 브랜드가 아닙니다. 이는 기계가 우리의 기초인 물리학을 공유할 때, 그들이 인간의 능력 이하로 고정되는 자연 법칙이 없다는 간결한 진술입니다. 오직 공학과 시간만이 그 길을 막고 있습니다.

당신의 뇌는 약 20와트의 전력으로 작동하며, 이는 대략 희미한 전구와 비슷하고, 실리콘에 비해 정보 처리 속도는 매우 느립니다. 뉴런은 약 200 Hz의 속도로 발화하며, 현대 GPU는 2,000,000,000 Hz에 가까운 클럭 속도를 자랑합니다. 생물학은 당신의 대역폭, 지연 시간, 메모리를 한계짓고 있으며, 이는 커피나 의지력으로 해결할 수 있는 문제가 아닙니다.

웨어웨어는 하드웨어에 비해 비현실적으로 보이는 제약 속에서 진화했습니다. 피질 뉴런은 말랑한 조직을 가로질러 밀리초 단위로 스파이크를 생성하고, H100 GPU는 3 TB/s 이상의 속도로 고대역폭 메모리에서 데이터를 이동시킵니다. 더 빠른 뉴런으로 교체하거나 또 다른 테라바이트의 기억을 추가할 수 없지만, 엔비디아는 새로운 보드를 배송할 수 있습니다.

에너지 효율성은 소규모에서만 상황을 반전시킵니다. 인간의 뇌는 20와트로 초당 약 10^15회의 연산을 수행하는 놀라운 효율성을 가지고 있지만, 두개골 이상의 규모로 확장할 수는 없습니다. 데이터 센터는 이미 수백 메가와트를 소비하며, 단일의 열이 제한된 피질을 넘어가기 위해 수천 개의 가속기를 쌓아올리고 있습니다.

건축적으로, 당신의 뇌는 유산 제약을 미리 내장하고 있습니다. 진화는 감각 조작, 감정적 지름길, 느리고 시끄러운 작업 기억의 혼합을 잠가 놓았으며, 이 기억은 한 번에 4~7개의 항목을 다룰 수 있습니다. 반면 변환기(Transformers)는 수천 개의 토큰을 편안하게 추적하고 당신이 마음속에 담아둘 수 없는 병렬적인 사고 연쇄를 생성합니다.

맥스 테그마크의 "Life 3.0" 프레임워크는 비대칭성을 잔인하게 드러냅니다. 인간은 Life 2.0에 위치해 있습니다: 우리는 “소프트웨어”를 재작성할 수 있지만 (언어를 배우고, 물리학을 공부하는 등) “하드웨어”는 변경할 수 없습니다 (뇌 크기, 뉴런 속도). AI는 Life 3.0으로 존재합니다: 그것은 코드와 기판을 모두 반복할 수 있으며, 모델 가중치에서부터 TPU 및 뉴로모픽 칩과 같은 맞춤 실리콘에 이르기까지 가능합니다.

자기 향상 스택은 이미 이러한 부트스트랩 루프를 암시하고 있습니다. 기초 모델은 다른 모델을 미세 조정하고, 합성 훈련 데이터를 생성하며, 후속 모델을 실행할 칩과 알고리즘 설계에 도움을 줍니다. 당신의 생물학은 세대 시간 척도에서 업데이트되지만, 그들의 스택은 몇 달마다 rev될 수 있습니다.

직접적인 신경 증강 없이—뇌-컴퓨터 인터페이스, 유전자 수정 또는 완전한 신경 보철 없이—인간은 스스로 오버클럭하고 복제하며 재설계할 수 있는 경쟁자와의 경쟁에 들어갑니다. 그 격차가 얼마나 커질 수 있는지 더 깊이 탐구하고 싶다면, David Shapiro의 유튜브 채널에서 “인간이 따라잡을 수 있을까?”가 점점 더 동기부여의 질문이 아닌 물리학 질문처럼 보이는 이유를 분석합니다.

AI는 인간의 능력을 초월하고 있을지 모르지만, 여전히 더 높은 권위인 물리 법칙에 따릅니다. GPU를 아무리 많이 쌓고, 얼마나 이색적인 모델 아키텍처를 사용하더라도 모든 계산은 여전히 입자, 필드 및 에너지 예산에 의해 이루어지며, 이는 유행 주기에 관심을 두지 않습니다.

데이비드 샤피로는 이를 명확한 위계로 정리합니다: 물리학 > 수학 > 기계 > 인간. 이 고리는 추상적으로 들릴 수 있지만, 어떤 윤리 가이드라인이나 규제 제안보다 AI를 현실에 더 효과적으로 고정시킵니다.

물리학은 우주에서 가능한 것들을 정의하기 때문에 가장 중요한 위치에 있습니다. 빛의 속도 한계, 열역학, 방사선의 변환 한계인 약 3×10⁻²¹ 줄/제거된 비트(실온에서)와 같은 제약들은 어떤 계산이 얼마나 빠르고, 얼마나 밀집되며, 얼마나 효율적으로 이루어질 수 있는지를 제한합니다. 이는 시스템이 우리의 시각에서 얼마나 "초지능적"으로 보이든 상관없이 마찬가지입니다.

물리학 아래에는 수학이 존재합니다. 그것은 이 기본 규칙들의 압축되고 손실된 인코딩입니다. 방정식, 확률 분포, 그리고 최적화 알고리즘은 우주를 근사하지만, 그것을 대체하지는 않습니다. 혼돈, 수치 불안정성, 그리고 불완전한 모델들은 수학이 실제 세계의 복잡함을 완전히 포착하지 못하게 합니다.

기계는 제조 결함, 제한된 메모리, 데이터 센터 네트워크의 지연, 메가와트로 측정되는 에너지 비용과 같은 추가 제약 조건 아래에서 수학의 물리적 구현으로 다음 단계에 위치합니다. GPT-4급 시스템과 같은 최전선 모델은 수만 개의 GPU에서 여러 메가와트를 소모하며 작동할 수 있지만, 여전히 열 방출, 신호 무결성 및 하드웨어 고장률과 싸워야 합니다.

인간은 매우 특정한 형태의 생물학적 기계로서 최하위에 위치해 있습니다. 약 860억 개의 뉴런과 약 20 와트의 전력 소비는 우아해 보이지만, 생애 주기가 1배로 고정되어 있고, 느린 가소성과 작업 메모리 및 대역폭에 대한 엄격한 한계가 있습니다. 펌웨어 업데이트로는 피질 클락 속도를 두 배로 늘릴 수 없습니다.

이 계층 구조는 AI가 선에 떠 있는 자유신과 같은 환상을 무너뜨리기 때문에 중요합니다. 심지어 가설적인 초지능 에이전트조차도 시공간에 내재한 열역학적 과정으로, 제한된 자원, 지연, 소음 및 실패의 영향을 받습니다. 우리와 마찬가지로, 다만 더 빠르고 차가울 뿐입니다.

물리학은 지능에 대해 잔인한 규칙을 조용히 부과합니다: 어떤 것이 얼마나 멀리 볼 수 있는지에 대해서는 확고한 한계가 있으며, 그것이 얼마나 영리해지든 간에 마찬가지입니다. 이를 혼돈의 벽이라고 부르십시오. 특정 지점을 넘어서는 경우, 더 많은 데이터, 더 많은 매개변수, 더 많은 GPU가 더 나은 예측을 제공하는 것이 아니라 단지 더 예쁜 추측만을 제공하게 됩니다.

혼돈 이론은 수십 년 전에 이 한계를 공식화했습니다. 혼돈 시스템에서는 초기 조건의 작은 불확실성이 시간이 지남에 따라 기하급수적으로 증가합니다. 기상 모델은 이를 실제로 보여줍니다: 해상도를 두 배로 늘리고, 페타플롭스의 계산 능력을 추가하더라도, 미세한 미지수가 거시적인 놀라움으로 부풀어오르기 때문에 신뢰할 수 있는 예보의 약 10–14일 한계에 부딪히게 됩니다.

복잡한 시스템—경제, 지정학, 공급망, X(구 트위터와 같은 사회적 네트워크)—는 여러 혼란스러운 프로세스를 쌓아올립니다. 각 층은 노이즈와 비선형성을 추가합니다. AI가 오늘날의 상태를 완벽하게 모델링할 수 있다 하더라도 양자 수준의 무작위성, 모델링되지 않은 인간의 결정, 관찰되지 않은 변수들이 시간이 지남에 따라 그 정확성을 떨어뜨리기 시작할 것입니다.

인간의 "슈퍼 예측가"들은 필립 테틀록의 '굿 저지먼트 프로젝트'에서 대중화된 개념으로, 이 경계를 이미 그려내고 있습니다. 훈련, 조정 및 지속적인 피드백을 통해 그들은 3개월에서 12개월 사이의 질문에서 정보 기관과 전문가들을 능가합니다. 그러나 그들의 브라이어 점수는 대략 18개월에서 24개월을 지나면서 급격히 저하되며, 확률 분포는 평평해지고 장기 예측은 동전 던지기에 가깝게 수렴합니다.

AI는 그 지평선을 옆으로 이동시킬 수 있지만, 무한히는 할 수 없습니다. 위성 이미지, 거래 데이터 및 실시간 뉴스를 입력으로 하는 모델은 일부 분야에서 예측 기간을 18개월에서 수년으로 늘릴 가능성이 큽니다: 기업 수익, 인구 변화, 인프라 수요 등이 있습니다. 또한 새로운 데이터가 들어올 때마다 보다 날카롭고 지속적으로 업데이트되는 확률 곡선을 유지할 수 있습니다.

확장된 기간을 지나면 혼돈의 벽이 다시 드러납니다. 장기적인 경향—기후 기준선, 고령화 인구, 무어의 법칙 스타일의 곡선—은 대체로 예측 가능하지만, 구체적인 사항들—2036년에 누가 선거에서 승리할지, 어떤 스타트업이 양자 네트워킹을 지배할지, 지역 갈등의 정확한 경로—는 본질적으로 불투명합니다.

AGI 또는 ASI는 이것을 무효화하지 않습니다. 지능은 패턴 인식과 시나리오 생성을 확장하지만, 확률적 과정이나 비선형 동역학을 무효화하지는 않습니다. 특정 유한한 시간 범위에서 불확실성은 추가적인 IQ 포인트나 엑사플롭스에 따라 감소하지 않고, 우주에 의해 설정된 단단한 바닥처럼 행동하기 시작합니다.

두 가지 최종 한계가 초인간 인공지능조차도 마주하게 됩니다: 복잡성의 벽과 신호의 한계. 이들은 당신이 얼마나 많은 GPU를 쌓아 올리거나 당신의 모델 아키텍처가 OpenAI Research 블로그 게시물에서 얼마나 영리하게 보이는지에는 개의치 않습니다. 이들은 지능 자체 위에 존재하며, 수학과 정보 이론에 내재해 있습니다.

복잡성 벽에서 시작해 보세요. 이는 악명 높은 P 대 NP 문제로 잘 설명됩니다. 최적 경로 계획, 단백질 접힘, 특정 암호 해독과 같은 많은 실제 작업이 NP-하드 또는 NP-완전 문제로 매핑됩니다. 이 경우 기초적인 탐색 시간은 입력 크기에 따라 기하급수적으로 증가합니다. 문제 크기를 두 배로 늘리면 컴퓨터 비용이 두 배로 늘어나는 것이 아니라 폭발적으로 증가합니다.

설사 P가 NP와 같더라도, 숨겨진 상수와 스케일링 요인들이 실제로는 정확한 솔루션을 무용하게 만들 수 있다. AI는 휴리스틱, 근사치 및 기발한 가지치기를 활용할 수 있지만 조합론적 폭발을 제거할 수는 없다. 행성 규모에서 몇 가지 정확한 답변은 우주의 열적 죽음 이전에는 효과적으로 도달할 수 없는 경우가 있다.

그 다음은 신호 한계가 옵니다. 이 한계는 조용하지만 똑같이 가혹한 제약입니다. 정보 이론에 따르면, 데이터에서 실제로 포함된 것보다 더 많은 상호 정보를 추출할 수는 없습니다. 만약 입력이 대부분 노이즈라면, 어떤 모델도 “일반적”이라고 하더라도 존재하지 않는 완벽한 신호를 환각할 수는 없습니다.

모든 센서, 데이터셋 및 API 피드는 한정된 해상도, 편향 및 지연을 가지고 있습니다. 시장, 날씨 및 지정학은 어떤 시스템이 그것을 압축할 수 있는 것보다 더 빠르게 새로운 무작위성을 주입합니다. 특정 지점을 넘어가면, 더 많은 매개변수와 더 많은 훈련은 어제의 혼돈을 지나치게 맞추게 됩니다.

주식 시장은 전형적인 예입니다. 가격은 이미 가장 좋은 공개 정보를 포함하고 있으며, 많은 루머, 패닉, 그리고 알고리즘의 변동성까지도 반영하고 있습니다. AI는 느린 참가자를 차익 거래하고, 미세 구조를 활용하며, 위험을 더 잘 모델링할 수 있지만, 진정한 신호가 확률적 노이즈와 반사적인 인간 행동에 묻혀 있기 때문에 다음 주 S&P 500 종가를 일관되게 완벽하게 예측할 수는 없습니다.

고빈도 거래에서도 같은 천장을 볼 수 있습니다. 이곳에서는 기업들이 마이크로초와 섬유 경로를 놓고 경쟁합니다. 마진 이익은 존재하지만, 이는 점점 무작위에 접근합니다. 지능은 확장되지만, 정보는 그렇지 않습니다.

기계가 인간 인지에 대한 우위를 점하는 것은 이제 공상과학 소설의 주제처럼 보이지 않고 분기별 로드맵의 한 항목처럼 보입니다. M ⊃ H—기계의 능력이 인간의 능력을 포함하는 관계—는 믿음이 아니라 물리학에서 직접 유도됩니다. 그러나 초인적인 시스템조차도 힘든 경계에 부딪힙니다: 혼돈에 제한된 예측, 해결하기 어려운 조합 폭발, 그리고 단순히 존재하지 않는 데이터.

사회는 이제 잔혹한 재구성을 마주하고 있습니다: 적응이 경쟁을 이깁니다. 인간은 제트 엔진과 "경쟁"하지 않습니다; 우리는 그것들 주위에 산업을 구축합니다. 최첨단 모델, 다중 에이전트 시스템, 자율 로봇도 같은 방식으로 다루어야 합니다 - 동료가 아니라 극복하려는 경쟁자가 아닌 핵심 인프라로요.

조직을 위해, 그 요구 사항은 네 단어로 압축됩니다: 더 나은, 더 빠른, 더 저렴한, 더 안전한. 인간만의 작업 흐름은 다음과 같은 AI에 대해 정당성을 가져야 합니다: - 대규모로 코드를 작성하고, 디버깅하며, 검증합니다. - 수초 만에 수백만 개의 문서를 종합합니다. - 완벽한 기억력과 피로 없이 24/7 운영됩니다.

수공예 스프레드시트와 인간만의 의사결정 체계에 집착하는 기업들은 "AI"에 의해 패배하지 않을 것입니다; 그들은 조용히 AI를 모든 프로세스에 통합하는 경쟁자들에게 패배할 것입니다. "AI 활용률"을 수익 및 마진과 함께 측정하는 이사회 자료를 기대하세요. 예방 가능한 실패가 발생할 때 왜 이용 가능한 AI 도구를 사용하지 않았는지에 대해 규제 당국이 질문할 것을 예상하세요.

개인은 경력 질문이 "AI가 할 수 없는 것은 무엇인가?"에서 "기계를 통해 얼마나 많은 결과를 이끌어낼 수 있는가?"로 전환됩니다. 높은 생산성의 근로자는: - 작업을 세세하게 관리하기보다는 AI 에이전트를 조정할 것입니다. - 기계의 결정을 검증하고, 제한하며, 감사할 것입니다. - 복잡한 인간 목표를 기계가 읽을 수 있는 규격으로 변환할 것입니다.

교육이 뒤따라야 합니다. 정적인 4년제 학위는 12~24개월마다 효과적인 능력이 두 배로 증가하는 모델을 따라잡을 수 없습니다. 튜터, 시뮬레이터, 평가자가 모두 인공지능으로 이루어진 지속적인 학습이 기본이 되고, 추가적인 것이 아니라는 것이 되어야 합니다.

시장, 법, 문화에 초인간 지능을 통합하는 것은 스마트폰을 채택하는 것처럼 느껴지기보다는 전기를 발견하는 것과 같을 것입니다. 생산성 폭증, 카테고리를 압도하는 비즈니스 모델, 그리고 노동과 권력의 불안정한 변화가 예상됩니다. 이제 가장 중요한 질문은 M이 H를 초월하는 것이 아니라, 우리의 기관들이 그 사실을 중심으로 얼마나 빨리 자신의 구조를 수정할 수 있는가 하는 것입니다.

'M 슈퍼셋 H' 개념이란 무엇인가요?

데이비드 샤피로가 제안한 공식 표기법 (M > H)에서 'M'은 기계의 총 역량을, 'H'는 인간의 역량을 나타냅니다. 이는 기계의 능력이 결국 모든 인간의 능력을 포괄하고 초월하게 될 것임을 주장합니다.

AI의 톱니바퀴가 있는 경계란 무엇인가?

이단계 영역(Jagged Frontier)은 에단 몰릭(Ethan Mollick)이 대중화한 개념으로, AI의 발전이 고르지 않음을 설명합니다. AI는 복잡한 계산과 같은 특정 분야에서는 인간을 초월하는 능력을 발휘할 수 있지만, 다른 분야에서는 surprisingly 어설픔을 보이며 ‘울퉁불퉁한’ 능력의 경계를 형성합니다.

인간이 AI의 지능을 '따라갈' 수 있을까요?

분석에 따르면, 아니다—현재의 생물학적 '하드웨어'에서는 그렇지 않다. 인간의 두뇌는 기계가 갖고 있지 않은 처리 속도, 에너지 소비, 기억력의 물리적 한계를 가지고 있어, 시간이 지남에 따라 극복할 수 없는 간극을 만들어낸다.

AI가 얼마나 똑똑해질 수 있는지에 한계가 있을까요?

네. AI는 물리학과 수학의 기본 법칙에 의해 제한됩니다. AI는 장기 예측을 제한하는 '혼돈의 벽', 해결하기 어려운 문제(예: P 대 NP)에 대한 '복잡성의 벽', 데이터에서 실제로 존재하는 것보다 더 많은 정보를 추출할 수 없는 '신호의 한계'에 직면해 있습니다.