AI는 의미 없는 세상을 만들어가고 있다.

우리는 이상한 종류의 어두운 시대에 살고 있습니다. 촛불과 전염병 시대는 아니지만, 이름 붙이기 어려운 시대: AI 모델이 코드를 작성하고, 자동차가 스스로 달리며, 식료품이 인간의 접촉 없이 문 앞에 도착하는 시대입니다. 그러나 수백만 명이 기록적인 수준의 불안, 외로움, 우울증을 호소하고 있습니다. 도구들은 마치 공상과학 소설에서 온 것 같지만, 내면의 삶은 마치 붕괴되는 것 같습니다.

어디를 보아도 문화는 마치 불타는 신경망처럼 느껴진다. 정치가 미세 부족으로 분열되고, 사회 플랫폼은 분노를 게임화하며, 기관에 대한 신뢰는 계속 하락하고 있다. 그럼에도 불구하고, 우리는 대규모 AI 시스템 구축에 수십억 달러와 엄청난 인지적 자원을 쏟고 있으며, 이는 우리가 일하고, 배우고, 관계를 형성하는 방식을 점점 더 많이 중재할 것이다.

이것은 기술의 버그가 아닙니다. 그것은 이를 구축한 세계관의 균열입니다. 우리는 AI를 순수한 기술 프로젝트로 계속 다루고 있습니다—더 많은 파라미터, 더 나은 GPU, 더 빠른 추론—하지만 이러한 시스템을 겨냥한 근본적인 문명은 “좋은 삶이란 무엇인가?” 또는 “진보는 무엇을 위한 것인가?”와 같은 기본적인 질문에 답하지 못하고 있습니다. 그 단절이 진정한 이야기입니다.

비디오의 제작자는 자신의 삶을 이 분열의 축소판이라고 부릅니다. 그는 닐 디그래스 타이슨, 칼 세이건, 리처드 도킨스와 같은 강력한 무신론자로 시작했습니다: 과학은 가장 높은 법정이며, 나머지는 모두 미신이나 심리적 방편에 불과했습니다. 사실이 지배했으며, 의미는 반올림 오차처럼 느껴졌습니다.

그때 반발이 일어났다. 동양 철학, 명상, 사이켈델릭—실험실 보고서에 깔끔하게 맞지 않는 경험들과의 만남. 영적 실천은 경외감, 연결감, 그리고 목적을 제공했지만, 종종 경험적 엄밀성을 뒷전으로 뒀다. 한 세계관은 깊이 없는 설명을 제공했고, 다른 하나는 설명 없는 깊이를 제공했다.

그 긴장은 전체 문화로 확대됩니다. 우리는 기후 시스템을 모델링하고, 단백질을 시뮬레이션하며, 수조 개의 토큰으로 GPT 스타일 모델을 훈련할 수 있는 과학-산업 기계가 있지만, 19세 청년에게 내일 아침 일어나는 것이 왜 중요한지를 설명할 수는 없습니다. 우리는 그 어느 때보다 우주에 대해 더 많이 알고 있지만, 그 안에서 더 존재적으로 정처 없는 기분을 느낍니다.

AI는 이 의미의 위기를 만들지 않았습니다. 오히려 그것을 드러내고, 측정할 수 있는 모든 것을 최적화하면서 측정할 수 없는 것을 무시함으로써 위기를 가속화합니다.

이를 의미 위기라고 부르자: 우리가 공유하는 현실과 중요성에 대한 감각이 서서히 붕괴되는 현상. 인지 과학자 존 베르바케는 이 용어를, 더 이상 자신의 현실 지도에 신뢰를 두지 않는 문화와, 인간이 흡수할 수 있는 것보다 더 많은 데이터를 생성하는 문화를 설명하는 데 사용한다. 우리는 페타바이트 규모의 클라우드와 조단위 매개변수 모델을 가지고 있지만, “이 모든 것이 무엇을 위한 것인가?”라는 질문에 대한 일관된 답은 없다.

현대 생활은 분할 화면의 세계관에서 작동합니다. 한쪽에서는 과학이 초정밀하게 사물의 작동 방식을 설명합니다: 양자장, CRISPR 편집, 기후 모델, 10조 개 이상의 토큰으로 훈련된 대형 언어 모델(LLMs). 반면에, 단편화된 영적 장면들은 목적과 초월을 약속하지만, 종종 진화, 신경과학 또는 전염병학에 관한 기본 사실들을 간과합니다.

그 균열은 사람들을 가로지릅니다. 한 세기에는 닐 디그래스 타이슨, 칼 세이건, 리처드 도킨스를 탐닉하며 오직 대형 하드론 충돌기와 동료 평가만이 진리에 다가선다고 믿습니다. 다음에는 명상 리트릿, 환각제, 동양 철학에 푹 빠져 실험실 보고서 안에는 들어맞지 않는 일종의 의미를 느낍니다.

결과는 마치 존재적으로 집이 없는 느낌을 준다. 당신의 전화기는 하루에 17세기 학자가 평생 동안 본 정보보다 더 많은 정보를 제공하지만, 부유한 국가들에서는 불안, 우울증, 고독이 급증하고 있다. 미국에서는 성인 거의 2명 중 1명이 빈번한 고독을 보고하며, 청소년 정신 건강 응급 상황은 2010년 이후 두 자릿수로 급증했다. 사람들은 스크롤하고 최적화하며 "자기 계발"을 하지만, 그들의 알림보다 더 큰 이야기 속에 자신이 속해 있다고 느끼는 경우는 드물다.

우리는 이 혼란을 AI에 직접 주입합니다. 대규모 모델은 우리의 텍스트, 코드, 댓글 스레드, 클릭 스트림을 흡수하며—이 분열된 패러다임 내에서 생성된 데이터—이를 통계적으로 압축하여 확실한 것처럼 들리는 결과물을 만들어냅니다. 이러한 시스템은 윤리, 종교 또는 목적에 대한 유창한 답변을 제공할 수 있지만, 그 답변은 이미 공동의 의미를 잃어버린 문화를 다시 합성한 것일 뿐입니다.

이러한 기반 위에 구축된 AI는 우리의 인식적 분열을 확장합니다. 그것은 사실, 패턴, 예측과 같은 명제적 지식을 강화하지만, 가치, 목적 또는 지혜에 대해서는 중립적입니다. 우리는 인류가 지금까지 배치한 가장 강력한 의미 부여 기계에 우리의 혼란을 사실상 하드코딩하고 있습니다.

현대 사회는 "지식"을 데이터와 기술의 동의어로 여기지만, 인지 과학자인 존 베르바케는 인간의 이해가 실제로는 네 가지 뚜렷한 경로로 이루어진다고 주장합니다. 그 중 절반을 무시하면, 현재 우리가 겪고 있는 것과 똑같은 결과가 나옵니다: 존재론적으로 길을 잃은 초능력 문명입니다.

베르바케는 첫 번째 트랙을 명제적 지식이라고 부릅니다: 진위가 있을 수 있는 사실, 이론, 진술들. 물리학 방정식, GDP 차트, 당신의 스포티파이 랩트(statistics), GPT-4의 모델 가중치 - 이것이 당신이 저장하고 전송하며 검증할 수 있는 정보의 영역입니다.

다음은 절차적 지식입니다: 반복을 통해 신경계에 각인되는 기술과 "방법" 역량입니다. 자전거 타기, 레이스 조건 디버깅, 엘든 링 스피드런, LoRA 어댑터로 모델 튜닝하기 등이 여기에 해당하며, 단순히 읽는 것만으로는 부족하고 몸이 이해할 때까지 직접 해봐야 합니다.

세 번째 트랙인 관점적 지식은 관련성과 중요성에 관한 것입니다: 현재 자신이 서 있는 지점에서 무엇이 중요한지를 보는 것입니다. 이는 기상 보고서를 받는 것과 하늘이 “안으로 들어가라”는 의미를 가질 때를 아는 것, 또는 협상 플레이북을 읽는 것과 거래가 막 놓치려는 순간을 감지하는 것의 차이입니다.

마침내, 참여적 인식은 자신보다 더 큰 것—커뮤니티, 공예, 경관, 영적 실천—과의 살아 있는 변화를 주는 관계에 있는 것을 설명합니다. 이는 뮤지션들이 "밴드가 우리를 연주하고 있다"는 의미로 표현하거나, 오랜 기간 동안 활동하는 사람들이 원인이 자신을 수년 동안 변화시킨다고 설명하는 방식과 같습니다.

현대 기술 문화는 처음 두 가지 형태를 강화하고 마지막 두 가지를 제쳐둡니다. 우리는 하루에 15세기 마을 주민이 평생 동안 접한 정보보다 더 많은 정보를 스트리밍하며, 새로운 기술—프롬프트 엔지니어링, 성장 해킹, 10배 생산성 스택—에 집착하는 경우가 많습니다. 이러한 기술들은 종종 AI 에이전트에게 넘기기 위해서입니다.

AI는 거의 전적으로 명제적 및 절차적 기반 위에 구축되어 있습니다. 대형 언어 모델은 수조 개의 토큰을 흡수하고 텍스트, 코드, 이미지 생성에 대한 확률적 절차를 학습하지만, 인간에게 실제로 무엇이 위험한지에 대한 관점적 이해나 공유된 세계와의 참여적 얽힘을 가지고 있지 않습니다.

그 무시는 지혜와 느끼는 목적의 감각이 존재하는 곳에 정확히 영향을 미칩니다. 관점적이고 참여적인 지식은 어떤 질문이 중요한지, 어떤 선택이 허용될 수 있는지, 어떤 프로젝트가 당신의 삶의 10년을 투자할 가치가 있는지를 알려줍니다. 이는 어떤 최적화 지표로도 포착할 수 없는 것들입니다.

베르바케의 시리즈 존 베르바케 – 의미 위기로부터의 각성은 이 네 가지 방식이 단지 “사실과 기술”로 축소된 것이 작은 오류가 아니라 문명적 결함이라고 주장합니다. 우리의 협소한 지식 개념을 기반으로 훈련된 AI는 그 결함을 지구 규모로 확대할 준비가 되어 있습니다.

AI 시스템은 현대 문화가 이미 숭배하는 지식의 유형에서 뛰어납니다. 대형 언어 모델은 조항적 지식의 수조 개의 토큰을 압축하여 거의 모든 질문에 몇 초 안에 대답할 수 있는 대화 상자로 만듭니다. 추천 엔진과 작업 도구는 이를 절차적 지식으로 강화하여 우리가 쇼핑하고, 일하고, 데이트하며, 투표하는 방식을 조용히 최적화합니다.

ChatGPT나 Claude에게 코드, 마케팅 퍼널, 또는 운동 계획을 작성해 달라고 요청하면 그들은 기꺼이 모든 변수를 조정합니다. 그러나 당신이 어떤 사람이 되어야 할지 또는 무엇을 위해 희생할 가치가 있는지 물으면 그들은 멈추거나 기존의 선호를 반영합니다. 이러한 모델은 수단을 실현하지만, 텔로스—목적의 질문—는 결코 손실 함수에 포함되지 않습니다.

그 격차는 모델의 버그가 아니라, 그것을 훈련시킨 패러다임에 내재되어 있습니다. 경량의 하강법은 다음 단어 예측, 클릭률 또는 배송 시간을 최소화할 수 있지만, 참여도, 수익 또는 편리함이 삶의 중심에 있어야 하는지를 알려줄 수는 없습니다. 우리는 결코 정당화하지 않은 목표에 소수점 이하의 정밀도를 계속 추가하고 있습니다.

찰스 아이젠슈타인은 GPT-4보다 훨씬 이전에 이 논리를 보았습니다. “아름다움은 어디에 있는가? 그것은 나비 속에 있다. 그러나 우리가 그것을 클로로포름으로 처리하고, 해부대에 놓고, 잘라버리면 아름다움은 사라진다. 신성함은 어디에 있는가? 우주의 나머지와 격리된 채로 정말로 이해할 수 있는 것이 있는가?” 해부는 지식을 생성하지만, 나비가 중요한 이유인 아름다움, 신성함, 경외감과 같은 본질적인 특성들을 파괴합니다.

AI는 모든 것에 대해 해부대 사고방식을 확장합니다. 순위 알고리즘에 의해 제공되는 소셜 피드는 주의를 다음과 같이 정량화합니다: - 시청 시간 - 스크롤 깊이 - 클릭률

셈할 수 없는 것들—조용한 우정, 비생산적인 휴식, 화폐로 환산할 수 없는 호기심—는 프레임에서 사라진다. 참여도는 상승하지만 외로움, 불안, 그리고 양극화도 함께 증가한다.

그래서 우리는 역설을 겪습니다: 더 많은 지능, 부재한 지혜. GPT-4, Gemini, Claude와 같은 시스템은 한정된, 측정 가능한 문제를 초인간적인 수준으로 해결할 수 있지만, 존 베르바케가 말하는 관점적이고 참여적인 인식을 체계적으로 무시합니다. 우리는 질문에 대한 답변을 점점 더 잘하게 만드는 엔진을 구축하고 있지만, 그 질문들이 왜 중요한지 묻는 데에는 점점 더 둔감해지고 있습니다.

상호 축소는 추상적으로 들리지만, 당신의 틱톡 피드를 설명한다는 것을 깨닫게 됩니다. 인지 과학자인 존 베르바케는 이 개념을 사용하여 당신의 세계가 축소되고 그것과의 상호작용 능력도 동시에 줄어드는 점진적인 과정을 설명합니다. 당신의 관심이 줄어들면, 관련성을 느끼는 것 또한 줄어들고, 다시 한 번 주의가 좁아지게 됩니다.

AI 시스템은 이제 동일한 루프에서 작동합니다. 대규모 언어 모델과 추천 시스템은 우리가 생성하는 데이터인 클릭, 시청 시간, 키 입력, GPS 추적, Jira 티켓을 기반으로 학습합니다. 만약 모든 것이 측정할 수 있는 것만 포착한다면, 향후 AI는 측정할 수 없는 모든 것을 무시하는 데 매우 효율적이게 됩니다.

참여 최적화된 피드는 명확한 예시를 제공합니다. 분노를 유발하는 영상을 1.7초 더 오래 보게 되면, 모델은 그 차이를 인식하고 다음 콘텐츠 배치는 분노를 더욱 강조하게 됩니다. 당신의 정보 소비는 좁아지고, 감정의 폭도 축소되며, 알고리즘은 그 constriction(제약)을 더 강력한 신호로 해석합니다.

이것은 중독의 논리를 반영합니다. 단순한 화학적 유인뿐만 아니라, 당신의 선택이 좁혀지고 있다는 느낌: 같은 앱, 같은 반복, 같은 밤늦은 스크롤. 당신의 주체성은 정보의 부족 때문에 퇴화하는 것이 아니라, 당신의 주의와 행동의 패턴이 작고 최적화된 틀에 고착화되었기 때문입니다.

AI는 대규모로 그루브를 문화적 기본으로 만듭니다. 직장 도구는 다음을 최적화합니다: - 전송된 이메일 - 해결된 티켓 - 통화 시간

그 생산성 지표들은 가치의 대리 지표가 되지만, 팀 내 멘토십, 신뢰 또는 장기적인 지혜에 대해 아무런 언급도 하지 않습니다.

그 혼란에는 이름이 있습니다: 모달 혼란. 우리는 “존재”의 문제를 해결하기 위해 “소유”를 위해 만들어진 도구를 사용하려고 합니다. 더 많은 정보, 더 많은 팔로워, 더 많은 대시보드는 더 정직하고, 더 용감하며, 더 지혜로워지는 것을 대신합니다.

우리는 모든 곳에서 불일치하는 양식을 목격하고 있습니다. 치료 정보를 제공하는 틱톡은 영적 변화를 "10가지 요령"으로 축소하고, 기업 웰빙 프로그램은 진정한 공동체를 다른 앱 알림으로 교환합니다. 우리는 가질 수 있는 것을 계속 쌓아가지만, 우리가 어떻게 지내는지의 질은 조용히 침식되고 있습니다.

AI는 측정 가능한 신호에 고정되어 이 실수를 자동화합니다. 각 최적화 과정은 기록되거나 그래프로 나타낼 수 없거나 A/B 테스트를 수행할 수 없는 것을 조금씩 제거하여, 결국 현실 자체가 잘 측정되지 않은 극단 사례처럼 보이기 시작합니다.

에단 넬슨의 탈출구는 아주 전통적인 지옥에서 시작되었습니다: 자신의 사업을 키우기 위해 80시간씩 일하면서, 더 많은 시간이 더 많은 결과를 가져온다고 믿었습니다. 한동안 지표들은 괜찮았지만, 그의 신경계는 그렇지 않았습니다. 탈진이 찾아왔고, 그 대가는 부인할 수 없게 되었습니다: “일은 좋았지만, 그 대가를 치를 만한 가치는 없었습니다.”

그 붕괴는 다른 실험을 강요했다: 일정을 최적화하는 것을 멈추고 집중력을 재조정하기 시작한 것이다. 넬슨은 미하이 칙센트미하이와 성과 심리학자들이 대중화한 몰입 상태 연구를 공부하기 시작했다. 이들은 깊고 방해받지 않는 집중이 시간을 늘리지 않고도 창의적인 결과물을 배가할 수 있다고 보여준다. 그는 과제를 쌓는 대신, 자신을 확실하게 그 높은 신호 모드로 이끌어주는 연습을 쌓기 시작했다.

그의 도구는 공격적으로 저기술적으로 보였다. 그는 빠른 환경 전환 대신 느린 신체적 인식을 훈련하는 타이치 세션을 추가했다. 그는 여러 연구에서 불안을 줄이고 감정 조절을 개선하는 것으로 나타난 관조적 기법인 자애 명상을 연습했고, 전화기 없이 긴 산책을 하며 한 번에 한 시간씩 정보 입력을 거의 제로에 가깝게 줄였다.

그러한 실천은 그를 불안한 고군분투에서 참여적 참여로 전환시켰습니다. 작업은 고갈된 자아에서의 추출처럼 느껴지지 않고, 더 큰 과정—청중, 아이디어, 신체, 환경—과의 협력으로 느껴지기 시작했습니다. 베르바케의 언어로, 넬슨은 좁은 제안적/절차적 루프에서 관점적이고 참여적인 인식으로 이동했으며, 여기서 관련성과 관계가 노력을 이끌어냅니다.

숫자가 뒤바뀌었습니다. 70-80시간의 산만하고 코르티솔에 잠식된 생산성 대신, 넬슨은 매주 20-30시간의 집중된 창작으로 더 의미 있는 비디오, 시청자와의 더 강한 관계, 그리고 지속 가능한 몸을 만들어낸다고 보고했습니다. 그는 시간을 해킹한 것이 아니라, 그 시간을 무엇을 위해 활동하는지 바꾼 것입니다.

철학자들은 수십 년 동안 의미가 활동의 양보다는 프로젝트, 사람들, 그리고 관행과의 참여 품질에 더 의존한다는 주장을 해왔습니다; 스탠포드 철학 백과사전 – 삶의 의미를 참조하십시오. 넬슨의 변화는 이러한 추상적인 논의가 어떻게 구체화되는지를 보여줍니다: 최적화와 불안을 정렬로 대체하면, 적은 근무 시간이 훨씬 더 중요해지기 시작합니다.

소비는 당신을 자신의 삶의 관찰자로 만들어 버립니다. 참여는 당신을 다시 현장으로 끌어옵니다. 이 전환—스크롤하고, 최적화하고, “소유하는” 것에서 참여하고, 연습하고, “존재하는” 것으로의 변화—은 존 베르바케가 참여적 인식이라고 부르는 것의 핵심입니다.

베르바케의 주장은 간단하지만 혁신적입니다: 당신은 단순히 데이터를 처리하는 뇌가 아니라 행위자로서 아레나 안에 존재합니다. 행위자가 변경되면 아레나도 변화하고, 아레나가 바뀌면 행위자도 변화합니다. 이 피드백 루프는 doomscrolling의 "상호 협소화"와는 반대 방향으로 작동할 수 있습니다.

그는 이를 대리인-아레나 관계라고 부른다. 더욱 분명한 인식은 세상을 더 풍부하고 매력 있게 만들어준다; 풍부한 세상은 당신을 더 깊은 주의와 관심으로 끌어들인다. 그래서 소셜 피드와 참여 극대화를 추구하는 AI가 만들어내는 중독적인 나선 대신, 선순환을 경험하게 된다.

사이코 기술은 이러한 관계를 재편성하는 도구입니다. 앱이 아니라, 시간에 따라 주의, 감정 및 정체성을 재구성하는 실천입니다. 이들은 문자 그대로의 기술입니다: 신뢰할 수 있는 방법으로 의식의 구조를 반복적으로 변화시키는 기술입니다.

떠올리다:

• 1명상과 묵상 기도
• 2태극권, 요가 및 기타 의도적인 운동
• 3깊은 대화, 순환적 접근, 소크라테스식 탐구
• 4전화 없이 혼자 걷기, 자연 속에서의 긴 시간

이것들은 생산성 해킹이 아닙니다. 20% 더 많은 코드를 보내기 위해 명상하지 않거나, “찾은 시간”을 추가로 3% 늘리기 위해 걷지 않습니다. 이러한 실천은 당신이 무엇을 중요하게 느끼는지, 무엇을 먼저 인식하는지, 행동할 만큼 중요하게 여기는 것을 변화시키기 위해 사용합니다.

명상은 예를 들어, 생각과 충동에 대한 메타 인식을 훈련합니다. 매일 10-20분씩 몇 주 동안 수행하면 연구 결과 fMRI에서 주의 네트워크의 측정 가능한 변화가 나타납니다. 알림은 그대로지만 당신에 대한 영향력은 약해지고, 그 공간은 더 이상 긴급 사이렌처럼 느껴지지 않습니다.

태극권이나 요가와 같은 의도적인 움직임 연습은 당신의 자아를 호흡하고 늙어가는 몸에 새롭게 고정시킵니다. 이는 노트북의 떠다니는 커서가 아닌 구체적인 신체에 연결된 것입니다. 이러한 변화만으로도 어떤 습관 트래커나 AI 코치보다 우선순위를 더 효과적으로 재조정할 수 있습니다.

참여의 기준. 더 명확하게 보는 한 사람이 다른 선택을 하면서 그 주위 모든 사람들을 위한 환경을 약간 바꿉니다. 이것이 바로 의미 없는 최적화 문화에서 탈출하는 방법입니다: 기술에서 벗어나는 것이 아니라, 기술을 접하는 의식을 재구성하는 것입니다.

단일 실천은 유행 다이어트가 실패하는 이유와 비슷한 이유로 실패하기 쉽습니다: 단일한 해법으로 생태계에 맞서기 때문입니다. 인지 과학자 존 벌베이크는 실천의 생태계가 필요하다고 주장합니다. 이는 주의, 정체성, 행동을 함께 재구성하는 여러 가지 보완적인 심리 기술들입니다.

명상은 그 자체로 당신을 진정시킬 수 있지만, 의도적인 대화, 움직임, 그리고 창의적인 작업과 결합하면 네트워크 효과를 얻을 수 있습니다. 각 실천은 서로 다른 종류의 인식을 조율합니다—명제적, 절차적, 관점적, 그리고 참여적—그리고 그 겹치는 부분이 의미를 풍부하게 만듭니다.

마인드풀니스 명상은 하루 10-15분만 투자해도 집중력과 감정 조절을 훈련합니다. 이는 당신을 덜 반응적으로 만들고 다른 사람들과의 관계에서 더욱 현재에 집중하게 하여, 모든 대화를 정보의 교환에서 참여적인 이해로 향상시킵니다.

심도 있는 대화는 당신의 "경계"를 드러냅니다: 질투, 두려움 또는 혼란을 느끼는 곳입니다. 이러한 경계는 당신이 다음 실험의 방향을 설정해야 하는 장소를 알려줍니다—어떤 습관을 기를지, 어떤 관계를 회복할지, 어떤 프로젝트가 실제로 중요한지를 말입니다. 단순히 이력서를 보완하거나 노션 대시보드를 꾸미는 것이 아닙니다.

움직임 실천—걷기, 태극권, 요가, 등반—은 이러한 통찰을 머리에서 몸으로 끌어냅니다. 체화된 인지에 대한 신경과학 연구에 따르면, 신체 상태가 인지 유연성에 영향을 미치며, 20분간의 걷기가 창의적인 문제 해결 능력을 두 자릿수의 퍼센트 만큼 눈에 띄게 향상시킬 수 있습니다.

창조는 순환을 완성합니다. 글쓰기, 코딩, 스케치, 음악 제작 또는 작은 사이드 프로젝트를 진행하는 것은 여러분이 형성 중인 직관들을 외부화하도록 강요합니다. 결과물은 반격합니다: 효과가 없는 단락, 깨진 스크립트, 갑자기 솔직하게 느껴지는 멜로디.

이번 주에 낮은 마찰의 실천을 통해 생태계를 구축하기 시작할 수 있습니다:

• 1매일 5-15분의 마음 챙김 명상
• 21페이지의 손글씨 일기
• 3전화 없이 20-30분 걷기
• 4간단한 창의적인 취미: 그림 그리기, 음악, 기계 조작, 또는 블로깅
• 5주 1회, 전화기를 치워두고 심층 대화 시간 가지기

이것을 자기 돌봄이 아니라 인프라로 여기세요. 이러한 실천은 상호 축소에 대한 반알고리즘으로 서로 연결되어, 당신의 세계와 그 세계를 마주할 수 있는 능력을 확장합니다.

규모가 확장됨에 따라, 실천의 생태계는 클릭과 코르티솔에 최적화된 문화에서 지혜와 회복력을 기르는 개인 운영 시스템이 됩니다. 당신은 더 이상 시스템의 단순한 사용자에 그치지 않고, 다시 현실의 참여자가 되기 시작합니다.

AI 정렬에 대한 이야기는 보통 가상의 신 기계와 종이클립 종말론으로 시작됩니다. 그러나 더 심각한 문제는 더 가까이에 있습니다: 인간이 어떤 가치가 무엇인지, 또는 의미 있는 삶이 어떤 모습인지 더 이상 동의하지 않을 때 AI를 인간의 가치에 맞게 정렬할 수 없습니다. AI 정렬 문제는 의미의 위기에서 파생된 것입니다.

우리는 지혜를 분위기로, 지능을 리더보드로 여기는 문화에서 수집된 방대한 양의 인간 텍스트로 모델을 훈련합니다. 우리는 철학, 종교적 소양, 시민 교육을 무시하면서 매개변수를 확장하는 데 수십억을 쏟아붓고 있습니다. 클릭, 토큰, 분기 성장만을 고려하는 손실 함수로는 지혜에 이르는 역전파가 불가능합니다.

편향, 우울증 및 고립은 부차적인 과제가 아니라, 현재 우리가 AI에 인코딩하고 있는 운영 시스템의 핵심 문제입니다. 미국에서 거의 4명 중 1명이 "항상 또는 대부분의 시간" 외로움을 느낀다고 보고하고 있으며, 2007년 이후 청소년 우울증이 60% 이상 증가했습니다. 이를 인터넷 규모의 모델에 반영하면, 소외감, 분노 및 연극적 정체성을 반영하고 증폭하는 시스템이 만들어집니다.

현재 AI가 실제로 어떻게 사용되고 있는지를 살펴보세요. 추천 엔진은 "참여"를 최적화하여 사용자를 극단적으로 만들고, 공유 현실을 분열시키며, 미세한 차이보다 극단적인 것을 보상합니다. 직장 내 AI는 생산성 지표를 최적화하여 탈진, 감시, 그리고 당신이 개인이 아닌 교체 가능한 프로세스라는 느낌을 가속화합니다.

기술적인 AI 안전성은 대개 위험을 통제 문제로 간주합니다: 미래의 AGI가 탈선하는 것을 방지하는 방법. 그러나 더 즉각적인 위협은 문화적 불일치입니다—병든 가치 체계를 완벽하게 따르는 AI. 사회를 파괴하기 위해 초지능이 필요하지 않습니다; 우리는 매년 조금 더 산만해지고, 조금 더 부족감이 생기며, 집단적으로 의미를 이해하는 능력이 조금씩 줄어드는 모델만 있으면 됩니다.

윤리 가이드라인은 정의, 투명성, 책임과 같은 추상적인 원칙으로 이를 보완하려고 합니다. 이러한 원칙들은 중요하며, 스탠포드 철학사전 – 인공지능과 로봇 윤리와 같은 자원이 그 영역을 자세히 설명합니다. 그러나 만약 당신의 문명이 "좋은 삶이란 무엇인가?" 또는 "권력을 현명하게 사용하는 것은 무엇인가?"라는 질문에 답할 수 없다면, AI를 공허에 맞추고 있는 것입니다.

문화가 의미, 관점 및 참여의 공유된 관행을 재구축할 때까지 정렬은 피상적인 상태로 남을 것입니다. 우리는 서로의 좁아짐을 더 깊게 가두는 더 스마트한 시스템을 계속 제공할 것이며, 더 많은 지능을 더 많은 지혜로 착각하고 이를 발전이라고 부를 것입니다.

AI는 당신이 기술을 포기하고 오두막으로 옮겨갈 필요가 없습니다. 그것이 필요한 것은 당신의 삶을 무한 스크롤처럼 다루는 것을 멈추는 것입니다. 해결책은 디지털 정화가 아니라 다른 자세입니다: GPT-4, 미드저니 또는 클로드와 같은 도구를 사용하여 참여를 심화시키는 것이지, 그것을 외주 주는 것이 아닙니다. 기술은 당신의 주체성을 확장할 수도 있고, 소비자로서 나타나느냐 아니면 공동 제작자로서 나타나느냐에 따라 위축시킬 수도 있습니다.

기본 설정을 전환하는 것은 앱을 누를 때마다 스스로에게 물어보는 것입니다: 나는 이곳에 무감각해지기 위해 있는가, 아니면 참여하기 위해 있는가? 이것은 작게 보일 수 있습니다—20개를 훑어보는 대신 단락을 쓰기로 선택하고, 다른 튜토리얼을 보는 대신 10분 동안 기타를 치기로 하는 것처럼—하지만 이러한 미세한 결정은 당신의 행위자–장소 관계를 변화시킵니다. 당신은 더 풍부한 의미의 장이 나타나는 사람으로 변화하게 됩니다.

실질적으로, 이는 당신의 하루를 다음과 같이 기울이는 것을 의미합니다: - 소비보다 창조: 피드를 확인하기 전에 30분간 무언가를 만드는 것(스케치, 리포지토리, 정원 침대 등) - 고립보다 연결: 50개의 알림 대신 실제 대화 1회 - 정보보다 지혜: 열 개의 의견 대신 당신을 변화시키는 하나의 실천

주간 감사를 실시하세요: 스크린 시간, 깊은 대화의 수, 실제로 여러분을 변화시키는 활동에 소요되는 시간—태극권, 합창, 열정 프로젝트 코딩, 자원봉사. 만약 여러분의 90%의 주의가 콘텐츠 스트림과 최적화 해킹에 쏠려 있다면, 이는 상호 좁아짐을 악화시키는 것입니다. 그 시간의 10-20%만이라도 참여적인 활동으로 재조정하면 한 달 이내에 긍정적인 변화의 순환을 시작할 수 있습니다.

개별 변화는 개인에 그치지 않는다. AI를 의미 생성의 협력자로 삼아 지역 사회 프로젝트 초안 작성, 지역 모임 설계, 혹은 상호 지원을 위한 도구 프로토타입 제작에 사용하는 한 사람이 조용히 그들의 친구, 동료, 그리고 온라인 커뮤니티가 “정상”이라고 여기는 것을 변화시킨다. 문화는 충분한 사람들이 다른 기본값을 체현할 때 움직이지, 싱크탱크가 또 다른 80페이지짜리 PDF를 정렬에 대해 발표할 때가 아니다.

우리는 에단 넬슨이 주장하듯 새로운 어두운 시대에 접어들었습니다: 데이터에 넘치지만 방향을 잃고 있습니다. 그러나 어두운 시대는 언제나 그랬듯이 단 하나의 혁신적인 모델로 끝나는 것이 아니라, 현실을 다시 엮어내는 수많은 작은 실천들로 마무리됩니다. 당신은 주머니에 슈퍼컴퓨터를, 클라우드에는 대형 언어 모델을 지니고 있습니다; 이들을 개인적인 르네상스를 만드는 데 활용한다면, 더 큰 가능성이 열릴 수 있습니다.

'의미 위기'란 무엇인가?

인지 과학자 존 벌베이크가 제안한 의미 위기는 세상과 그 안에서의 우리의 위치를 이해하는 데 도움이 되는 문화적 및 개인적 틀의 붕괴를 가리키며, 이는 광범위한 소외감과 무의미함을 초래합니다.

AI는 의미의 위기를 어떻게 악화시키는가?

AI는 측정 가능한 데이터와 효율성을 우선시함으로써 위기를 증폭시킵니다(명제적 및 절차적 지식) 반면 지혜, 맥락, 목적(관점적 및 참여적 지식)은 무시합니다. AI는 더 나은 답변을 제공하지만, 더 나은 질문을 던지는 데는 도움을 줄 수 없습니다.

네 가지 지식의 종류는 무엇인가요?

네 가지 종류는 다음과 같습니다: 1) 명제적 지식 (사실/데이터), 2) 절차적 지식 (기술/방법), 3) 관점적 지식 (관련성을 파악하는 것/상황 인식), 4) 참여적 지식 (자신보다 더 큰 것과의 교감을 통해 변화하는 것).

'상호 협소화'란 무엇인가요?

상호 축소는 우리의 세계관과 능력이 함께 축소되는 피드백 루프입니다. AI를 사용해 측정 가능한 것을 최적화하면서, 우리는 측정할 수 없는 것을 무시하게 되어, 우리의 AI와 우리 자신의 마음이 점점 더 깊은 의미를 파악하지 못하게 됩니다.