Google의 AGI 폭탄 발언 해설

Google DeepMind CEO Demis Hassabis는 급증하는 AGI 과장에 대해 냉혹한 현실 점검을 제시하며, 오늘날의 AI 시스템은 "AGI에 아직 한참 멀었다"고 주장했습니다. 그의 정의는 매우 높은 기준을 설정합니다: 진정한 발명, 지속적인 학습, 장기 계획을 포함하여 인간 인지 능력의 모든 범위를 보여줄 수 있는 시스템. 이러한 관점은 인상적인 좁은 영역의 성능을 일반 지능과 동일시하는 일반적인 업계의 서사에 정면으로 도전합니다.

Hassabis는 OpenAI가 최근 이산 기하학에서 Erdos conjecture를 반증한 것과 같은 중요한 돌파구(1946년 이후 미해결 문제)조차 AGI를 의미하지 않는다고 주장합니다. 특정 영역에서는 뛰어나지만, 현재 모델은 여전히 중요한 요소가 부족합니다: 신뢰할 수 있는 추론, Ramanujan과 유사한 진정한 창의성, 단순한 작업 실행을 넘어선 견고한 계획. 그들은 인상적인 답변을 생성하는 데 탁월하지만, 인간 인지에 내재된 일관성과 광범위한 이해에는 어려움을 겪습니다.

선도적인 AGI 연구소인 Google DeepMind의 수장으로부터 나온 Hassabis의 발언은 엄청난 무게를 가집니다. 그는 AGI가 이미 도래했거나 임박했다는 광범위한 믿음에 정면으로 반박하며, 현재 AI의 "jagged intelligence"를 강조합니다. 이 시스템들은 일부 영역에서는 최고 성능을 보이지만, 명시적이고 해킹적인 방지책 없이는 모델이 무작위적이고 관련 없는 용어를 삽입하는 악명 높은 "goblins" 현상과 같은 예측 불가능한 실패 모드에 시달립니다. 이러한 불일치는 진정한 AGI와 비교할 때 그들의 불완전한 본질을 강조합니다.

OpenAI는 최근 이산 기하학의 핵심 추측을 반증함으로써 AI의 특정하고 놀라운 힘을 보여주었습니다. 평면 단위 거리와 관련된 이 문제는 1946년 Paul Erdos에 의해 처음 제기되었으며 거의 80년 동안 미해결 상태로 남아 있었습니다. OpenAI 모델은 나중에 외부 수학자들에 의해 검증된 증명을 생성하여 고급 수학적 추론을 입증했습니다.

그러한 위업에도 불구하고, 현재 AI 시스템은 Andrej Karpathy가 만든 용어인 jagged intelligence를 보여줍니다. 그들은 좁은 영역에서는 superhumanly 수행하지만, 다른 영역에서는 예측 불가능하게 실패합니다. 이러한 불일치는 광범위한 이해와 신뢰할 수 있는 인지의 근본적인 부족을 강조하며, 인간의 일반 지능과는 극명한 대조를 이룹니다.

AI의 실패 모드는 종종 기이하고 인간답지 않게 나타납니다. Gary Marcus는 시스템이 설명할 수 없이 무작위 출력에 "goblins"와 같은 단어를 삽입하는 사례를 강조합니다. 이러한 특이점을 완화하려면 시스템 프롬프트에 "hack-y goblin-specific crud"가 필요하며, 이는 진정한 이해보다는 무차별 대입 패치에 의존함을 보여줍니다.

Marcus는 이러한 접근 방식을 컴퓨터 과학이라기보다는 "alchemy"라고 비판하며, 깊은 시스템적 불일치를 반영하는 "trillion dollar trainwreck"라고 꼬리표를 붙입니다. 이러한 이상한 행동은 고급 모델조차 진정한 AGI에 필요한 일관되고 근거 있는 이해가 부족하며, 대신 강력하지만 취약한 패턴 인식을 통해 작동한다는 점을 강조합니다.

그러나 모든 사람이 Hassabis의 신중한 입장에 동의하는 것은 아닙니다. 벤처 투자가 Marc Andreessen은 만약 인간이 오늘날 선도적인 AI 모델의 결합된 기술—복잡한 수학적 추측 해결, 코드 생성, 방대한 문서 요약—을 보여준다면, 우리는 그들을 명백히 천재라고 부를 것이라고 주장합니다. 이러한 관점은 이 시스템들이 이미 가지고 있는 놀랍지만 일관성 없는 능력을 강조합니다.

AGI의 정의 자체가 많은 혼란을 야기합니다. OpenAI 이사회 멤버인 Helen Toner는 X에서 "AGI"가 거의 쓸모없는 용어가 되었다고 제안했습니다. 사람들은 이를 전문가 챗봇부터 진정으로 의식 있고 자아를 가진 기계에 이르기까지 매우 다양하게 정의합니다. 이러한 의미론적 확산은 생산적인 논의를 흐리게 합니다.

AGI가 "도래했는지"를 논쟁하는 대신, 더 생산적인 접근 방식은 초점을 전환하는 것입니다. 우리는 AI가 현재 보유하고 있는 특정 능력을 정확히 파악하고 아직 부족한 핵심 능력을 식별해야 합니다. Demis Hassabis 자신도 오늘날의 시스템이 좁은 영역에서의 탁월함에도 불구하고 진정한 발명과 일관된 신뢰성이 부족하다는 점을 인정합니다. Hassabis의 견해에 대한 자세한 내용은 DeepMind: CEO Demis Hassabis says AGI Lags Human Reasoning | Technology Magazine를 참조하십시오.

이러한 재구성은 추상적인 철학적 논쟁을 넘어섭니다. 이는 대화를 구체적인 진전과 식별 가능한 격차에 기반을 두어 AI의 진화를 평가하는 더 명확한 지표를 제공합니다. 인상적인 좁은 AI부터 파악하기 어려운 일반 지능에 이르기까지 이러한 뚜렷한 지능 수준을 이해하는 것이 여전히 가장 중요합니다.

진정한 AGI를 달성하려면 고립된 탁월함 이상의 것이 필요합니다. Demis Hassabis는 오늘날 AI 시스템에서 부족한 다섯 가지 핵심 요소를 일관되게 지적합니다. 이러한 중요한 격차는 다음과 같습니다: - 장기적인 신뢰성: 장기간에 걸쳐 일관되고 오류 없는 작동을 보장합니다. - 완전한 자율성: 지속적인 인간의 감독이나 상세한 프롬프트 없이 시스템이 작동할 수 있도록 합니다. - 안정적인 기억력: 모델이 방대한 맥락과 시간 범위에 걸쳐 정보를 유지하고 회상할 수 있도록 합니다. - 현실 기반 추론: 추상적인 지식을 실제 세계의 이해와 물리 법칙에 연결합니다. - 진정한 발명: 패턴 인식을 넘어선 새로운 창조와 과학적 돌파를 위한 능력.

Hassabis는 엄격한 정의에도 불구하고 최근 AGI의 도래에 대해 놀랍도록 낙관적인 일정을 제시했습니다. 그는 이제 AGI가 이전 추정치보다 훨씬 빠른 2029-2030년에 나타날 수 있다고 예측합니다. 이러한 수정된 전망은 향상된 자기 주도성과 작업 조정을 약속하는 정교한 '에이전트 시스템'의 빠른 발전에 주로 기인합니다. 그는 이러한 시스템이 현재의 많은 한계를 극복할 것이라고 믿습니다.

진정한 AGI가 언제 실현될지에 관계없이, 현재의 강력한 AI 시스템은 이미 심오하게 혁신적입니다. 이들을 단순한 "자동 완성" 또는 "과장된 챗봇"으로 치부하는 것은 과학, 산업 및 일상생활 전반에 걸친 그들의 막대한 영향을 간과하는 것입니다. 이러한 급변하는 능력들을, 비록 불완전하더라도 무시하는 것은 어떤 조직이나 개인에게도 중대한 전략적 실책을 의미합니다. 이러한 AI 시스템은 단순히 미래의 미리보기가 아니라, 현재를 적극적으로 형성하고 있습니다.

Google DeepMind CEO Demis Hassabis는 AGI에 대해 무엇이라고 말했습니까?

Demis Hassabis는 현재 AI 시스템이 진정한 발명과 깊은 신뢰성과 같은 인간 인지 능력의 전체 범위를 결여하고 있기 때문에 인공 일반 지능(AGI)과는 "거리가 멀다"고 말했습니다.

AI에서 '들쭉날쭉한 지능(jagged intelligence)'이란 무엇입니까?

연구원 Andrej Karpathy가 만든 '들쭉날쭉한 지능(jagged intelligence)'은 AI가 일부 작업에서는 초인적인 수준으로 수행하지만, 다른 작업에서는 치명적으로 실패할 수 있는 방식을 설명합니다. 이는 인간의 더 일관된 인지 프로필과는 다릅니다.

AGI의 정의가 왜 그렇게 논란이 많습니까?

AGI 용어는 전문가들이 다르게 정의하기 때문에 논란이 많습니다. 어떤 이들에게는 전문가 수준의 챗봇을 의미하는 반면, 다른 이들에게는 자율적이고 의식 있는 기계를 의미하여, AGI의 등장을 둘러싼 논쟁이 매우 분열되어 있습니다.

진정한 AGI를 위해 어떤 핵심 역량이 부족한가요?

AGI에 부족한 핵심 구성 요소로는 장기적인 신뢰성, 진정한 자율성, 안정적인 기억력, 현실 세계에 기반한 추론, 그리고 주어진 작업을 해결하는 것을 넘어선 진정한 창의적 발명 능력이 있습니다.