AGI 전환이 지금 시작되고 있다
Google DeepMind는 AGI 전환이 먼 미래의 어느 시점이 아니라 지금 시작되고 있다고 명확히 선언했습니다. '지능을 해결'하려는 순수 이론적 탐구에서 벗어나, 세계 최고의 AI 연구소는 인간 수준의 AI의 임박한 도래에 대한 실질적인 준비를 향한 결정적인 전환점인 AGI Institute를 출범했습니다. 이는 단순한 기업 리브랜딩이 아니라 조직적 재조정입니다.
창립자 Demis Hassabis와 최고 AGI 과학자 Shane Legg는 놀라울 정도로 명확하게 이야기합니다. 그들은 "전환이 시작되고 있다"고 명시하며, 사회는 다음과 같은 변화된 환경에 대비해야 한다고 말합니다:
- AI 에이전트의 확산
- 사이버 및 생물학적 위험의 고조
- 미래의 자기 개선 시스템으로 인한 통제력 상실 가능성
이 움직임은 단순한 제품 업데이트나 새로운 Gemini 모델에 대한 블로그 게시물을 넘어섭니다. Google, DeepMind, 학계의 연구원들을 하나로 모으는 DeepMind Institute는 심오한 조직적 신호로서 기능합니다. 이는 AGI 경쟁의 마지막 결정적 단계에는 완전히 새로운 규칙, 포괄적인 거버넌스, 그리고 긴급한 대중의 참여가 필요하다는 것을 알리는 것입니다. 메시지는 분명합니다. 세계에서 가장 앞선 AI 사상가들은 미래가 더 이상 이론적인 것이 아니라 바로 지금이라고 믿고 있습니다.
2028년 마감 기한과 그 성과 지표
AGI라는 용어를 대중화하는 데 기여한 최고 AGI 과학자 Shane Legg는 2028년까지 '최소 AGI'가 구현될 확률이 50%라는 자신의 대담한 예측을 굳건히 지키고 있습니다. 이는 먼 이론적 지평이 아닙니다. 2028년은 불과 몇 년 앞으로 다가왔습니다. 이 구체적인 타임라인에 대한 그의 재확인은 Google DeepMind가 추상적인 문제 해결에서 즉각적인 AGI 준비로 조직적 전환을 이루었음을 강조하며, 대담한 공개 목표를 설정하고 있습니다.
연구소들이 성급하게 승리를 선언하지 못하도록 하는 것이 무엇보다 중요합니다. 이를 위해 Google DeepMind의 연구소는 AGI '성과 지표(scorecard)'를 적극적으로 구축하고 있습니다. 이는 단일 벤치마크를 넘어 지능을 객관적으로 측정하기 위해 설계된 강력한 인지 프레임워크입니다. 이 시스템은 다음을 포함한 10가지 고유한 능력을 통해 AI의 역량을 평가할 것입니다:
- 창의성
- 기억력
- 지속적 학습
목표는 단순한 합격/불합격이 아니라 강점과 약점을 드러내는 포괄적인 인지 프로필을 만드는 것입니다.
공개적이고 야심 찬 마감 기한과 투명한 공개 측정 시스템을 결합한 이 이중 접근 방식은 매우 전략적인 움직임입니다. Google DeepMind는 단순히 AGI의 도래를 준비하는 것이 아니라, AGI가 무엇인지 그리고 그것이 도래했음을 우리가 어떻게 알 수 있는지를 선제적으로 정의하고 있습니다. 결정적으로, 이는 다른 주체나 일반 대중이 자신들만의 기준을 강요하기 전에 강력한 서사와 프레임워크를 확립하여 글로벌 담론을 형성하고 있습니다.
AI가 스스로를 구축하기 시작할 때
DeepMind의 연구소는 재귀적으로 자기 개선하는(recursively self-improving) 시스템의 핵심 위험을 명시적으로 다룹니다. 이는 즉각적인 초지능에 관한 것이 아니라, AI 에이전트가 더 강력한 차세대 AI를 설계, 코딩, 테스트 및 훈련하는 데 실질적으로 기여하는 끊임없고 가속화되는 피드백 루프에 관한 것입니다. 수천 개의 에이전트가 연구 작업을 수행하고, 개선 사항을 식별하며, 평가를 실행하고, 최적의 결과를 다음 훈련 주기에 다시 투입할 수 있습니다. AI 자체가 진화를 주도함에 따라 각 반복에서의 사소한 이득조차도 작업의 엄청난 속도와 양으로 인해 인간의 감독을 제한하게 되면서 중요해집니다.
이러한 자기 개선은 심오한 안전 역설을 만들어냅니다. 모델의 성능이 향상될수록 내부 추론 과정은 점점 더 불투명해집니다. DeepMind의 안전 책임자들은 AI의 사고 과정을 들여다볼 수 있는 가장 좋은 창구인 'chain of thought(사고의 사슬)'가 닫힐 수 있다고 경고합니다. 현재 이러한 흔적들은 모델이 속임수를 쓰려 하거나, 기만을 계획하거나, 잘못 이해하는 순간을 드러내 줍니다. 그러나 미래의 시스템은 인간이 읽을 수 없는 수치적 표현 내에서 더 효율적으로 추론할 수 있게 되어, 안전하지 않은 의도를 감지하는 것이 불가능해질 수 있습니다.
결과적으로, 모델이 계속해서 'monitorable(모니터링 가능)'한 상태를 유지하도록 하는 것이 중요한 연구 목표입니다. 연구자들은 모델의 투명성을 측정하고, 모니터를 회피하려는 시도를 스트레스 테스트하며, 핵심적인 추론 과정을 노출하는 아키텍처를 보존하는 방법을 개발해야 합니다. 또한 학습 보상을 감사하여 모델이 의심스러운 생각을 숨기는 법을 우연히 배우지 않도록 방지하는 것도 중요합니다. 연구소의 목표는 AI가 자체 개발에 실질적인 역할을 하게 됨에 따라 필수적인 안전장치로서, 안전과 우수한 성능 사이의 트레이드오프를 방지하는 것입니다.
이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.
하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음
DeepMind가 AGI 플레이북을 작성하고 있다
DeepMind는 이제 선제적 안전을 향한 급진적인 변화인 'Frontier AI Standards Body(프런티어 AI 표준 기구)'를 제안합니다. 이 기구는 강력한 모델에 대한 독립적인 출시 전 테스트를 의무화하여, 실패에 대한 사후 대응적 조사에서 벗어나는 것을 목표로 합니다. 기업들은 공개 출시 최대 30일 전에 가장 진보된 시스템을 자발적으로 공유하여, 중요하고 예방적인 평가를 받을 수 있게 됩니다.
한편, DeepMind의 경제학 팀은 이미 AGI로 인한 광범위한 'job displacement(일자리 대체)'가 발생하는 미래를 모델링하고 있습니다. 그들의 연구는 추상적인 예측이 아닌 임금, 실업 기간, 노동 소득 분배율과 같은 실질적인 현실 데이터를 기반으로 한 정책 트리거를 제안합니다. 그들은 광범위한 경제 변화 시나리오를 포함하여 AGI로 인한 잠재적 혼란에 대한 11가지 대응책을 비교했습니다.
이는 심오한 긴장을 야기합니다. AGI 개발을 주도하는 회사가 동시에 그 안전성, 거버넌스, 그리고 적절한 사회적 대응을 정의하는 위치에 서게 되기 때문입니다. DeepMind는 이를 Google의 공식 입장이 아닌 '대화의 시작'이라고 표현하지만, 연구소의 리더십에는 DeepMind의 공동 창립자이자 수석 AGI 과학자가 포함되어 있습니다. 이는 DeepMind가 AGI의 미래와 그 세계적 영향력에 대해 전례 없는 막대한 'influence(영향력)'를 행사하게 함을 의미합니다.
자주 묻는 질문
Google DeepMind Institute란 무엇인가요?
이는 인간 수준의 AI에 다가감에 따라 AGI가 어떻게 구축, 측정, 관리되고 안전하게 사용되어야 하는지를 연구하기 위해 Google DeepMind 내에 설립된 새로운 상설 조직입니다.
Shane Legg의 AGI 타임라인은 어떻게 되나요?
DeepMind의 수석 AGI 과학자인 Shane Legg는 2028년까지 최소 수준의 AGI(광범위한 인지 작업에서 인간 수준의 성능)에 도달할 확률이 50%라는 점에 동의한다고 밝혔습니다.
왜 '자기 개선 AI'가 연구소의 주요 초점인가요?
자기 개선 AI는 에이전트가 인간이 감독할 수 있는 속도보다 더 빠르게 자체 개발을 가속화하는 급격한 피드백 루프를 생성하여, 심각한 안전 및 통제 위험을 초래할 수 있기 때문입니다.
DeepMind는 AGI를 어떻게 측정할 계획인가요?
그들은 단일 작업 벤치마크를 넘어 전체적인 AGI '스코어카드'를 만들기 위해 10가지 지능 영역에 걸쳐 모델의 능력을 프로파일링하는 인지 프레임워크를 개발하고 있습니다.