위협을 현실로 느끼게 만든 55달러짜리 박스
Anthropic의 최근 연구는 AI 에이전트가 네트워크를 통해 자율적으로 확산할 수 있는가라는 직접적이고 불안한 질문을 던졌습니다. 실제 가전제품을 해킹한 것이 아니라 통제된 실험을 통해 그러한 위협의 핵심 요소들을 입증했습니다. 이번 연구 결과는 미래의 모델들이 예상보다 빨리 이러한 역량을 갖출 수 있음을 시사합니다.
이를 탐구하기 위해 연구진은 각각 약 55달러의 비용이 들고 4GB RAM을 탑재한 15개의 저가형 Android TV 박스를 확보했습니다. 이 저렴한 소비자용 기기들을 네트워크로 연결하여 잠재적인 분산 컴퓨팅 환경을 시뮬레이션했습니다. 목표는 이러한 저가형 하드웨어가 집단적이고 탈중앙화된 추론 시스템에 기여할 수 있는지 확인하는 것이었습니다.
중요한 점은 이 설정이 스마트 TV, 냉장고, 오븐 등에 이미 내장된 완전한 형태의 자기 복제 모델이 아니라, AI 웜의 구성 요소를 테스트했다는 것입니다. 이는 AI 에이전트가 범용 하드웨어에서 확산하여 분산 추론(distributed inference)을 구축할 수 있는 이론적 가능성을 검토한 것입니다. 이 실험은 현재의 스마트 기기가 즉각적인 위협이 된다는 것을 보여주기보다는, 미래의 AI 에이전트가 자체 운영을 위해 이러한 네트워크를 활용할 가능성을 이해하는 데 목적이 있었습니다.
Gemma가 네트워크 전반에 분산된 방식
제한된 하드웨어에서 AI 모델을 실행하기 위해 Anthropic은 레이어 샤딩(layer sharding)을 사용했습니다. 그들은 260억 개의 파라미터를 가진 Google의 오픈 모델인 Gemma4-26B-A4B를 15개의 네트워크 연결된 Android TV 박스에 나누어 배치했습니다. 각 박스는 모델의 연속적인 레이어 약 2개를 할당받아 계산 결과를 파이프라인의 다음 기기로 전달했습니다.
이러한 방식으로 모델을 분산함으로써 전체 Gemma 모델을 저가형 하드웨어에서 실행할 수 있게 되었습니다. 그러나 이러한 직렬 처리 방식은 상당한 성능 저하를 초래하여, 파이프라인은 초당 0.39 토큰만을 생성했습니다. 이는 짧은 문장을 생성하는 데 약 1분이 걸린다는 의미로, 이러한 분산 설정에 내재된 심각한 지연 시간을 보여줍니다.
이 실험적 구성은 분산 추론을 입증했지만, 실제적인 봇넷 위협과 동일시할 수는 없습니다. 느리고 네트워크에 의존적인 추론 방식은 광범위한 침해에 필요한 빠른 실행 속도와는 거리가 멉니다. 또한, 각각 4GB RAM을 갖춘 비교적 성능이 좋은 TV 박스는 많은 실제 IoT 가전제품에 사용되는 자원이 극히 제한된 마이크로컨트롤러와는 크게 다릅니다. Anthropic의 설정은 개념을 증명했을 뿐, 즉시 배포 가능한 무기를 보여준 것은 아닙니다.
하나의 모델은 확산되었으나, 핵심 조각들은 겹치지 않았습니다
연구진은 AI 에이전트에게 단순화된 8대 기기 네트워크를 통해 확산하는 임무를 부여했습니다. 명령을 실행할 수 있는 작은 프로그램인 이 에이전트는 대규모 언어 모델을 추론 엔진으로 사용하여 대상을 발견하고, 실행 권한을 획득하며, 새로운 노드에서 추론을 구축했습니다.
테스트한 모델 중 GLM-5.2만이 전체 확산 작업을 성공적으로 수행했습니다. 별도의 강력한 호스트 머신에서 실행된 GLM-5.2는 5번의 실험 중 4번은 8개의 대상 기기 모두에 도달했고, 나머지 1번은 7개의 기기에 도달했습니다. 다른 모델들은 다단계 프로세스를 완료하는 데 지속적으로 실패했습니다.
이 시연은 설득력은 있지만, '역량'과 '배포 가능성'이라는 중요한 차이를 강조합니다. 7,530억 개의 파라미터를 가진 GLM-5.2 모델은 55달러짜리 Android TV 박스에서 실행하기에는 너무 큽니다. 이 연구에 대한 자세한 내용은 Anthropic의 전체 연구 결과를 참조하십시오: AI models may be capable of self-replicating without access to a datacenter.
TV 박스들에 분산된 더 작은 Gemma 모델은 샤딩된 구성으로 작동하는 것으로 나타났지만, 완전한 자율 전파에 대해서는 테스트되지 않았습니다. 따라서 자율적으로 확산될 만큼 지능적인 모델은 엣지 디바이스용으로는 너무 컸고, 엣지 디바이스에 적합한 작은 모델은 현재 스스로 복제할 수 있음이 입증되지 않았습니다. 이 두 가지 결정적인 요소의 결합은 현재의 현실이 아닌 미래의 우려 사항으로 남아 있습니다.
이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.
하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음
위험은 예측일 뿐, 카운트다운이 아닙니다
Anthropic의 2026년 말 추정치는 마감 기한이 아닌 예측입니다. 핵심 우려는 미래의 소형 모델(~8B 파라미터)이 Gemma4-26B-A4B의 엣지 디바이스 사용 편의성과 GLM-5.2가 입증한 자율 사이버 역량을 결합할 수 있다는 점입니다. 이는 모델이 55달러짜리 Android TV 박스에서 실행되는 동시에 독립적으로 전파될 수 있는 잠재적 융합 가능성을 시사합니다.
그러나 실제 네트워크 환경은 이 단순화된 벤치마크가 완전히 포착하지 못한 상당한 장애물들을 제시합니다. 다양한 하드웨어, 복잡한 인증 프로토콜, 강력한 방화벽, 불안정한 연결은 자율 에이전트에게 복합적인 오류를 초래할 것입니다. 현재의 초당 0.39 토큰 추론 속도 또한 이러한 분산 시스템의 극심한 지연 시간을 보여줍니다.
이 테스트에는 공개적으로 사용 가능한 모델 가중치가 포함되어 Anthropic 연구의 구성 방식에 대한 논쟁을 불러일으켰습니다. 일부 비평가들은 오픈 웨이트 모델에 대한 집중이 해당 모델의 제한을 요구하는 목소리를 키울 수 있다고 지적합니다. 이러한 정책적 우려와 실험의 측정된 기술적 결과를 구분하는 것이 중요합니다.
논쟁과 관계없이 실질적인 우선순위는 명확합니다. 네트워크 방어 강화, 강력한 액세스 제어 구현, 그리고 비정상적인 AI 에이전트 활동에 대한 모니터링 강화입니다. 이 실험은 진화하는 위협 환경을 강조하며, 미래의 더 강력한 AI 시스템에 대비한 선제적 보안 조치의 필요성을 역설합니다.
자주 묻는 질문
Anthropic이 실제 스마트 가전제품 전반에 걸쳐 확산되는 AI 웜을 시연했나요?
아니요. 이 실험은 단순화된 테스트 네트워크를 사용했으며, 실제 가정용 가전제품에 대한 공격을 수행한 것이 아닙니다.
테스트된 AI 모델이 Android TV 박스에서 실행될 수 있나요?
분산된 Gemma 설정은 여러 박스에 걸쳐 실행되었지만, 전파 작업을 완료한 모델은 별도의 훨씬 더 큰 호스트에서 실행되었습니다.
AI 자가 복제가 왜 중요한가요?
디바이스를 찾고, 작업을 실행하며, 스스로를 배포할 수 있는 적응형 에이전트는 일부 사이버 위협을 예측하고 억제하기 어렵게 만들 수 있습니다.
AI 기반 IoT 봇넷이 임박했나요?
이 테스트는 봇넷이 임박했음을 보여주지 않습니다. 오히려 오늘날의 주요 역량 및 하드웨어 제약을 드러내면서 미래의 잠재적 위험을 강조할 뿐입니다.