차단은 단순한 챗봇 이상의 문제였습니다
OpenAI는 PewDiePie로 알려진 Felix Kjellberg의 계정을 정지했다가 이의 제기 후 복구했으나, 이후 다시 차단했습니다. 정지 사유는 OpenAI의 이용 약관에서 경쟁 모델 구축을 위해 금지하는 증류(distillation) 과정이었습니다. Kjellberg는 이의 제기에서 "증류하지 않았다고 맹세한다"고 밝힌 것으로 알려졌습니다.
증류는 더 크고 강력한 모델의 응답을 사용하여 더 작은 모델을 훈련하는 것을 포함합니다. OpenAI의 약관은 사용자가 자사 서비스를 경쟁하는 모델 개발에 사용하는 것을 제한합니다. 특히 OpenAI 이용 약관 제2c조는 자사 모델의 출력을 사용하여 다른 모델을 훈련하는 것을 금지합니다.
Kjellberg의 프로젝트인 Ajax는 로컬 운영을 위해 설계된 미세 조정된 Qwen 3.5 9B 모델입니다. 그는 모델에서 검열을 제거하려고 시도한 것으로 알려졌습니다. 훈련 데이터를 생성하기 위해 Kjellberg는 OpenAI 모델의 출력을 증류하려 했습니다. OpenAI는 모델의 추론 과정, 즉 "생각의 사슬(chain-of-thought, CoT)" 토큰을 암호화하는 것으로 알려져 있습니다.
그는 OpenAI의 자체 API를 사용하여 이 추론 과정을 복호화하는 방법을 보여주는 연구를 찾아낸 것으로 전해졌습니다. Kjellberg는 이 방법이 "작동했다"고 말했지만, OpenAI는 증류를 이유로 그를 차단했습니다. 이의 제기 후 계정은 복구되었으나, 추가 활동으로 인해 두 번째 차단이 이루어졌습니다. OpenAI는 최근 Moonshot AI의 Kimi와 관련된 개발자들의 사례를 포함하여 유사한 대규모 증류 캠페인을 단속하고 있습니다.
Ajax, AI를 가정으로 가져오다
PewDiePie로 알려진 Felix Kjellberg는 Ajax라는 로컬 AI 프로젝트를 개발했습니다. 이 시스템은 Alibaba의 Qwen 3.5 9B 모델을 미세 조정한 것으로, 개인용 컴퓨터에서 작동하도록 설계되어 외부 클라우드 서비스에 대한 의존도를 줄였습니다.
90억 개의 매개변수를 가진 모델을 로컬에서 실행하면 사용자에게 더 큰 통제권을 제공하고 구독 비용을 절감할 수 있습니다. 그러나 이러한 모델이 호스팅되는 최첨단 시스템의 성능, 속도, 신뢰성을 자동으로 따라잡을 수는 없습니다. 로컬 배포는 클라우드 기반 AI에서 흔히 볼 수 있는 컴퓨팅 성능과 정교한 기능 세트 사이에서 타협이 필요합니다.
Kjellberg는 표현 편집 기법을 활용하여 거부 행동을 제거함으로써 "검열되지 않은" 모델을 만들려는 노력을 설명했습니다. 이러한 안전 장치를 약화하면 유해하거나 편향된 출력이 생성될 가능성이 커집니다. 이러한 수정이 모델의 추론 능력이나 전반적인 작업 성능을 본질적으로 향상시키는 것은 아닙니다.
추론 토큰을 둘러싼 숨바꼭질
PewDiePie의 영상은 그가 훈련 데이터를 생성하기 위해 사용했다고 주장하는 방법을 설명합니다. 그는 OpenAI 모델로부터 유용한 응답이나 "좋은 재료"라고 표현한 추론 흔적(reasoning traces)을 얻기 위해 API 기반 기술을 탐구한 것으로 알려졌습니다. 이러한 접근 방식은 자신의 로컬 AI인 Ajax를 미세 조정하기 위한 예시를 확보하려는 목적이었습니다.
OpenAI와 같은 연구소는 일반적으로 내부적인 생각의 사슬 과정을 암호화하거나 모호하게 만듭니다. 접근 제어 및 서비스 모니터링은 특히 독점적인 모델 아키텍처 및 훈련 데이터와 관련하여 제공자의 기술적, 상업적 이익을 보호합니다. 특히 고급 모델에서 파생된 고품질 합성 데이터는 작은 모델의 성능을 크게 향상시킬 수 있습니다.
OpenAI의 서비스 약관은 자사 모델의 출력을 경쟁 모델 학습에 사용하는 것을 금지합니다. PewDiePie의 계정은 그가 이러한 추론 토큰을 추출하려고 시도한 후 "Distillation(증류)" 사유로 정지된 것으로 알려졌습니다. 그는 OpenAI의 자체 API를 사용하여 이러한 흔적을 해독하는 방법을 상세히 다룬 연구를 발견했으며, 그에 따르면 이 방법이 "작동했다"고 합니다.
OpenAI는 조직적인 증류 캠페인을 방해하기 위한 노력을 공개적으로 다루어 왔습니다. PewDiePie의 활동은 개인 계정과 관련된 것이지만, Moonshot AI와 같은 기업이 주도한 것으로 알려진 대규모 작업들도 유사한 방법을 사용했습니다. OpenAI는 최근 광범위한 추론 유출을 차단하기 위해 서버 측 패치를 구현했습니다. 더 자세한 정보는 Disrupting a Coordinated Model-Distillation Campaign - OpenAI를 참조하십시오.
이 글이 마음에 드셨나요? 매일 아침 이런 글을 메일로 받아보세요.
하루 한 통 · 두 번의 클릭으로 구독 취소 · 제3자 추적 없음
누가 누구의 데이터로부터 학습할 권리를 갖는가?
모델 출력 재사용 제한에 관한 논쟁은 AI 업계 내의 윤리적 긴장을 강조합니다. 비판자들은 AI 기업들이 저작권이 있는 자료를 포함하여 오픈 웹의 방대한 데이터를 기반으로 기초 모델을 학습시켜 놓고, 정작 사용자가 자사 독점 시스템의 출력을 활용하는 방식에는 엄격한 계약상 제한을 두는 것은 위선적이라고 주장합니다. 반면 기업들은 이러한 약관이 모델 개발 및 인프라에 대한 막대한 투자를 보호하기 위한 것이라고 반박합니다.
법적으로 이러한 문제는 별개로 다루어집니다. 저자나 예술가와 관련된 초기 학습 데이터에 대한 저작권 분쟁은 API 제공업체와 사용자 간의 계약상 의무와는 다릅니다. 특정 맥락에서의 공정 이용(fair use) 주장이 API에 액세스할 때 사용자가 동의한 서비스 제공업체의 명시적인 서비스 약관을 자동으로 무효화할 수는 없습니다.
PewDiePie의 Ajax 프로젝트는 성능이 뛰어나고 로컬에서 제어 가능한 AI 모델에 대한 커지는 관심을 잘 보여주며, 사용자에게 더 큰 자율성을 제공하고 클라우드 서비스에 대한 의존도를 낮춰줍니다. 그러나 반복되는 계정 정지는 지배적인 모델 제공업체의 액세스 규칙과 서비스 약관이 이러한 경로를 어떻게 제한할 수 있는지를 보여줍니다. 이러한 지속적인 역학 관계는 모델 개발자의 확립된 권리 및 규칙과 상호주의 사이의 고려를 강제합니다.
자주 묻는 질문
PewDiePie가 OpenAI로부터 정지당한 이유는 무엇인가요?
OpenAI는 증류(Distillation), 즉 자사 모델의 출력을 사용하여 경쟁 모델을 학습시키는 행위를 이유로 들었으며, 이는 약관상 금지되어 있습니다.
PewDiePie의 Ajax AI란 무엇인가요?
Ajax는 Alibaba의 Qwen 3.5 9B를 기반으로 미세 조정(fine-tuned)되어 소비자용 하드웨어에서 실행되도록 설계된 로컬 모델로 설명됩니다.
AI 모델 증류(Distillation)란 무엇인가요?
증류는 더 큰 모델의 출력을 사용하여 더 작은 모델을 학습시킴으로써, 대형 모델의 기능 일부를 더 컴팩트한 시스템으로 전이하는 기술입니다.
OpenAI가 증류를 이유로 사용자를 정지시킬 수 있나요?
OpenAI의 이용 약관은 자사 서비스나 출력을 사용하여 경쟁 모델을 개발하는 것을 제한하며, 회사는 액세스를 중단함으로써 해당 약관을 집행할 수 있습니다.